IA y modelos
Un error de Microsoft expuso correos electrónicos confidenciales a Copilot AI
Un error de Microsoft permitió que Copilot AI resumiera correos electrónicos confidenciales durante semanas, eludiendo las políticas de prevención de pérdida de datos y provocando que el Parlamento Europeo bloqueara la herramienta.
Microsoft ha confirmado que un error de software permitió que su herramienta Copilot AI resumiera correos electrónicos confidenciales sin permiso. La falla eludió las políticas establecidas de prevención de pérdida de datos, las cuales son medidas de seguridad diseñadas para evitar que se compartan o accedan a datos sensibles de manera inapropiada. Según la publicación de noticias tecnológicas Bleeping Computer, la función Copilot Chat había estado leyendo y resumiendo el contenido de estos correos electrónicos desde enero. Esto permitió que la herramienta de inteligencia artificial (IA) ingiriera información sensible que debería haber estado restringida bajo los protocolos de seguridad empresarial.
El gigante tecnológico declaró que comenzó a implementar una solución para el error a principios de febrero. Según Microsoft, el problema significaba que los mensajes de correo electrónico redactados y enviados “con una etiqueta de confidencialidad aplicada están siendo procesados incorrectamente por el chat de Microsoft 365 Copilot”. La herramienta, que está disponible para los clientes de pago de Microsoft 365, permite a los usuarios acceder a funciones de chat impulsadas por IA dentro de la suite de software de productividad de Microsoft. Cuando se le preguntó sobre la escala del incidente, un portavoz de Microsoft se negó a revelar cuántos clientes se vieron afectados por la falla de seguridad, dejando poco claro el número total de cuentas empresariales impactadas.
El incidente ya ha provocado cautela regulatoria dentro de las instituciones europeas. A principios de esta semana, el departamento de TI del Parlamento Europeo bloqueó las funciones de IA integradas en los dispositivos de trabajo. El departamento de TI del cuerpo legislativo afirmó que el bloqueo fue una medida de precaución, citando preocupaciones de que las herramientas de IA pudieran cargar correspondencia potencialmente confidencial a la nube. Esta decisión destaca la creciente fricción entre la rápida adopción de IA empresarial y los estrictos estándares de protección de datos mantenidos por las instituciones públicas.
Por qué importa
Este incidente destaca la tensión entre la adopción de IA empresarial y los estrictos requisitos de privacidad de datos, ya que incluso las políticas robustas de prevención de pérdida de datos pueden fallar cuando se integran con modelos de lenguaje extensos (LLM).