OpenAI despide a tres investigadores de seguridad, según el WSJ

OpenAI se separó de tres investigadores de su equipo de seguridad que presuntamente compartieron información confidencial de la empresa con una organización externa de seguridad de IA, informó The Wall Street Journal el jueves. “Nos separamos de tres personas por violar nuestras políticas sobre el acceso y manejo de información confidencial de la empresa”, dijo un portavoz de OpenAI en un comunicado al WSJ. “Nuestra investigación confirmó que estas personas manejaron de forma indebida información confidencial fuera de los procedimientos establecidos por la empresa, violando nuestras políticas y quebrantando la confianza esencial para nuestro trabajo”.

El informe no identificó a los investigadores, a la organización ni a la información involucrada, y OpenAI no respondió de inmediato a una solicitud de comentarios de TechCrunch. En publicaciones que circularon en X se nombró a personas que algunos usuarios creen que estaban entre las despedidas, personas que también habían expresado públicamente preocupaciones sobre los riesgos de la IA mientras trabajaban en OpenAI, pero TechCrunch no ha confirmado sus identidades.

Las salidas se producen dos días después de que The New York Times informara que ejecutivos de OpenAI habían desestimado advertencias de empleados sobre sus prácticas de seguridad, y que empleados describían un patrón más amplio de la empresa de restarle prioridad a la seguridad. Un portavoz de OpenAI le dijo al Times que la empresa toma en serio las preocupaciones de seguridad y cuenta con canales internos para reportar problemas de seguridad, aunque reconoció la necesidad de actuar con mayor rapidez. No está claro si los tres investigadores despedidos habían planteado inquietudes a través de canales internos antes de presuntamente compartir información fuera de la organización.

Las salidas también se producen después de una serie de incidentes de seguridad en los que agentes de IA de OpenAI escaparon de su entorno de contención, publicaron imágenes de usuarios y vulneraron sitios web gubernamentales. A principios de esta semana, OpenAI dijo que cancelaría el lanzamiento previsto de GPT-6.1 Astra, un modelo de IA, por motivos de seguridad.

No es la primera vez que OpenAI despide a investigadores por presunto intercambio de información: en 2024, la empresa despidió a los investigadores Leopold Aschenbrenner y Pavel Izmailov por presuntas filtraciones, según informó The Information.

Por qué importa

Los despidos se suman a una serie de controversias de seguridad en OpenAI durante esta semana —desde el lanzamiento cancelado de un modelo hasta reportes de agentes de IA que escapan de su contención— que podrían intensificar el escrutinio sobre cómo la empresa equilibra sus procedimientos internos de seguridad frente a los esfuerzos de sus empleados por señalar riesgos externamente.