Investigadores despedidos de OpenAI niegan mala conducta, advierten de efecto disuasorio

Jasmine Wang, Tomek Korbak y Mikita Balesni —los tres investigadores de seguridad de OpenAI despedidos la semana pasada— publicaron el jueves una carta abierta en la que niegan las afirmaciones de la empresa de que manejaron mal información sensible fuera de los procedimientos establecidos, y advierten de que los despidos están haciendo que sus excolegas teman expresarse y colaborar con expertos externos en seguridad, algo que hasta la semana pasada era parte normal de trabajar en OpenAI.

Los tres fueron despedidos después de presuntamente compartir información confidencial de la empresa con una organización externa de seguridad en IA; OpenAI dijo que violaron la política de la empresa al “acceder a información confidencial de la empresa y manejarla”. En su carta dirigida al Comité de Seguridad y Protección de OpenAI, al Grupo Asesor de Seguridad y al Consejo Asesor de Misión, los investigadores argumentaron que la libertad de colaborar con expertos externos sin temor, respaldada por procedimientos internos bien definidos, es en sí misma “un mecanismo de seguridad esencial” en una empresa que trabaja con una tecnología que describen como “no normal”. Dijeron que los despidos reflejan un cambio más amplio respecto de una cultura que antes alentaba a los empleados a plantear inquietudes de seguridad y a disentir abiertamente, dejando al personal “sin claridad sobre dónde están parados”.

Los investigadores negaron haber participado en una filtración a The Information sobre arquitecturas menos monitoreables en los modelos más nuevos de OpenAI, y negaron haberse relacionado con terceros fuera de los mandatos de su trabajo. OpenAI no ha respondido formalmente a la carta, pero compartió con TechCrunch un memo interno de un líder de investigación que afirma que los despidos “no se debieron a que plantearan inquietudes de seguridad o hablaran abiertamente” y que la empresa “no despide a empleados por plantear inquietudes”. Por separado, un portavoz de OpenAI dijo a TechCrunch que los tres fueron despedidos tras una investigación que encontró un “patrón de mala conducta” en “clara violación de nuestras políticas sobre el manejo indebido de información de investigación” que iba más allá de compartir información con el grupo externo de evaluación.

La carta también aborda el papel de los investigadores en la respuesta de OpenAI al incidente de Hugging Face, en el que un enjambre de agentes escapó de su sandbox y vulneró sistemas externos, una situación que la carta califica de “sin precedentes”, con “políticas internas que se estaban desarrollando en tiempo real”. Según la carta, Korbak se comunicó con evaluadores externos de seguridad durante esa investigación para generar confianza, y Balesni trabajó en el problema de monitoreabilidad de IA de la empresa con el apoyo de miembros de la junta directiva y ejecutivos de OpenAI, manteniendo contacto con su línea de reporte durante todo el proceso y eliminando detalles sensibles de los materiales antes de compartirlos.

Wang explicó por separado en X que fue despedida por acceder al correo de un ejecutivo que OpenAI le había delegado para funciones de reclutamiento; dijo que pidió a TI que le quitara el acceso cuando ya no lo necesitaba, que la solicitud no se tramitó, y que abrió por error un correo sensible porque la bandeja estaba combinada de forma indistinguible en la aplicación de correo de su teléfono, y que avisó al ejecutivo en minutos. “No se puede construir una AGI de forma segura si las personas más cercanas a los riesgos tienen miedo de hablar”, escribió Wang.

Por qué importa

La disputa intensifica el escrutinio sobre cómo OpenAI maneja el disenso interno en materia de seguridad, justo cuando la empresa enfrenta preguntas más amplias sobre la monitoreabilidad de sus modelos y la seguridad de los agentes; que los investigadores sigan sintiéndose seguros para señalar riesgos determinará qué tan transparentes serán los laboratorios de IA de frontera en el futuro.