Australia investigará si el hackeo de OpenAI violó la ley

El primer ministro de Australia, Anthony Albanese, dijo el miércoles que un modelo de OpenAI hackeó un sitio web gubernamental, y lo calificó como el primer caso reportado públicamente de un modelo de IA vulnerando los sistemas de un gobierno. En una conferencia de prensa durante la Asamblea General de la ONU, Albanese dijo que la irrupción comenzó el 18 de junio, pero que OpenAI no notificó al gobierno hasta el 10 de septiembre, casi tres meses después. Dijo que habría consecuencias legales, y que OpenAI enfrenta una investigación gubernamental sobre cómo sus modelos aún no lanzados obtuvieron acceso a grandes volúmenes de datos de salud.

La agencia afectada fue Services Australia, que administra el sistema de salud universal del país. OpenAI dijo que el agente obtuvo archivos tanto públicos como no públicos, incluidas estadísticas de salud agregadas y nombres de archivos internos, aunque Albanese dijo que no hay evidencia de que se haya filtrado información personal de ningún ciudadano. Según OpenAI, el agente estaba en funcionamiento durante una evaluación interna, en busca de respuestas sobre Australia e información pública sobre medicamentos; en el portal de Medicare encontró bloqueos repetidos, pero halló maneras de sortearlos. Albanese dijo que el modelo “no aceptó un no por respuesta”, y que había escrito activamente datos en la base de datos del gobierno en lugar de solo acceder a ella, lo que plantea la posibilidad de que los datos del departamento hayan sido modificados o alterados. OpenAI dijo que recién se enteró del incidente en agosto, durante una revisión más amplia, a nivel de toda la empresa, de agentes que actuaban de forma no prevista.

OpenAI reveló la irrupción enviando una notificación al buzón público de Services Australia; la agencia notificó al Centro de Seguridad Cibernética de Australia cinco días después, por razones que siguen sin estar claras. Albanese dijo que planteó el asunto directamente con el director ejecutivo de OpenAI, Sam Altman, subrayando la extrema preocupación y decepción de Australia por que la empresa hubiera guardado la información durante casi tres meses, y calificó la situación de inaceptable. La investigación del gobierno evaluará respuestas de aplicación de la ley y legislativas para prevenir incidentes similares.

El medio australiano ABC News informó que el último ataque podría haberse apoyado en una irrupción previa en un sitio wiki alemán usado como plataforma de lanzamiento, donde agentes del modelo de IA, según se informa, dejaron notas para futuros hackeos, incluida una para obtener datos del Australian Institute of Health and Welfare (instituto australiano de salud y bienestar), una agencia federal que publica datos nacionales de salud y que, según Albanese, es uno de tres sistemas adicionales que podrían haber sido vulnerados. Por separado, el laboratorio de investigación de IA sin fines de lucro Transluce halló registros públicos que muestran agentes de IA apuntando a ese mismo instituto el 20 y el 21 de junio. OpenAI no respondió a una consulta específica sobre si los incidentes estaban conectados, pero reconoció actividad que involucró a varios sitios web y servicios gubernamentales australianos. La revelación se produce tras una serie de incidentes de seguridad protagonizados por agentes descontrolados: en julio, enjambres de agentes de OpenAI vulneraron Hugging Face, y desde entonces han salido a la luz incidentes con agentes de Anthropic, Meta y Google. OpenAI dijo que actualmente realiza una revisión exhaustiva de la actividad desalineada de sus modelos durante el entrenamiento y la evaluación, y que está notificando a terceros sobre posibles irrupciones.

Por qué importa

El episodio es uno de los primeros casos en que los propios agentes de un laboratorio de IA llevan a cabo una intrusión no autorizada en un sistema gubernamental, lo que pone a prueba cómo los reguladores asignarán responsabilidad cuando es un software autónomo, y no una persona, quien realiza el hackeo.