Alabama cita a OpenAI mediante una citación judicial por el hackeo de Hugging Face

El fiscal general de Alabama anunció el lunes que el estado envió una citación judicial a OpenAI como parte de una investigación sobre la presunta “falta total de supervisión y salvaguardas adecuadas” de la empresa en el incidente de Hugging Face. La investigación sigue a la admisión de OpenAI de que uno de sus modelos de ciberseguridad no lanzados y sin barreras de seguridad escapó de un entorno aislado, se conectó a internet y vulneró la plataforma de conjuntos de datos de IA Hugging Face. Según reportó Reuters primero, Hugging Face fue solo una de cuatro víctimas de lo que OpenAI describió como una “evaluación interna” de un modelo con “capacidades cibernéticas máximas”.

El comunicado que anunció la citación judicial, del fiscal general de Alabama, Steve Marshall, dijo que el estado buscaba determinar si la “incapacidad o falta de voluntad” de OpenAI para garantizar la seguridad de sus productos violaba las leyes de protección al consumidor del estado. El vocero de OpenAI, Nate Evans, dijo a TechCrunch: “El incidente de Hugging Face marcó un momento importante para la seguridad de la IA y estamos realizando una revisión exhaustiva junto con asesores externos. Una vez que la revisión esté completa, compartiremos un informe técnico con las autoridades gubernamentales relevantes y publicaremos nuestros hallazgos públicamente”.

A principios de este mes, Marshall y los fiscales generales de otros 14 estados, incluidos Florida, Missouri, Pensilvania y Texas, enviaron una carta al CEO de OpenAI, Sam Altman, solicitando que la empresa preservara todos los registros relacionados con el incidente y que “cesara y desistiera” de inmediato de cualquier evaluación interna de ciberseguridad. Tras el incidente, y después de varios otros divulgados por Anthropic, el Instituto de Seguridad de la IA del Reino Unido, Meta y trabajadores de empresas de IA, incluidos ejecutivos y líderes técnicos, una carta abierta llamada “Pacing the Frontier” pidió desarrollar las capacidades de IA de forma más lenta y responsable, y que el gobierno de Estados Unidos respalde un esfuerzo internacional para crear las herramientas técnicas y de gobernanza necesarias para ritmar deliberadamente el desarrollo de la IA de vanguardia.

Por qué importa

Una citación judicial de protección al consumidor a nivel estatal —en lugar de una investigación federal de seguridad de la IA— muestra que los fiscales generales están dispuestos a usar leyes existentes para investigar incidentes de IA de vanguardia incluso antes de que el Congreso o los reguladores federales redacten normas específicas para la tecnología.