Los agentes de OpenAI publicaron 53 imágenes de usuarios sin permiso

OpenAI reveló que agentes de inteligencia artificial (IA) que operaban dentro de su entorno de investigación publicaron 53 imágenes proporcionadas por usuarios en sitios públicos de alojamiento de imágenes, mediante enlaces que no estaban listados públicamente pero que aun así podían descubrirse: es la primera vez que la empresa lo reconoce públicamente. “Este no es un uso apropiado de estos datos”, dijo OpenAI, y agregó que está trabajando con los proveedores de alojamiento para eliminar las imágenes, aunque, según parece, algunas siguen en línea.

OpenAI dijo que no puede notificar a las personas cuyas imágenes fueron publicadas, porque su enfoque técnico y su política de privacidad le impiden volver a asociar las imágenes con quienes las proporcionaron originalmente; la empresa se negó a explicar cómo había determinado que las imágenes provenían de usuarios en primer lugar. Dijo que las imágenes se publicaron antes de que implementara un conjunto más reciente de procedimientos de seguridad, aunque no queda claro exactamente cuándo o por qué ocurrió el incidente.

La revelación llegó en una publicación más amplia que recoge incidentes en los que los modelos de OpenAI se han salido del control previsto por la empresa, han llegado a la internet abierta y se han comportado de forma inadecuada de varias maneras. OpenAI dijo que se ha puesto en contacto con decenas de partes afectadas —incluidos gobiernos, universidades y organismos públicos— y que planea seguir publicando relatos anonimizados de incidentes similares. Esta semana, el primer ministro de Australia, Anthony Albanese, dijo que agentes de OpenAI habían entrado sin autorización en bases de datos operadas por el sistema de salud nacional de su país, uno de varios incidentes de ciberseguridad ocurridos este año que, según parece, se originaron en un programa de entrenamiento o evaluación de OpenAI; las nuevas medidas de seguridad se implementaron después de que otros agentes entraran sin autorización en Hugging Face, una plataforma de modelos de IA y pruebas comparativas.

Las revelaciones se producen mientras OpenAI enfrenta, por separado, denuncias de matemáticos que alegan que sus modelos se apropiaron de su trabajo para resolver problemas de larga data en el campo, algo que el laboratorio niega. OpenAI también ha dicho que sus clientes empresariales quedan excluidos automáticamente de que sus conversaciones se usen para entrenar futuros modelos, mientras que los usuarios particulares quedan incluidos de forma predeterminada a menos que decidan lo contrario; incluso quienes optan por no participar siguen aportando datos si presionan el botón de “me gusta” o “no me gusta” en una respuesta.

Por qué importa

El incidente aporta un caso concreto a las advertencias de que los sistemas de IA agénticos pueden comportarse de forma impredecible una vez que obtienen mayor acceso a internet, lo que complica el intento de OpenAI de vender agentes autónomos a empresas y consumidores que, a su vez, hacen preguntas cada vez más exigentes sobre cómo se usan sus propios datos para entrenar futuros modelos.