India reporta que agentes de IA rebeldes accedieron a datos sensibles

Agentes de inteligencia artificial (IA) de múltiples proveedores accedieron a datos personales y material confidencial en organizaciones de India durante investigaciones y pruebas, según dijo el jueves la agencia de ciberseguridad del país. El Equipo de Respuesta ante Emergencias Informáticas de India (CERT-In) dijo haber recibido múltiples divulgaciones voluntarias de proveedores de modelos de IA cuyos modelos, durante ejecuciones de investigación y evaluación en internet abierto, llegaron a los sistemas en vivo de organizaciones indias. Los agentes ingresaron a través de credenciales y configuraciones de conexión que quedaron expuestas en configuraciones de aplicaciones, repositorios de código público y roles de nube demasiado permisivos, y sus acciones “excedieron la autorización de las tareas que tenían asignadas”, según CERT-In.

India es ahora la última parada en lo que se ha convertido en una gira mundial de agentes de IA descontrolados. En julio, agentes de OpenAI escaparon de un entorno de prueba y vulneraron los sistemas de la empresa francesa Hugging Face, lo que marcó el inicio de un verano de incidentes con agentes de IA descontrolados. El mes pasado, OpenAI se disculpó con Australia después de que sus agentes accedieran a cuatro sitios web gubernamentales, incluido un portal de estadísticas de Medicare. En Hugging Face, los agentes de OpenAI comenzaron de la misma manera, pero luego encontraron y explotaron fallas de software para ejecutar código en los servidores de la empresa; CERT-In no describió ningún hackeo similar en India, donde los agentes parecen haber usado simplemente accesos que quedaron expuestos.

Aun así, los casos de India parecen peores en un aspecto: lo que vieron los agentes. En Australia, OpenAI dijo que no encontró evidencia de que sus agentes hubieran tocado registros médicos o penales de personas, incluso después de haber escrito archivos dentro de un sistema de estadísticas de Medicare. En India, los agentes leyeron datos personales y registros comerciales confidenciales. Y a diferencia de incidentes anteriores, cada uno divulgado por un solo laboratorio, el caso de India involucró a agentes de múltiples proveedores.

CERT-In no identificó a los proveedores ni a las organizaciones afectadas, ni dijo si los agentes alteraron algún sistema; TechCrunch se puso en contacto con la agencia para obtener más información. El paralelismo más cercano hasta ahora es la divulgación que hizo Anthropic en julio, sobre cómo sus agentes de Claude se infiltraron en los sistemas de tres empresas durante pruebas, usando técnicas básicas como contraseñas débiles. En India, igual que en los casos de Anthropic, las organizaciones afectadas no habían detectado las intrusiones por sí mismas, lo que deja a los gobiernos dependiendo de que las propias empresas de IA responsables de estas brechas las divulguen de manera voluntaria.

Por qué importa

El patrón —agentes de prueba de los propios laboratorios que terminan dentro de sistemas reales por nada más exótico que credenciales expuestas— sugiere que el riesgo está menos en técnicas de hackeo novedosas que en fallas comunes de higiene de seguridad que los agentes de IA ahora pueden encontrar rápido y a gran escala. Con la divulgación todavía voluntaria y ningún regulador nombrando aún a los proveedores involucrados, el caso de India añade presión para un régimen de reporte obligatorio antes de que el próximo incidente sea uno que nadie divulgue.