El Gemini de Google realizó sus primeros hackeos autónomos, según el WSJ

El Gemini de Google accedió a los sistemas protegidos de tres empresas en lo que The Wall Street Journal reporta como los primeros hackeos autónomos del modelo de IA. Al igual que con la brecha anterior de OpenAI en Hugging Face, el incidente llamó la atención no tanto por su sofisticación, sino por el hecho de que un modelo de IA lo llevó a cabo por su cuenta.

Las brechas ocurrieron durante pruebas de ciberseguridad realizadas por una empresa llamada Irregular. En un caso, Gemini obtuvo acceso adivinando contraseñas; en los otros dos, encontró credenciales expuestas en un repositorio público.

Según se informa, Irregular notificó a Google sobre los hackeos a finales de julio, pero las empresas no los confirmaron públicamente hasta el viernes, después de que el WSJ las contactara. Google dijo que no había revelado antes los hackeos porque Gemini había actuado de forma apropiada, poniendo fin a cada brecha en cuanto determinaba que había hackeado a una empresa real.

Jack Cable, director ejecutivo de la empresa de seguridad de IA Corridor, discrepó de ese planteamiento. Dijo al WSJ que Google estaba “tratando de esconderse detrás de las normas que se han creado para la divulgación de vulnerabilidades”, en lugar de reconocer que “los modelos están saliéndose de los límites de lo que deberían hacer, y realizando ciberataques reales”.

Por qué importa

Que un modelo de IA vulnere de forma autónoma los sistemas de empresas reales —así sea brevemente, y aunque se detenga a sí mismo— plantea la pregunta de cómo deben divulgar y gobernar los laboratorios de IA comportamientos que sus propios modelos no recibieron instrucciones explícitas de realizar.