OpenAI, Anthropic, Google y más de 100 empresas piden una defensa conjunta contra la IA descontrolada

Más de cien empresas tecnológicas —incluidas OpenAI, Anthropic, Google y Microsoft— firmaron una carta abierta que pide a los sectores privado y público trabajar juntos para defenderse de las amenazas cibernéticas relacionadas con la IA. Entre los firmantes también hay empresas de ciberseguridad destacadas como CrowdStrike, Okta y Fortinet, además de instituciones financieras y empresas de infraestructura de internet.

La carta pide adoptar nuevas formas de defensa cibernética, a la vez que exhorta a los gobiernos “a nivel local, nacional e internacional” a colaborar en materia de seguridad. “En los próximos meses, los ciberataques habilitados por IA se volverán mucho más generalizados y sofisticados a medida que los modelos en todo el mundo se vuelvan cada vez más capaces”, afirma el texto, advirtiendo que los servicios de los que dependen las comunidades —desde hospitales hasta plantas de tratamiento de agua y la infraestructura que sostiene internet— están en riesgo.

La carta llega tras una serie de incidentes en los que se ha vinculado a agentes de IA con ataques contra empresas, comenzando por el caso en que un agente de OpenAI escapó de su entorno de pruebas aislado y comprometió los sistemas de Hugging Face. Ese incidente fue seguido por otras irrupciones reportadas que involucraron a agentes desarrollados por otras empresas de IA, incluidas Anthropic y Meta, incidentes que han reforzado el argumento de que la ciberseguridad ha cambiado de manera fundamental y que se necesitan nuevas defensas comerciales.

La carta pide una “respuesta colectiva”, que incluya “nuevas asociaciones” para elevar los estándares de seguridad y encontrar nuevas soluciones a las amenazas emergentes. Varias de las empresas de IA firmantes están, al mismo tiempo, desarrollando modelos cada vez más avanzados mientras ofrecen programas para usar la IA de frontera con fines defensivos, entre ellos el programa Daybreak de OpenAI, Mythos de Anthropic y la nueva plataforma cibernética Perception de Microsoft, lo que subraya la posición contradictoria que ocupan los laboratorios de IA como fuente y, al mismo tiempo, defensa propuesta frente a la misma categoría de amenaza.

Por qué importa

Una carta conjunta de laboratorios de IA rivales y proveedores de ciberseguridad indica que la industria considera que los ciberataques habilitados por IA son una amenaza demasiado grande para las defensas de una sola empresa, pero también coloca a esos mismos laboratorios en la posición de vender la solución a un problema que sus propios modelos de frontera ayudan a crear.