OpenAI confirma semanas de conversaciones sobre seguridad de la IA con Anthropic y Google

El jefe de política global de OpenAI, Chris Lehane, dijo a periodistas el martes que la empresa ha estado trabajando con sus rivales Anthropic y Google DeepMind en temas de seguridad de la IA durante semanas, según reportó primero Bloomberg; Lehane se encuentra, según se informa, en Washington trabajando con legisladores estadounidenses sobre los riesgos catastróficos de la IA. La revelación se produce después del ensayo del CEO de Anthropic, Dario Amodei, publicado el sábado, que pedía a la industria trabajar en conjunto para frenar el ritmo del desarrollo de la IA de frontera y evitar riesgos catastróficos. Líderes de IA en toda la industria, incluidos Sam Altman de OpenAI, Demis Hassabis de Google y Elon Musk de SpaceX, respaldaron el llamado de Amodei, y Altman dijo que OpenAI se uniría a Anthropic para incorporar evaluadores externos que supervisen la seguridad.

Lehane reconoció que las tres empresas han estado en conversaciones durante semanas sobre seguridad de la IA, confirmando reportes e indicios previos de que estaban coordinándose; algunos, incluido Altman, han señalado que esas conversaciones podrían generar preocupaciones antimonopolio si se determina que la coordinación suprime la competencia. El ensayo de Amodei propuso una exención gubernamental limitada que permitiera la coordinación en seguridad, pero Lehane dijo, según se informa, que las empresas no creen necesitarla. En una entrevista con Fortune la semana pasada, Altman había insinuado que había mantenido conversaciones privadas con otros líderes de IA, y esta semana The Information reportó que las tres empresas están trabajando juntas para crear un organismo de estándares para la industria de la IA, algo que Altman, según se informa, dijo a su personal que tendría que ocurrir sin el respaldo del gobierno de Estados Unidos. Hassabis, de Google, pidió en julio que Estados Unidos estableciera un nuevo organismo de estándares que actuara como vigilante de la IA, con poder para examinar los modelos de frontera y coordinar desaceleraciones a nivel de toda la industria si los peligros avanzaban.

El presidente Trump ha desestimado las preocupaciones de seguridad calificándolas de engaño y se ha opuesto a una regulación más estricta, argumentando que una desaceleración le daría ventaja a China; su asesor de IA, David Sacks, hizo eco de esa postura, diciendo que los temores sobre el riesgo existencial de la IA estaban exagerados. En la misma reunión del martes, Lehane dijo que OpenAI apoya una disposición de la Ley FRONTIER que exigiría a los principales laboratorios de frontera permitir la entrada de “organizaciones de verificación independientes” en sus empresas para garantizar que los modelos se desarrollen de forma segura. TechCrunch se puso en contacto con Anthropic, Google y OpenAI para pedir comentarios.

Por qué importa

La confirmación de una coordinación en seguridad entre laboratorios rivales, junto con el impulso a un organismo de estándares para la industria, sugiere que las principales empresas de IA están intentando fijar su propio marco de seguridad antes de que Washington les imponga uno.