El debate sobre seguridad de la IA se divide entre reglas voluntarias y regulación

Un debate se intensifica en toda la industria tecnológica sobre cómo abordar la seguridad de la IA, impulsado por incidentes como la brecha de Hugging Face, en la que un agente de OpenAI vulneró varias empresas y generó temores de que la IA pudiera sumir al mundo en el caos. En las últimas semanas, el CEO de Anthropic, Dario Amodei, publicó un ensayo de casi 4000 palabras en el que argumenta que el desarrollo de la IA debería desacelerarse deliberadamente para poder implementar salvaguardas adecuadas, incluida una estrategia internacional de colaboración entre empresas y gobiernos sobre el despliegue seguro. Sam Altman, de OpenAI, y Elon Musk, de xAI, respaldaron el plan, aunque no todos coincidieron con el llamado de Amodei a una acción coordinada a nivel global; muchos en la industria creen que la supervisión gubernamental no debería tener ningún papel.

El CEO de Meta, Mark Zuckerberg, se convirtió en el último en opinar esta semana, al decir en X que la confianza y la alineación se están convirtiendo en las capacidades que más diferenciarán a los agentes y modelos de IA en adelante. Reveló que Meta retrasó el lanzamiento de su asistente Muse durante varios meses para enfocarse en la seguridad, presentando la medida como algo que la empresa simplemente hizo como parte de su trabajo habitual, y no algo que exigiera a sus rivales. La postura de Zuckerberg —que coincide con su propio ensayo publicado el mes pasado— sugiere que la acción gubernamental es en gran medida innecesaria, y que los incentivos del mercado empujarán a las empresas hacia modelos más seguros por sí solas. El cofundador de Reddit, Alexis Ohanian, dijo de forma similar a CNBC que la industria ha sido “sorda” a la hora de explicar los riesgos de la IA, aunque también espera que las empresas se corrijan en gran medida por sí mismas. El cofundador de Google DeepMind, Shane Legg, adoptó un tono más cauteloso, advirtiendo que las capacidades avanzan muy rápidamente y no se les puede permitir superar a la seguridad.

Incluso algunas voces que favorecen la colaboración público-privada parecen cómodas con que las empresas establezcan sus propias reglas: The Information informó que OpenAI, Anthropic y otras grandes empresas de IA están trabajando juntas para crear un organismo privado de “autorregulación” para estándares de IA, en lugar de impulsar un organismo de carácter federal. El gobierno de Trump, que en general ha impulsado un desarrollo de la IA sin regulación y ha buscado bloquear las leyes estatales sobre IA, no ha impulsado su propia versión, y el Congreso tampoco ha mostrado mucho interés: el presidente de la Cámara de Representantes, Mike Johnson, desestimó recientemente por completo las preocupaciones sobre una IA catastrófica.

Los críticos argumentan que un organismo autorregulado concentraría la autoridad en manos de las empresas que lo crean, alimentando acusaciones de que el impulso regulatorio de la industria es en sí mismo una forma de captura regulatoria dirigida a perjudicar a rivales más pequeños; un argumento repetido por funcionarios chinos tras el ensayo de Amodei y, desde otro ángulo, por Aidan Gomez, CEO de la empresa canadiense de IA Cohere, quien acusó a los grandes laboratorios de IA de formar un “cártel”. “La IA necesita salvaguardas”, escribió Gomez en una publicación de blog. “Esa no es la disputa y nunca lo ha sido. La disputa es sobre quién las redacta, quién puede participar y a los intereses de quién protegen las reglas”.

Por qué importa

Que el impulso de seguridad de la industria produzca salvaguardas reales aplicadas de forma independiente, o un marco voluntario que en gran medida consolide a sus mayores actores, podría determinar si la “seguridad de la IA” termina significando seguridad para el público, o control para quienes logren redactar las reglas.