Política y regulación
El CEO de Anthropic dice que el rechazo a la IA es "fundamentalmente una crisis de confianza"
Dario Amodei rechazó las acusaciones de que sus advertencias sobre los riesgos de la IA están alimentando el rechazo público, y argumentó que la verdadera causa es una crisis de confianza en las empresas, los gobiernos y la tecnología.
El director ejecutivo de Anthropic, Dario Amodei, salió esta semana al paso de la idea de que ha estado pintando un panorama excesivamente pesimista sobre la IA, después de que el inversionista Gavin Baker argumentara —en el podcast All-In y en X— que las advertencias de Amodei sobre los peligros de la IA han ayudado a alimentar el rechazo en EE. UU., en particular contra los centros de datos. Baker dijo que Amodei “perdió el argumento” sobre la regulación de la IA y que, dado que está por liderar “una de las empresas más importantes del mundo”, debería intentar ser “un defensor más positivo de su propia industria”.
En una serie de publicaciones, Amodei discrepó de que su discurso haya sido desproporcionadamente negativo, y dijo que sus escritos han estado “casi equilibrados entre riesgos y beneficios” y que escribió su ensayo “Machines of Loving Grace” porque sentía que la industria de la IA no estaba pintando un panorama lo suficientemente inspirador sobre el potencial de la tecnología. Sí coincidió en que “el público tiene una visión negativa de la IA” y calificó eso como “un gran problema”, pero rechazó la idea de que las advertencias de los líderes de IA sean la causa principal. “Creo que es fundamentalmente una crisis de confianza”, dijo Amodei. “Creo que la gente común no confía en las empresas, los gobiernos ni la industria tecnológica, y siempre sospecha que estamos tramando alguna nueva forma de perjudicarla”.
Amodei sostuvo que la crítica más certera a las empresas de IA, incluida Anthropic, es que aún no han cumplido sus promesas de beneficiar al mundo, no su discurso público. Sobre la regulación, rechazó el planteamiento de Baker de que hay que elegir entre distribuir la IA sin reglas o dejar que la regulación concentre el poder en pocas empresas, y dijo que Anthropic diseña sus propuestas de política específicamente para frenar a las empresas de IA de frontera mientras deja margen para que compitan las empresas más pequeñas, ya que considera que la IA es una tecnología que tiende a concentrar el poder estructuralmente, independientemente de eso.
Por qué importa
El intercambio refleja una fractura real dentro de la industria de la IA sobre cómo hablar de sus propios riesgos, y sobre si la franqueza acerca de los peligros de la IA ayuda o perjudica los argumentos de la industria en contra de una regulación más estricta.