El plan de "ritmo" de seguridad de IA de Anthropic genera apoyo y escepticismo

Un debate público sobre si las empresas de IA de vanguardia hablan en serio cuando dicen que están dispuestas a desacelerar ha dividido a los líderes de la industria después de que el CEO de Anthropic, Dario Amodei, publicara un plan para “marcar el ritmo de la frontera” del desarrollo de la IA, incluso mientras el CEO de Nvidia, Jensen Huang, respaldó públicamente las afirmaciones del presidente Donald Trump de que el rechazo hacia la IA es un engaño y que la regulación es innecesaria. En el episodio más reciente del podcast Equity de TechCrunch, los conductores Kirsten Korosec, Sean O’Kane y Anthony Ha debatieron si ejecutivos como Amodei y el CEO de OpenAI, Sam Altman, hablan en serio.

Tanto Ha como O’Kane se sorprendieron de lo rápido que otros líderes de la industria, incluidos Altman y, en cierta medida, Elon Musk, se sumaron al planteamiento de Amodei, un giro que, en el caso de O’Kane, contrastaba con lo que había sostenido una semana antes: que no venía ninguna desaceleración dada la forma en que estas empresas están estructuradas. Ha señaló que, según se informa, las propuestas de fondo llevaban un tiempo circulando en la comunidad de seguridad de IA en lugar de haber surgido únicamente de Amodei, algo que calificó como alentador por mostrar consenso, pero también como motivo de escepticismo sobre si representa pasos genuinos hacia una desaceleración real. Ambos coincidieron en que los planes todavía carecen de detalles sobre los riesgos involucrados y sobre qué significaría “desacelerar” en la práctica.

Korosec explicó en qué consisten en general las propuestas: evaluadores externos independientes que trabajarían dentro de empresas como Anthropic y OpenAI para supervisar las prácticas e incidentes de seguridad de la IA, y una segunda propuesta para que las grandes empresas de IA en países democráticos coordinen estándares de seguridad, límites y cooperación internacional. Señaló que el consenso puede ser algo positivo, pero advirtió que también podría marcar el inicio de algo parecido a un cartel entre los laboratorios de vanguardia.

El rechazo ha sido contundente, en particular por parte de Huang, cuyos comentarios y una llamada en vivo de Trump durante el All-In Summit atrajeron el escrutinio del panel. O’Kane sostuvo que Huang se ha posicionado como “el adulto en la sala” de la industria, un papel que, según dijo, se alejó del CEO de Microsoft, Satya Nadella, después de que una promesa anterior de Nadella de presionar competitivamente a Google no se cumpliera; incluso, según O’Kane, ocurrió más bien lo contrario. Korosec respondió que la aparición de Huang, que se sintió preparada de antemano, resaltó cuánto se beneficia Nvidia de que el desarrollo de la IA continúe sin freno, y Ha señaló que los intereses de Trump y Huang están alineados, con Huang diciéndole a Trump lo que quiere escuchar. Ha también notó que Altman y Amodei usan de forma consistente la palabra “ritmo” en lugar de “desaceleración”.

Al ser cuestionado sobre si la regulación existente y la competencia de mercado bastan por sí solas como salvaguarda, O’Kane se mostró escéptico: “Tenemos un gobierno federal que en este momento claramente no parece dispuesto a hacer cumplir las regulaciones de forma amplia, y mucho menos específicamente en este caso”. Agregó que no hay mucha capacidad de elección del consumidor que impulse este mercado, ya que las empresas obtienen cada vez más ingresos de clientes corporativos poco propensos a cambiar de proveedor por principios, algo que se ve reforzado además por el fuerte financiamiento de inversionistas que les permite absorber pérdidas.

Por qué importa

El desacuerdo central del panel —si una ola de compromisos voluntarios de seguridad refleja una cautela real o una respuesta coordinada de relaciones públicas— es clave para determinar si alguno de los mecanismos de seguridad de IA propuestos termina teniendo consecuencias reales.