Anthropic rechaza las demandas del Pentágono de acceso sin restricciones a su IA

El jueves, el CEO de Anthropic, Dario Amodei, se negó formalmente a proporcionar al Pentágono acceso sin restricciones a los sistemas de inteligencia artificial (IA) de la empresa. Esta negativa plantea una confrontación directa con el Departamento de Defensa de EE. UU. (al que se refieren en las negociaciones como Departamento de Guerra) antes de la fecha límite del viernes a las 5:01 p. m. A menos de 24 horas de la fecha límite establecida por el secretario de Defensa, Pete Hegseth, Amodei declaró que no puede acceder a la solicitud con la conciencia tranquila. Explicó que, aunque Anthropic entiende que los militares toman decisiones militares, la empresa cree que, en un conjunto limitado de casos, la IA puede socavar, en lugar de defender, los valores democráticos.

La disputa central se centra en la negativa de Anthropic a permitir que su modelo Claude se utilice para la vigilancia masiva de estadounidenses o en armas totalmente autónomas. Según un portavoz de Anthropic, el lenguaje contractual recibido durante la noche por parte del Departamento de Guerra no supuso prácticamente ningún avance en la prevención del uso de Claude para la vigilancia masiva de estadounidenses o en armas totalmente autónomas. El portavoz añadió que el nuevo lenguaje, presentado como un compromiso, iba acompañado de términos legales que permitirían ignorar esas salvaguardas a voluntad, señalando que estas salvaguardas limitadas han sido el punto crucial de las negociaciones durante meses. En respuesta al estancamiento, el Departamento de Defensa ha amenazado con etiquetar a Anthropic como un riesgo para la cadena de suministro o invocar la Ley de Producción de Defensa (Defense Production Act), una ley de EE. UU. que otorga al presidente la autoridad para obligar a las empresas privadas a priorizar la producción para la defensa nacional. Amodei señaló la contradicción en estas amenazas, observando que una etiqueta a la empresa como un riesgo de seguridad, mientras que la otra trata a Claude como esencial para la seguridad nacional.

Aunque, según se informa, el Departamento de Defensa está preparando a la empresa competidora xAI para uso militar, Anthropic es actualmente el único laboratorio de IA de frontera con sistemas preparados para información clasificada para el ejército. Amodei expresó una fuerte preferencia por seguir sirviendo al departamento y a los combatientes de EE. UU., siempre que se mantengan las dos salvaguardas solicitadas. Sin embargo, si el gobierno decide prescindir de la empresa, Amodei declaró que Anthropic trabajará para permitir una transición fluida a otro proveedor para evitar interrumpir operaciones críticas. Resumiendo la postura de la firma sobre la posible separación, Amodei, el CEO de Anthropic, dijo: “Podemos simplemente separar nuestros caminos. No hay necesidad de ser desagradables al respecto”.

Por qué importa

Este enfrentamiento destaca la creciente fricción entre los laboratorios de IA de frontera y las agencias de defensa nacional sobre los límites éticos de la IA militar, con implicaciones significativas para la forma en que los gobiernos regulan y adquieren tecnología de doble uso.