IA y modelos
El CEO de Anthropic critica el contrato militar de OpenAI como "teatro de seguridad"
Según se informa, el CEO de Anthropic, Dario Amodei, criticó el nuevo contrato militar de OpenAI en EE. UU. como "teatro de seguridad", lo que pone de relieve una creciente división entre ambos laboratorios de IA sobre las asociaciones de defensa.
La semana pasada, Anthropic y el Departamento de Defensa de EE. UU. no lograron llegar a un acuerdo sobre la solicitud de los militares de obtener acceso sin restricciones a la tecnología de inteligencia artificial de la empresa. Anthropic, que actualmente mantiene un contrato de USD 200 millones con el ejército, insistió en protecciones contra el uso de la tecnología para la vigilancia masiva doméstica o armamento autónomo. Debido a que las partes no pudieron llegar a un acuerdo, el Departamento de Defensa cerró un trato con su competidor, OpenAI.
En un memorando interno para el personal, el CEO de Anthropic, Dario Amodei, supuestamente criticó los mensajes de OpenAI sobre el nuevo contrato calificándolos de “mentiras directas” y “manipulación psicológica” (gaslighting). Amodei caracterizó los tratos de OpenAI con el Departamento de Defensa como “teatro de seguridad” —un término utilizado para describir medidas de seguridad performativas— en lugar de un esfuerzo genuino por prevenir abusos. En el memorando, Amodei, quien se desempeña como cofundador y CEO de Anthropic, escribió: “La razón principal por la que [OpenAI] aceptó [el trato del Departamento de Defensa] y nosotros no, es que a ellos les importaba apaciguar a los empleados, y a nosotros realmente nos importaba prevenir abusos”.
El sentimiento público parece favorecer a Anthropic tras la disputa. Las desinstalaciones de ChatGPT aumentaron un 295% después de que OpenAI finalizara su acuerdo con los militares. En su memorando, Amodei señaló que el público y los medios de comunicación ven en gran medida el acuerdo de OpenAI con el Departamento de Defensa —al que se refirió como el “DoW”, o Departamento de Guerra— como “turbio o sospechoso”. Añadió que el público, en cambio, ve a Anthropic como los héroes de la situación, señalando la clasificación actual de la empresa en el puesto #2 de la App Store. Aunque Amodei desestimó las opiniones de los “idiotas de Twitter”, expresó su preocupación por garantizar que los mensajes de OpenAI no convenzan a sus propios empleados.
Por qué importa
La disputa pública entre Anthropic y OpenAI subraya una creciente brecha en la industria sobre cómo los laboratorios de IA deben involucrarse en contratos militares y los estándares éticos que rigen el uso de la IA en la defensa.