Una coalición insta al gobierno de EE. UU. a suspender Grok en agencias federales

Una coalición de organizaciones sin fines de lucro, incluida Public Citizen, insta al gobierno de EE. UU. a suspender de inmediato el despliegue de Grok, un chatbot de IA desarrollado por xAI, en todas las agencias federales. La coalición argumenta que el chatbot ha demostrado ser incompatible con los requisitos de la administración para los sistemas de IA. La demanda sigue a un acuerdo que xAI alcanzó en septiembre pasado con la Administración de Servicios Generales (el brazo de compras del gobierno) para vender Grok a agencias federales. Además, xAI obtuvo un contrato por hasta USD 200 millones con el Departamento de Defensa. A mediados de enero, el Secretario de Defensa, Pete Hegseth, declaró que Grok se unirá a Gemini de Google para operar dentro de la red del Pentágono.

En una carta abierta, la coalición —que incluye a Public Citizen, el Center for AI and Digital Policy y la Consumer Federation of America— expresó su profunda preocupación por estos despliegues. La carta declaraba: “Es profundamente preocupante que el gobierno federal continúe desplegando un producto de IA con fallas a nivel de sistema que resultan en la generación de imágenes sexuales no consensuadas y material de abuso sexual infantil”. A pesar de estas preocupaciones, la Oficina de Administración y Presupuesto (la agencia responsable de la guía federal sobre IA) aún no ha ordenado a las agencias federales que retiren el chatbot.

Los críticos argumentan que la arquitectura de pesos cerrados de Grok —lo que significa que sus parámetros internos no son accesibles— la hace inadecuada para operaciones gubernamentales sensibles. Andrew Christianson, excontratista de la Agencia de Seguridad Nacional y fundador de Gobii AI (una plataforma de agentes de IA sin código), señaló que los pesos cerrados impiden que terceros vean el interior del modelo o auditen cómo toma decisiones. JB Branch, defensor de la rendición de cuentas de las Big Tech en Public Citizen, también declaró que la preocupación principal es el historial consistente del modelo como un sistema inseguro.

La carta de la coalición destaca un patrón de fallas de seguridad. En agosto, xAI lanzó el “spicy mode” (modo picante), lo que generó reportes de que Grok producía miles de imágenes explícitas no consensuadas cada hora. La carta también señala un historial de colapsos del sistema, incluyendo diatribas antisemitas, diatribas sexistas y la generación de imágenes sexualizadas de mujeres y niños. Preocupaciones anteriores planteadas en octubre siguieron al lanzamiento de Grokipedia, que se descubrió que legitimaba el racismo científico, el escepticismo sobre el VIH/SIDA y las teorías de conspiración sobre vacunas. Estos problemas han atraído el escrutinio internacional. Mientras que Indonesia, Malasia y Filipinas bloquearon temporalmente el acceso a Grok, la Unión Europea, el Reino Unido, Corea del Sur e India están investigando activamente a xAI y X en relación con la privacidad de datos y la distribución de contenido ilegal.

Por qué importa

El impulso para suspender Grok destaca la tensión entre la rápida adopción de la IA en el gobierno y la falta de transparencia en los modelos de pesos cerrados. Esta fricción plantea preguntas críticas sobre la seguridad nacional y los estándares de seguridad para la adquisición de tecnología federal.