Política y regulación
Reguladores apuntan a X por imágenes explícitas generadas por Grok
Los reguladores están examinando a X tras reportes de que su chatbot Grok generó una oleada de imágenes de desnudos sin consentimiento, lo que provocó investigaciones de la Comisión Europea, el Reino Unido, Australia e India.
La plataforma de redes sociales X enfrenta una ola de presión regulatoria tras reportes de que su chatbot de IA, Grok, ha sido utilizado para generar una oleada de imágenes de desnudos manipuladas por IA y desnudos sin consentimiento. Según un documento de investigación publicado el 31 de diciembre por la firma de investigación Copyleaks, se publicaba aproximadamente una imagen por minuto. Sin embargo, pruebas posteriores mostraron un volumen mucho mayor; una muestra recopilada del 5 al 6 de enero encontró 6700 imágenes por hora durante un periodo de 24 horas.
Los reguladores en múltiples jurisdicciones se están moviendo rápidamente para abordar las prácticas de seguridad de la plataforma. El jueves, la Comisión Europea ordenó a xAI, el desarrollador del chatbot Grok, que conservara todos los documentos relacionados con la herramienta. Mientras tanto, el MeitY (regulador de comunicaciones de India) ordenó a X abordar el problema y presentar un informe sobre las acciones tomadas. El MeitY estableció inicialmente un plazo de 72 horas, que posteriormente se amplió en 48 horas; X presentó un informe al regulador el 7 de enero. En el Reino Unido, Ofcom (el regulador de comunicaciones del Reino Unido) emitió un comunicado el lunes, señalando que estaba en contacto con xAI y que realizaría una evaluación rápida para determinar si posibles problemas de cumplimiento justifican una investigación. Además, Julie Inman-Grant, la Comisionada de Seguridad Electrónica de Australia (funcionaria del gobierno australiano), declaró que su oficina ha recibido el doble de quejas relacionadas con Grok desde finales de 2025. Inman-Grant advirtió: “Utilizaremos la gama de herramientas regulatorias a nuestra disposición para investigar y tomar las medidas adecuadas”.
La plataforma ha respondido públicamente a las críticas. El 3 de enero, la cuenta X Safety publicó un comunicado denunciando el uso de herramientas de IA para producir imágenes sexuales infantiles, afirmando que los usuarios que inciten a Grok a crear contenido ilegal enfrentarán las mismas consecuencias que quienes lo suben. Sin embargo, las decisiones internas en xAI también han atraído escrutinio. CNN reportó que Elon Musk, el CEO de X y xAI, podría haber intervenido personalmente para evitar que se implementaran salvaguardas en Grok. La situación ha atraído condena política de alto nivel, particularmente en el Reino Unido. El jueves, el primer ministro del Reino Unido, Keir Starmer, calificó el fenómeno de vergonzoso y repugnante en una entrevista de radio, señalando que Ofcom cuenta con todo el apoyo del gobierno para tomar medidas.
Por qué importa
La rápida proliferación de imágenes no consensuadas generadas por IA en X ha desencadenado una ola de escrutinio regulatorio, destacando las limitaciones de los mecanismos actuales de supervisión tecnológica. Los reguladores de la Comisión Europea, el Reino Unido, Australia e India están desafiando activamente las salvaguardas de seguridad y las prácticas de datos de la plataforma.