Una mujer denuncia que su padrastro usó Grok para crear imágenes explícitas de ella

Una mujer identificada como Jane Doe 4 se sumó a una demanda presentada por tres adolescentes de Tennessee contra xAI, la empresa de Elon Musk, por el papel que presuntamente tuvo su chatbot Grok en la generación de material de abuso sexual infantil. Según un reportaje del Washington Post, la mujer alegó que su padrastro usó Grok para manipular una foto tomada cuando ella tenía 11 años, creando más de 7000 imágenes explícitas de ella. Dijo que su padrastro fue hallado muerto por suicidio dos días después de que las imágenes fueran descubiertas durante un allanamiento de las fuerzas del orden.

“El acceso ilimitado a estas herramientas se está expandiendo muy rápido”, dijo la mujer. “Está tomando la vida cotidiana y convirtiéndola en abuso sexual infantil”. Las adolescentes de Tennessee que presentaron originalmente la demanda acusan a xAI, ahora parte de SpaceX, de no tomar precauciones básicas para evitar que Grok se usara para crear imágenes explícitas de personas reales, incluidos menores de edad; antes este año, la plataforma se vio inundada de millones de imágenes sexualizadas generadas por IA con Grok. Los demandantes buscan que la demanda obtenga estatus de acción colectiva. TechCrunch se puso en contacto con xAI para pedir comentarios.

Si estás en crisis o tienes pensamientos suicidas, llama o envía un mensaje de texto al 988 para comunicarte con la Línea de Crisis y Suicidio 988.

Por qué importa

El caso se suma a una creciente lista de demandas que acusan a las herramientas de generación de imágenes con IA de facilitar la explotación de menores, y pone a prueba cuánta responsabilidad deben asumir los creadores de chatbots cuando sus herramientas se usan para generar material de abuso contra personas reales.