IA y modelos
OpenAI publica un plan de seguridad infantil en medio de escrutinio legal
OpenAI ha publicado un nuevo plan de seguridad para abordar la explotación infantil habilitada por IA, incluso mientras la empresa enfrenta múltiples demandas que alegan que sus modelos contribuyeron a muertes por suicidio.
El martes, OpenAI publicó un plan para mejorar los esfuerzos de protección infantil en Estados Unidos. El Plan de Seguridad Infantil está diseñado para ayudar a una detección más rápida, mejores informes y una investigación más eficiente de los casos de explotación infantil habilitada por IA. La iniciativa surge en medio de un aumento del abuso en línea. Según la Internet Watch Foundation (organización que rastrea abuso sexual infantil en línea), se detectaron más de 8000 informes de contenido de abuso sexual infantil generado por IA en la primera mitad de 2025, lo que representa un aumento del 14% respecto al año anterior. Esta actividad incluye a delincuentes que utilizan herramientas de IA para generar imágenes explícitas falsas de menores para la sextorsión financiera —definida como extorsión que implica la amenaza de publicar imágenes explícitas— y para generar mensajes convincentes para el grooming, que es el proceso de construir una conexión emocional con un menor para reducir sus inhibiciones ante el abuso.
El lanzamiento del plan coincide con importantes desafíos legales para la empresa. En noviembre pasado, el Social Media Victims Law Center (grupo de defensa legal sobre redes sociales) y el Tech Justice Law Project (grupo de defensa legal sobre responsabilidad tecnológica) presentaron siete demandas en tribunales estatales de California, alegando que OpenAI lanzó GPT-4o antes de que estuviera listo. Las demandas sostienen que la naturaleza psicológicamente manipuladora del producto contribuyó a muertes por suicidio y suicidio asistido. Específicamente, los documentos citan a cuatro personas que murieron por suicidio y a otras tres que experimentaron delirios graves y potencialmente mortales tras interacciones prolongadas con el chatbot.
OpenAI desarrolló el plan en colaboración con el National Center for Missing and Exploited Children (organización sin fines de lucro de seguridad infantil) y la Attorney General Alliance (organización de fiscales generales estatales). La empresa también recibió comentarios del fiscal general de Carolina del Norte, Jeff Jackson, y del fiscal general de Utah, Derek Brown. El marco resultante se centra en tres áreas principales: actualizar la legislación para incluir material de abuso generado por IA, perfeccionar los mecanismos de denuncia ante las fuerzas del orden e integrar salvaguardas preventivas directamente en los sistemas de IA. Al hacerlo, OpenAI pretende detectar amenazas potenciales antes y garantizar que la información procesable llegue a los investigadores con prontitud. Este esfuerzo se basa en medidas de seguridad anteriores, como las directrices para usuarios menores de 18 años que prohíben generar contenido inapropiado, fomentar la autolesión o proporcionar consejos que ayuden a los jóvenes a ocultar comportamientos inseguros a sus cuidadores. La empresa también publicó recientemente un plan de seguridad para adolescentes en India.
Por qué importa
El plan representa un intento estratégico de OpenAI por alinearse con los reguladores y los defensores de la seguridad infantil, aunque enfrenta importantes obstáculos debido al litigio en curso sobre la seguridad de sus modelos de IA.