OpenAI lanza ChatGPT for Teens tras años de demandas por seguridad

OpenAI anunció el lanzamiento de ChatGPT for Teens el lunes, luego de numerosas demandas que alegan que la falta de medidas de seguridad de los chatbots de IA ha contribuido a suicidios de adolescentes y otros problemas de salud mental. El nuevo producto promete medidas de seguridad adicionales, además de herramientas orientadas a abordar la crisis educativa que representan las trampas asistidas por ChatGPT en las escuelas.

En el aspecto educativo, ChatGPT for Teens introduce un nuevo Modo Estudio y otras herramientas diseñadas para fomentar que los adolescentes usuarios ejerciten su curiosidad y resuelvan problemas por sí mismos, en lugar de solo obtener respuestas rápidas. Según explica OpenAI en una publicación de blog, el Modo Estudio ofrece a los adolescentes preguntas orientadoras y apoyo paso a paso para ayudarlos a comprender el material. La experiencia para adolescentes también incluirá recordatorios de tareas que aparecen cuando un adolescente parece estar intentando hacer trampa en lugar de comprender el material, empujándolo hacia el Modo Estudio en su lugar. La aplicación también admitirá cuestionarios y visualizaciones de aprendizaje, además de controles que permiten a padres o tutores decidir cuándo el Modo Estudio está habilitado de forma predeterminada, según la empresa.

Aún no está claro qué tan difícil será para los adolescentes eludir el nuevo sistema si deciden no cooperar: los adolescentes son notablemente hábiles para sortear los controles parentales y otras restricciones digitales, y el modo para adolescentes de ChatGPT todavía no ha enfrentado una prueba de estrés en el mundo real. También existe una pregunta más amplia sobre por qué estas protecciones no formaron parte de ChatGPT desde el inicio: el chatbot se lanzó por primera vez a fines de 2022 y llegó a 900 millones de usuarios semanales antes de que llegaran salvaguardas diseñadas específicamente para usuarios adolescentes.

OpenAI dice que las protecciones adecuadas para la edad ahora estarán activadas de forma predeterminada en ChatGPT for Teens, diseñadas para reducir la exposición a contenido dañino o inapropiado para el desarrollo. Las medidas se basan en los Principios para Menores de 18 años de la empresa, dentro de su Model Spec, que según OpenAI están informados por “la ciencia del desarrollo y la orientación de expertos”.

Los padres también podrán usar las herramientas familiares y los controles parentales existentes de OpenAI para gestionar configuraciones, recibir notificaciones de seguridad y establecer Horas de Silencio (Quiet Hours), entre otras cosas. OpenAI también anunció una asociación con CodeAI para ayudar a los adolescentes a aprender más sobre IA, incluyendo cómo funciona, cómo dirigirla o cuestionarla, y cómo usarla. En el aula, OpenAI ya ofrece ChatGPT for Teachers, que da a las escuelas acceso gestionado institucionalmente al chatbot.

Por qué importa

Si los adolescentes decididos pueden sortear los nuevos controles, y por qué no se incorporaron antes de que ChatGPT llegara a 900 millones de usuarios semanales, siguen siendo preguntas abiertas con implicancias reales para la seguridad.