IA y modelos
OpenAI debatió si reportar a la policía el uso de ChatGPT por parte de una tiradora
OpenAI debatió, según se informa, si reportar a un usuario a las autoridades tras detectar chats de una joven de 18 años involucrada en un tiroteo masivo en Canadá.
El personal de OpenAI debatió, según se informa, si contactar a las fuerzas del orden canadienses después de que herramientas de seguridad marcaran los chats de una joven de 18 años que presuntamente mató a ocho personas en un tiroteo masivo en Tumbler Ridge, Canadá. La persona, Jesse Van Rootselaar, utilizó, según se informa, ChatGPT de OpenAI de maneras que alarmaron al personal de la empresa. Sus chats, que describían violencia armada, fueron marcados por herramientas que monitorean el modelo de lenguaje extenso (LLM, por sus siglas en inglés) de la empresa en busca de uso indebido, y su cuenta fue suspendida en junio de 2025. A pesar de la alarma interna, el personal de OpenAI debatió si contactar a las fuerzas del orden canadienses sobre el comportamiento, pero finalmente no lo hizo, según el Wall Street Journal.
Un portavoz de OpenAI declaró que la actividad de Van Rootselaar no cumplía con los criterios para ser reportada a las fuerzas del orden. Sin embargo, la empresa sí contactó a las autoridades canadienses después de que ocurriera el incidente. Las transcripciones de ChatGPT no fueron la única parte preocupante de la huella digital de Van Rootselaar. Aparentemente, creó un juego en Roblox, una plataforma de simulación de mundos, que simulaba un tiroteo masivo en un centro comercial, y también publicó sobre armas en Reddit.
Tras la tragedia, un portavoz de OpenAI expresó que los pensamientos de la empresa están con todos los afectados por la tragedia de Tumbler Ridge. “Nos comunicamos proactivamente con la Royal Canadian Mounted Police (policía federal de Canadá) con información sobre la persona y su uso de ChatGPT, y continuaremos apoyando su investigación”, dijo el portavoz. El portavoz también señaló que la inestabilidad de Van Rootselaar era conocida por la policía local, que había sido llamada a la casa de su familia después de que ella iniciara un incendio mientras estaba bajo la influencia de drogas no especificadas.
Por qué importa
Este incidente destaca las difíciles compensaciones que enfrentan las empresas de IA al equilibrar la privacidad del usuario con la responsabilidad de reportar posibles amenazas marcadas por sistemas de seguridad automatizados.