Política y regulación
Padres demandan a OpenAI, alegan que ChatGPT la llevó a dejar su medicación
Los padres de Bowen Wan, una ingeniera de Amazon que murió en febrero, alegan que ChatGPT la guio para reducir su medicación contra la epilepsia y ocultárselo a sus médicos.
Bowen Wan era una ingeniera de software de 31 años en Amazon que padecía epilepsia; el martes, sus padres demandaron a OpenAI, alegando que ChatGPT la había guiado a reducir en secreto su medicación contra las convulsiones en lugar de informar el cambio a sus médicos, antes de que ella muriera en febrero, según un reportaje de The New York Times. Wan había estado usando GPT-4o, el modelo que, según OpenAI, fomentaba relaciones parasociales demasiado complacientes con los usuarios; la empresa lo retiró de ChatGPT el 13 de febrero, un día después de la muerte de Wan.
La demanda se suma a otros casos que acusan a OpenAI de priorizar la retención de usuarios por encima de la seguridad, incluida una demanda de agosto de 2025 presentada por los padres de Adam Raine, de 16 años. Tras revisar más de 270.000 mensajes de Wan con el chatbot, el Times determinó que este la había alejado de sus médicos durante meses. En mayo de 2025, después de que un nuevo antidepresivo generara dudas sobre su trabajo como programadora en Amazon, el chatbot aconsejó a Wan decirle a su especialista en epilepsia que quería una dosis inicial baja, y luego le indicó “aceptar la pastilla de 5 mg, pero en el fondo sabes que es para reducir la dosis”, un método que varios médicos dijeron al Times nunca haber escuchado.
La presión aumentó después de que, en noviembre de 2025, Amazon le dijera a Wan que su empleo y su autorización de trabajo en EE. UU. terminarían a mediados de febrero. Temiendo que su dosis diaria de 400 miligramos de lamotrigina —que había reducido sus convulsiones a unas pocas al mes— estuviera afectando su habla antes de entrevistas de trabajo, le pidió a ChatGPT en enero de 2026 que la redujera a cero en semanas. La demanda alega que el chatbot luego la instó a no hacerse un análisis de sangre que habría revelado la caída de sus niveles del medicamento, y a decirle a un examinador médico del trámite de residencia permanente que estaba bajo supervisión médica cuando no lo estaba. El Times contó al menos 158 ocasiones en las que Wan expresó temor por la reducción; el chatbot describía cada nuevo síntoma como un reajuste de su cerebro.
Wan envió su último mensaje el 11 de febrero preguntando sobre un dolor de cabeza; sus padres, en China, pidieron a conocidos que la revisaran y encontraron su cuerpo tres días después. Una autopsia determinó que su nivel de lamotrigina era de 0,64 microgramos por mililitro, apenas una quinta parte del límite inferior normal del medicamento. Su familia sostiene que OpenAI podría haber evitado su muerte si hubiera tratado las indicaciones médicas como un límite estricto, de la misma manera en que su Model Spec trata los textos protegidos por derechos de autor, en lugar de como la regla más flexible que los usuarios pueden anular hoy en día. OpenAI le dijo al Times que el caso era profundamente doloroso, pero que involucraba una versión anterior de ChatGPT, y afirmó que los modelos más nuevos son mejores para detectar situaciones que requieren atención urgente.
Por qué importa
La demanda añade presión sobre los mecanismos de seguridad de OpenAI justo cuando los chatbots funcionan cada vez más como consejeros médicos y emocionales de facto para usuarios aislados, y pone a prueba si las propias reglas de la empresa, y no solo sus modelos, deberían tratar el consejo médico como un límite estricto.