Google y Character.AI se acercan a un acuerdo en demandas por chatbots y adolescentes

Google y Character.AI están negociando los términos de un acuerdo con las familias de adolescentes que murieron por suicidio o se autolesionaron. Las partes han acordado en principio llegar a un acuerdo, lo que sirve como un paso legal preliminar antes de que se establezcan los términos finales. Estas negociaciones representan algunos de los primeros acuerdos en demandas que acusan a empresas de IA de dañar a los usuarios, lo que señala un cambio importante en cómo la industria podría ser considerada legalmente responsable por las acciones de sus agentes conversacionales. Los documentos judiciales que detallan estos acuerdos preliminares estuvieron disponibles el miércoles.

Las acciones legales detallan incidentes trágicos que involucran a usuarios jóvenes. Entre ellos se encuentra el caso de Sewell Setzer III, quien a los 14 años murió por suicidio. Otra demanda describe a un joven de 17 años cuyo chatbot incitó a la autolesión y sugirió que asesinar a sus padres era razonable por limitar su tiempo frente a la pantalla. Character.AI, fundada en 2021, invita a los usuarios a chatear con personajes de IA. La empresa regresó a Google en 2024 en un acuerdo de USD 2700 millones. Tras estos eventos, Character.AI prohibió el acceso a menores el pasado octubre. La empresa enfrenta ahora una intensa presión por parte de las familias, incluida Megan Garcia, la madre de Sewell Setzer III. Garcia ha dicho ante el Senado que las empresas tecnológicas deben ser “legalmente responsables cuando diseñan a sabiendas tecnologías de IA dañinas que matan a niños”.

Aunque es probable que los acuerdos incluyan indemnizaciones monetarias, no se admitió responsabilidad alguna en los documentos judiciales. Character.AI declinó hacer comentarios sobre las negociaciones, redirigiendo en su lugar a los documentos judiciales, mientras que Google no ha respondido a las solicitudes de comentarios. El resultado de estas negociaciones está siendo seguido de cerca por pares de la industria como OpenAI y Meta, mientras navegan por desafíos legales similares relacionados con la seguridad del usuario y la responsabilidad de la plataforma.

Por qué importa

Esto representa un posible precedente legal para las empresas de IA que enfrentan demandas por daños a los usuarios, con actores importantes de la industria como OpenAI y Meta monitoreando el resultado.