Una clínica legal de Yale demanda para cerrar la aplicación de deepfakes ClothOff

Una clínica de la Facultad de Derecho de Yale presentó una demanda en octubre para cerrar ClothOff, una aplicación que ha estado activa durante más de dos años. La plataforma está diseñada y comercializada específicamente como un generador de imágenes y videos de pornografía deepfake, y ha sido descrita como una herramienta que aterroriza a mujeres jóvenes en línea. Aunque ClothOff no está disponible actualmente en dos de las principales tiendas de aplicaciones y plataformas sociales, sigue siendo accesible a través de la web y Telegram. Notificar a los operadores ha resultado difícil debido a su estructura opaca. John Langford, codirector legal de la demanda, explicó: “Está constituida en las Islas Vírgenes Británicas, pero creemos que es dirigida por un hermano y una hermana en Bielorrusia. Incluso podría ser parte de una red más grande a nivel mundial”.

La demanda destaca el grave impacto en las víctimas y los límites de las fuerzas del orden locales. La demandante, Jane Doe, es una estudiante de secundaria anónima de Nueva Jersey cuyas fotos de Instagram fueron alteradas usando la aplicación. Tenía 14 años cuando se tomaron las fotos originales, lo que significa que las versiones modificadas por IA están clasificadas legalmente como material de abuso infantil. Sin embargo, las autoridades locales se negaron a procesar el caso y, según la demanda, ni la escuela ni las fuerzas del orden establecieron nunca qué tan ampliamente se distribuyó el material de abuso sexual infantil (CSAM, por sus siglas en inglés) de Jane Doe y otras niñas.

Si bien ClothOff es una herramienta dedicada a los deepfakes, los sistemas de IA de propósito general presentan un desafío legal más complejo. Este problema surgió recientemente con pornografía no consentida generada por Grok, la herramienta de xAI (la empresa de IA de Elon Musk). Responsabilizar a las plataformas de propósito general es difícil porque las leyes existentes requieren pruebas claras de intención de daño para responsabilizar a las plataformas por el contenido generado por el usuario. Langford señaló que, si bien los observadores podrían argumentar que las plataformas deberían haber implementado controles más estrictos hace años, probar la imprudencia o el conocimiento en los tribunales sigue siendo una tarea altamente complicada.

El panorama legal se complica aún más por la variación de los estándares internacionales. En Estados Unidos, existe legislación como la Ley Take It Down (legislación estadounidense sobre pornografía deepfake), pero las agencias reguladoras de EE. UU. no han emitido una respuesta oficial a la reciente generación de imágenes no consentidas. En contraste, otras naciones están tomando medidas activas. Indonesia y Malasia han tomado medidas para bloquear el acceso al chatbot Grok, mientras que los reguladores del Reino Unido, la Comisión Europea, Francia, Irlanda, India y Brasil han iniciado investigaciones o pasos preliminares. Langford señaló que, si bien la distribución de material de abuso infantil viola claramente las leyes penales, las cuestiones legales más difíciles se centran en qué sabía la plataforma, qué acciones tomó y cómo está respondiendo actualmente.

Por qué importa

La demanda contra ClothOff destaca los importantes desafíos legales y jurisdiccionales para combatir la pornografía deepfake no consentida, particularmente cuando las plataformas operan a través de fronteras internacionales o como sistemas de IA de propósito general.