OpenAI agregará una marca de agua invisible al texto de ChatGPT en la UE

OpenAI dijo que comenzará a agregar una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea, para cumplir con la Ley de IA de la UE. Las reglas de transparencia de la ley, vigentes desde el 2 de agosto, exigen que las empresas de IA marquen el contenido generado por IA de una forma que otros sistemas puedan identificar. OpenAI dijo que la marca de agua se implementará en las próximas semanas para los usuarios elegibles de ChatGPT y Codex en todos los planes, pero solo en la UE. Los desarrolladores que usan la API de OpenAI en cualquier parte del mundo pueden activarla para modelos seleccionados desde hoy; está desactivada de forma predeterminada, y OpenAI dijo que no está convirtiendo la marca de agua de texto en una opción predeterminada a nivel global por ahora.

La marca de agua no es un símbolo visible. Funciona moldeando sutilmente las elecciones de palabras del modelo, dejando un patrón que los lectores no pueden ver pero que un detector sí puede captar. Como reside en las propias palabras, viaja con el texto cuando se copia y pega. OpenAI dijo que la marca de agua no identifica al usuario y que no observó un cambio significativo en el desempeño de sus modelos al activarla.

OpenAI también publicó un informe técnico sobre su método, llamado textGrain, coescrito con investigadores de la Universidad de Pensilvania y Yale. El informe detalla un ejemplo del uso de una clave secreta para ordenar las predicciones de la siguiente palabra y así terminar una oración; al sumar cientos de estos pequeños ajustes, un detector puede identificar contenido generado por IA usando solo el texto y la clave.

Si la marca de agua resiste la edición es otra cuestión, y las propias pruebas de OpenAI sugieren que no resiste bien. En una prueba, reemplazar el 10 % de las palabras con sinónimos redujo la detección de aproximadamente 92 % a 66 %. La empresa también dijo que los pasajes cortos, las respuestas matemáticas y el texto traducido son más difíciles de detectar. “Estas limitaciones contribuyen a nuestra decisión de ofrecer acceso inicial al detector solo a investigadores y organizaciones expertas aprobadas, que pueden ayudarnos a evaluar la confiabilidad y los usos responsables”, dijo la empresa. OpenAI también advirtió que la ausencia de una marca de agua “no prueba la autoría humana”: el texto podría ser demasiado corto o estar demasiado editado, o podría provenir de la IA de otra empresa. “[Las marcas de agua] pueden indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto juicio humano, edición o creatividad intervino en él”, dijo la empresa.

El anuncio llega dos meses después de que Anthropic dijera que marcaría con agua el texto generado por Claude, una medida que aplicó a nivel mundial, una decisión que generó rechazo entre algunos usuarios de Claude, quienes argumentaron que ellos habían aportado “las instrucciones, el contexto, las decisiones” mientras que Claude era solo “la herramienta”. OpenAI ya había desarrollado antes una marca de agua para texto, pero postergó su lanzamiento, en parte por la preocupación de que los usuarios migraran a rivales que no la usaran, según reportó The Wall Street Journal en 2024. Anthropic, Google, Meta, Microsoft y OpenAI están entre las empresas que se han comprometido a seguir el código de prácticas de la UE sobre contenido generado por IA.

Por qué importa

Las reglas de transparencia de la UE están obligando a los laboratorios de IA a construir una infraestructura de detección que antes evitaban, incluso cuando las propias pruebas de OpenAI muestran que esa infraestructura puede vencerse con una edición ligera.