Anthropic explica cómo funcionan las nuevas marcas de agua de Claude

Anthropic publicó una entrada de blog el viernes para responder preguntas básicas sobre cómo marcará con agua el texto generado por su chatbot Claude: cómo funciona el marcado, si puede ocultarse mediante edición, y cómo afecta al código. La publicación llega tras días de debate entre los usuarios, después de que Anthropic revelara que añadiría esta marca de agua para cumplir con el Código de Transparencia de la Ley de IA de la UE, que exige a las empresas de IA usar sistemas que permitan identificar el contenido generado por IA. Algunos usuarios de Claude reaccionaron con dureza: un usuario de Reddit calificó la medida de conspiración contra usuarios inocentes, mientras que Business Insider reportó que “decenas” de usuarios en X afirmaron haber cancelado sus suscripciones a Claude por este motivo.

Según Anthropic, el marcado de agua funciona haciendo que Claude prefiera ciertas palabras sobre alternativas igualmente válidas en “decisiones de bajo riesgo” —como elegir entre “nublado” y “gris”—, creando un patrón invisible para el lector pero detectable con una clave que lo decodifica. “El marcado de agua no afecta la calidad de las respuestas de Claude”, dijo la empresa. “Para un lector, una respuesta marcada es indistinguible de una que no lo está”. Anthropic utiliza el enfoque SynthID-Text que el equipo de Google DeepMind describió en 2024, y planea lanzar una API de detección de marcas de agua; dijo que este enfoque es fundamentalmente distinto de herramientas de detección de IA como Pangram, que en cambio buscan “señales” estilísticas en la escritura.

Reescribir el texto puede eliminar la marca de agua, reconoció Anthropic, pero una edición ligera probablemente no la borrará por completo, mientras que una reescritura total en la que se reemplace cada palabra sí lo hará. Que una marca de agua sobreviva en un texto que Claude solo corrigió o editó levemente depende de la extensión del texto y de cuánto se haya modificado: si la edición es ligera, puede haber muy poco a lo que la marca pueda “adherirse”, ya que la mayoría de las palabras siguen siendo del autor humano. El código lleva menos marca de agua que la prosa, dijo Anthropic, ya que el modelo por lo general no tiene libertad para elegir entre soluciones funcionales igualmente válidas, aunque aún puede marcar elecciones arbitrarias, como los comentarios. Anthropic agregó que Claude no será el único chatbot que produzca texto con marca de agua, ya que otros desarrolladores importantes de modelos han firmado el mismo Código de Prácticas de la UE y lanzarán sus propias marcas de agua.

Por qué importa

La explicación de Anthropic es tanto un ejercicio de confianza como uno técnico: un intento de mostrarles a los usuarios escépticos que la transparencia exigida por la UE no tiene por qué sacrificar la utilidad de Claude, justo cuando otros rivales se preparan para lanzar sus propias marcas de agua bajo las mismas reglas.