OpenAI vai adicionar marca d'água invisível ao texto do ChatGPT na UE

A OpenAI disse que vai começar a adicionar uma marca d’água invisível ao texto gerado pelo ChatGPT e pelo Codex na União Europeia, para cumprir a Lei de IA da UE. As regras de transparência da lei, em vigor desde 2 de agosto, exigem que empresas de IA marquem conteúdo gerado por IA de forma que outros sistemas consigam identificar. A OpenAI disse que a marca d’água será implementada nas próximas semanas para usuários elegíveis do ChatGPT e do Codex em todos os planos, mas apenas na UE. Desenvolvedores que usam a API da OpenAI em qualquer lugar do mundo podem ativá-la para modelos selecionados a partir de hoje; ela vem desativada por padrão, e a OpenAI disse que não está tornando a marca d’água de texto um padrão global no lançamento.

A marca d’água não é um símbolo visível. Ela funciona moldando sutilmente as escolhas de palavras do modelo, deixando um padrão que os leitores não conseguem ver, mas que um detector consegue identificar. Como ela existe nas próprias palavras, viaja com o texto quando ele é copiado e colado. A OpenAI disse que a marca d’água não identifica o usuário, e que não observou mudança significativa no desempenho de seus modelos com o recurso ativado.

A OpenAI também publicou um relatório técnico sobre seu método, chamado textGrain, escrito em conjunto com pesquisadores da Universidade da Pensilvânia e de Yale. O relatório detalha um exemplo de uso de uma chave secreta para ordenar as previsões da próxima palavra ao terminar uma frase; somando centenas desses pequenos ajustes, um detector consegue identificar conteúdo gerado por IA usando apenas o texto e a chave.

Se a marca d’água resiste a edições é outra questão, e os próprios testes da OpenAI sugerem que não resiste bem. Em um teste, substituir 10% das palavras por sinônimos reduziu a taxa de detecção de cerca de 92% para 66%. A empresa também disse que trechos curtos, respostas matemáticas e textos traduzidos são mais difíceis de detectar. “Essas limitações contribuem para nossa decisão de oferecer acesso inicial ao detector apenas a pesquisadores e organizações especializadas aprovadas, que podem nos ajudar a avaliar a confiabilidade e os usos responsáveis”, disse a empresa. A OpenAI também alertou que a ausência de uma marca d’água “não comprova autoria humana” — o texto pode ser curto demais ou ter sido editado extensivamente, ou pode vir da IA de outra empresa. “[Marcas d’água] podem indicar que um sistema da OpenAI gerou ou processou parte de um texto, mas não quanto julgamento humano, edição ou criatividade entraram nele”, disse a empresa.

O anúncio vem dois meses depois de a Anthropic dizer que marcaria com água o texto gerado pelo Claude, uma medida aplicada globalmente — decisão que gerou reação negativa de alguns usuários do Claude, que argumentaram ter fornecido “as instruções, o contexto, as decisões”, enquanto o Claude era apenas “a ferramenta”. A OpenAI já havia desenvolvido uma marca d’água para texto antes, mas havia adiado seu lançamento, em parte por preocupação de que usuários migrassem para concorrentes que não a usassem, segundo reportagem do Wall Street Journal em 2024. Anthropic, Google, Meta, Microsoft e OpenAI estão entre as empresas que se comprometeram a seguir o código de práticas da UE sobre conteúdo gerado por IA.

Por que importa

As regras de transparência da UE estão forçando os laboratórios de IA a construir uma infraestrutura de detecção que antes evitavam, mesmo com os próprios testes da OpenAI mostrando que essa infraestrutura pode ser contornada com uma edição leve do texto.