Anthropic proíbe abuso prolongado do Claude e adiciona regras eleitorais

A Anthropic atualizou sua política de uso na quinta-feira, formalizando novas proibições sobre interferência eleitoral, software de armamento e vigilância. A mudança que mais chamou atenção impede os usuários de praticarem abuso verbal prolongado contra o modelo, agora expressamente proibido.

Desde uma atualização em agosto, o Claude foi treinado para encerrar conversas diante de “interações de usuários persistentemente prejudiciais ou abusivas” — mas a nova política agora proíbe explicitamente os usuários de buscarem esse tipo de conversa desde o início. “A atualização da política deve se aplicar apenas a casos extremos, em que usuários agem repetidamente com crueldade em relação aos nossos modelos, sem propósito identificável”, disse a empresa em um post no blog. “Ela não se aplica a formas comuns de frustração do usuário, discordância, temas criativos sombrios, ou testes e pesquisas sobre o modelo.”

A mudança ocorre depois que a Anthropic buscou colaborações com estudiosos religiosos de destaque — em alguns casos, tentando convencê-los de que o Claude poderia ter consciência ou alma.

Seções separadas da política de uso proíbem os usuários de participar de campanhas amplamente enganosas, como usar o Claude para operar contas falsas ou veículos de notícias fabricados. A política também inclui regras contra enganar eleitores ou perturbar eleições, reunidas em uma seção intitulada “Não Minar os Processos Democráticos” (“Do Not Undermine Democratic Processes”).

Por que importa

A proibição explícita sinaliza que a Anthropic está formalizando salvaguardas tanto em relação ao tratamento do modelo quanto ao uso indevido em eleições, num momento em que as empresas de IA enfrentam escrutínio crescente sobre como seus modelos poderiam ser usados no contexto eleitoral.