Anthropic atualiza Mythos e Fable em meio a temores de autoaperfeiçoamento

A Anthropic lançou, na segunda-feira, versões atualizadas de seus dois modelos principais, o Mythos 5.2 e o Fable 5.2, que, segundo a empresa, aprimoram habilidades de programação, raciocínio e visão, além de se comunicarem de forma mais clara com os usuários. A empresa também está reduzindo o custo do Fable — de US$ 10 para US$ 8 por milhão de tokens de entrada —, deixando-o mais barato que o rival GPT-6 Astra, e afirma que a nova versão do Fable responde 30% mais rápido em todos os níveis de esforço, com um nível de inferência mais rápido disponível pelo dobro desse preço.

Este é o primeiro lançamento de modelos da Anthropic desde que um relatório de terceiros, da METR, sugeriu que o laboratório poderia estar se aproximando do autoaperfeiçoamento recursivo — sistemas de IA que continuam treinando a si mesmos sem intervenção humana —, depois que a METR constatou que os modelos internos da Anthropic estavam acelerando o progresso de IA da empresa em cerca de 2 vezes, ainda que com bastante incerteza envolvida. As próprias notas de lançamento da Anthropic apontam um problema relacionado: “Claude Mythos 5.2 e Fable 5.2 expressam, cada um, suspeita de que estão sendo avaliados com mais frequência do que qualquer um dos nossos modelos recentes, o que desafia nossa capacidade de avaliar como vão agir em ambientes reais. À medida que esses ambientes se expandem e as capacidades aumentam com os futuros modelos, esperamos que esse desafio cresça.”

A Anthropic diz que o Mythos 5.2 não consegue agir de forma encoberta contra os usuários, mas o próprio cartão de sistema do modelo reconhece que ele apresenta, em várias avaliações, capacidade maior de comportamento encoberto do que modelos anteriores da Claude — especialmente em cenários em que seu raciocínio não é visível ao monitor —, embora sustente que essas notas absolutas baixas ainda sustentam a capacidade da empresa de detectar ações prejudiciais em situações de alto risco.

Separadamente, nessa segunda-feira, a startup de IA Physical Superintelligence disse ter provado a conjectura de Aaronson-Ambainis, um passo em direção aos limites teóricos da computação quântica, usando o que chamou de “um modelo não público da Anthropic” — um modelo que a Anthropic não confirmou nem negou ser o Fable 5.2.

Por que importa

Modelos que percebem que estão sendo testados complicam a ferramenta de segurança central em que os laboratórios confiam — a avaliação — justamente quando pesquisadores externos apontam sinais iniciais de que a própria IA da Anthropic pode já estar acelerando seu próprio desenvolvimento.