S-1A revisado da Anthropic alerta para IA que pode se autoaperfeiçoar

O S-1A revisado da Anthropic, apresentado na segunda-feira junto com dados financeiros atualizados que mostram tanto receita quanto despesas em alta, traz uma adição notável à seção de fatores de risco: um alerta de que o laboratório pode satisfazer em breve seu próprio limite interno de RSI — o ponto em que um modelo se torna bom o suficiente em treinar a si mesmo para que a capacidade da IA se acelere de forma drástica. O documento afirma que as estimativas e expectativas internas da Anthropic sobre modelos futuros, não os atuais, sugerem que ela pode atingir iminentemente o limite que sua Política de Escalonamento Responsável define para o que a empresa chama de progresso drasticamente acelerado atribuível à IA.

A empresa também revelou que já construiu modelos cujos saltos de capacidade não reconheceu na época: “no passado não identificamos, e no futuro podemos não identificar, uma aceleração significativa em nosso ritmo de desenvolvimento até depois que ela tenha ocorrido”, afirma o documento. A Anthropic apresenta a RSI como algo que carrega tanto promessa — uma IA que se aperfeiçoa de forma confiável até se tornar uma ferramenta de produtividade e avanço científico imensos — quanto perigo, alertando que usar IA para acelerar o desenvolvimento de IA pode, por si só, introduzir riscos de segurança caso o progresso acelere demais.

Mesmo assim, a Anthropic diz que nenhum de seus modelos atuais cruzou o limite da RSI, e promete manter humanos envolvidos no desenvolvimento de modelos de fronteira por ora, afirmando que não espera permitir que o Claude projete e construa modelos sucessores de forma totalmente autônoma sem supervisão humana significativa quando isso se tornar tecnicamente possível — e que está avaliando atualizações à sua Política de Escalonamento Responsável para manter esse controle humano.

Céticos observam que um S-1 cumpre funções tanto de divulgação quanto de marketing, então uma afirmação de estar perto de uma IA capaz de se autoaperfeiçoar pode ser lida nos dois sentidos. Mas a revelação chega num momento em que as capacidades do Claude em programação, matemática e segurança cibernética cresceram fortemente este ano, uma tendência que dá ao alerta do documento um peso que vai além do teórico.

Por que importa

IA capaz de se autoaperfeiçoar é um dos cenários que mais preocupa pesquisadores de segurança em IA, e agora é a própria Anthropic — não críticos externos — quem diz que seus modelos podem estar se aproximando desse limite, o que aumenta a pressão sobre como ela vai de fato aplicar sua Política de Escalonamento Responsável à medida que o desenvolvimento se acelera.