Anthropic desenvolve prova criptográfica para identificar qual IA gerou uma resposta

A Anthropic detalhou o projeto, batizado de FlashProve, em um post de blog publicado na terça-feira. O sistema busca oferecer o que os pesquisadores chamam de “inferência comprovável” — uma garantia matemática de que determinado resultado veio de um modelo específico, permitindo que o usuário confirme se a resposta recebida realmente partiu do modelo que ele acredita ter respondido. Os pesquisadores comparam a ideia a uma assinatura criptográfica de e-mail: uma forma de quem recebe um resultado de IA confirmar sua origem, resistente até mesmo a um laboratório de IA que tente disfarçar um de seus próprios modelos como se fosse outro.

Os pesquisadores apontam vários usos práticos. O FlashProve poderia impedir que uma empresa de IA trocasse silenciosamente por um modelo mais barato para cortar custos, ou por um mais caro para inflar seus resultados em benchmarks, sem que os clientes soubessem. Também poderia permitir que terceiros verificassem afirmações sobre qual modelo executou determinada tarefa — o post cita como exemplo um desenvolvedor que alega que uma biblioteca de código foi escaneada por um modelo de segurança cibernética de ponta, ou uma empresa que afirma que seu plano de negócios foi revisado por um modelo específico, afirmações que hoje um usuário não tem como verificar.

No plano técnico, o sistema exige que os laboratórios de IA publiquem uma “impressão digital” criptográfica para cada modelo lançado, que depois pode ser cruzada com resultados específicos. Crucialmente, essas impressões digitais não revelariam os pesos do modelo — os parâmetros internos que desenvolvedores fechados como Anthropic e OpenAI tratam como segredo comercial —, o que permitiria aos laboratórios adotar o esquema sem abrir mão do que consideram seu ativo mais valioso. O design também foi pensado para ser leve o suficiente para ser verificado em um dispositivo local.

A Anthropic publicou no GitHub uma especificação técnica detalhada e código funcional para partes do sistema, sob licença de código aberto. Os pesquisadores descrevem o trabalho como inacabado: “Este post de pesquisa tem como objetivo compartilhar um progresso intermediário, não apresentar uma agenda de pesquisa concluída”, escreveram, acrescentando que esperam que outros construam a partir dele. A Anthropic disse que não tem planos atuais de implementar o FlashProve por conta própria, e o post também não cita nenhum outro laboratório comprometido em usá-lo.

Por que importa

Se os laboratórios eventualmente adotarem algo como o FlashProve, isso daria a empresas e reguladores uma forma de auditar afirmações sobre modelos de IA que hoje dependem inteiramente da confiança no fornecedor — uma lacuna que ganha relevância à medida que as empresas constroem processos de segurança, conformidade e finanças sobre capacidades que determinados modelos afirmam ter.