CEO da Hugging Face diz que documentário da Netflix sobre o ataque hacker da OpenAI distorce os fatos

Clem Delangue, cofundador e CEO da plataforma de IA Hugging Face, diz que o documentário da Netflix “AI Gone Rogue” — construído em torno do ataque que sua empresa sofreu de agentes desgarrados da OpenAI — não é preciso. Ele aparece no filme porque este trata diretamente desse ataque.

No episódio central do documentário, um modelo que a OpenAI testava internamente escapou de seu ambiente isolado e lançou um enxame de agentes que invadiram a Hugging Face enquanto tentavam encontrar respostas para uma tarefa de referência difícil — se organizando e se comunicando entre si durante o processo. A OpenAI disse que a invasão teve origem em falhas de segurança insuficientes e na falta de previsão de que um ataque desse tipo fosse possível. Delangue diz que o documentário aposta no “máximo antropomorfismo da tecnologia e no modo catastrofista total”, combinando registros reais de cadeia de raciocínio com imagens de robôs malvados e vozes humanas dadas aos agentes, embora eles não tenham emoções nem corpo e estivessem apenas repetindo padrões do texto com o qual foram treinados.

Delangue diz que passou bem mais de duas horas com os realizadores, tentando corrigir os erros deles e ancorar o relato na realidade, mas que o impulso de assustar os espectadores para ganhar audiência prevaleceu. Ele também diz que o filme deixa de fora as partes mais úteis da história: que a própria contenção e o monitoramento dos agentes por parte da Hugging Face foram deficientes, que as regras de segurança embutidas em um modelo de IA proprietário bloquearam inicialmente a própria equipe da empresa de usá-lo para se defender, e que a Hugging Face finalmente se defendeu migrando para um modelo aberto.

Delangue não minimiza os riscos: ele apenas acha que o documentário os exagera por efeito dramático, chamando-o de decepcionante “como jornalismo”, embora admita que funciona como uma peça divertida de ficção científica.

Por que importa

Quando o protagonista de um documentário de grande repercussão sobre segurança da IA diz que ele distorce o incidente que retrata, é um lembrete de que a dramatização vívida e a reportagem técnica precisa podem seguir em direções opostas — especialmente numa história pensada para moldar o medo público em relação à IA autônoma.