OpenAI amplia o acesso às suas ferramentas de caça a vulnerabilidades com IA

Esta semana, a OpenAI afirmou que o ChatGPT Cyber, um modelo criado especificamente para trabalho de segurança, passará a ser oferecido ao nível mais alto do Daybreak, o programa da empresa para quem defende sistemas: o Daybreak Red, voltado a pesquisadores ofensivos que buscam vulnerabilidades e desenvolvem correções para elas. Um dia antes, a empresa havia dito que o mesmo modelo já havia escaneado o kernel do Linux e preparado correções para 948 possíveis falhas, além de 81 vulnerabilidades que classificou como “inéditas” no navegador Firefox.

O lançamento vem depois de uma demonstração menor e independente da mesma ideia. Max Justicz, cofundador e diretor de tecnologia da startup de robótica Charge Robotics, apontou um modelo da OpenAI — o GPT 5.6 Sol, lançado em julho — para o código do Ubuntu por meio do Daybreak Blue, o nível de acesso do programa destinado a defensores. Ele contou à TechCrunch que o modelo encontrou, em duas horas, uma falha grave que poderia permitir que um atacante assumisse o controle de servidores que executam esse sistema operacional de código aberto amplamente usado. “É extremamente complicada e difícil de encontrar para um humano, mas funciona!”, disse Justicz. Ele reportou a falha ao Debian Project, que mantém o software e já lançou uma correção desde então; não há evidência conhecida de que alguém a tenha explorado antes disso.

Justicz estimou que gastou cerca de US$ 5.000 em assinaturas e computação para encontrar vários erros dessa forma — um valor modesto diante dos próprios números da OpenAI: a varredura do kernel do Linux custou cerca de US$ 1,2 milhão, bem abaixo dos aproximadamente US$ 6 milhões em tokens que a empresa já havia gasto em um problema de pesquisa sobre dinâmica dos fluidos. A OpenAI também apoia o esforço com um fundo de US$ 1 bilhão para profissionais de segurança que protegem infraestruturas como redes elétricas e sistemas de água.

O acesso ao Daybreak não é livre de atritos, mas a triagem de entrada pode não ser tão rigorosa assim. Justicz diz que a OpenAI reduziu recentemente os recursos do Daybreak Blue, embora entrar no programa não tenha exigido mais do que enviar uma foto de sua carteira de motorista. Profissionais de cibersegurança argumentam que essa equação pesa contra eles: o acesso restrito limita o uso de ferramentas de ponta por parte deles, enquanto os atacantes ainda podem recorrer a modelos de peso aberto com as barreiras de segurança removidas. A OpenAI estima a base de usuários do Daybreak em “milhares” — uma fração dos hackers que ela enfrenta. O pesquisador Eric Wallace disse que a empresa agora direciona uma parcela significativa de sua computação de ponta para corrigir códigos de código aberto de graça.

Por que importa

Se um entusiasta em um projeto paralelo consegue transformar um modelo de ponta em um exploit funcional em duas horas, quem está correndo para corrigir falhas primeiro — e não os laboratórios que lançam os modelos — é quem está ficando sem tempo.