Meta lança ferramentas de IA para flagrar anúncios que escondem material de abuso infantil

A Meta anunciou na quarta-feira que mais de 97% do conteúdo contra o qual agiu no primeiro semestre de 2026 foi identificado por seus próprios sistemas antes que os usuários o denunciassem. Na Índia, a empresa diz que agiu contra 5,3 milhões de itens de conteúdo de exploração sexual infantil no mesmo período, com mais de 98% identificados antes da denúncia.

A Meta disse que as novas ferramentas têm como alvo anúncios que parecem inofensivos, mas são projetados para direcionar usuários a conteúdo ilegal hospedado fora das plataformas da Meta. A nova ferramenta da empresa é um sistema de modelo de linguagem grande (LLM) criado para identificar o que a empresa chama de “signposting”: anúncios suspeitos de direcionar usuários a conteúdo ilegal ou outras atividades nocivas em outros sites — uma tática que, segundo a Meta, agentes mal-intencionados têm adotado cada vez mais para escapar da detecção. Como os próprios anúncios podem não conter material ilegal, a Meta diz que agora está analisando para onde um anúncio direciona os usuários, não apenas o que o anúncio exibe, para poder bloquear os sites de destino e agir contra as contas que os administram.

A Meta também está executando varreduras adicionais com IA para flagrar conteúdo de exploração infantil que sistemas anteriores podem ter deixado passar, e diz que continuará adicionando novos sinais de detecção à medida que aprender mais sobre como essas redes operam. Outra ferramenta nova é um “agente de IA de red-teaming”, que testa as próprias medidas de segurança da Meta em busca de falhas que agentes mal-intencionados poderiam explorar, o que a empresa diz que pode ajudá-la a identificar novos métodos de abuso antes que se tornem mais comuns. A Meta também está melhorando sua capacidade de identificar pessoas que retornam às suas plataformas com novas contas depois que suas contas anteriores foram removidas.

O lançamento ocorre em um momento em que a Meta enfrenta pressão contínua sobre a segurança das crianças em suas plataformas, incluindo processos judiciais e críticas de legisladores sobre os riscos que seus serviços de redes sociais podem representar para usuários jovens. Em agosto, a empresa concordou em pagar até US$ 18 bilhões para resolver um processo sobre segurança infantil movido por 29 estados dos EUA. A Meta introduziu várias outras funções de segurança infantil este ano, incluindo controles parentais para o Meta AI, contas para pré-adolescentes no WhatsApp e alertas para os pais quando menores pesquisam conteúdo de autolesão no Instagram. Em setembro, o WhatsApp adicionou mais controles parentais que permitem aos pais limitar o uso que os adolescentes fazem dos Canais, controlar quem pode ver suas atualizações de status, decidir quem pode adicionar seus filhos a grupos e receber notificações sobre determinadas atividades em grupos.

Por que importa

A mudança de analisar o conteúdo dos anúncios para rastrear para onde eles direcionam os usuários pode dificultar que agentes mal-intencionados usem posicionamentos aparentemente inofensivos como porta de entrada para material ilegal, num momento em que a Meta continua enfrentando pressão legal e regulatória sobre a segurança infantil em suas plataformas.