Após golpe com voz falsificada, fundadora cria detecção de deepfake no próprio aparelho

Há cerca de dois anos, o avô de Tarini Padmanabhuni acreditou estar falando ao telefone com o irmão. A voz dizia que ele havia sido sequestrado e que a única forma de recuperá-lo era pagando um resgate. O avô pagou, só para descobrir depois que o irmão estava em outro lugar totalmente diferente, sem fazer ideia do que estava acontecendo — a voz era um deepfake, uma imitação gerada por IA. “O que ficou comigo não foi o dinheiro”, diz Padmanabhuni sobre o episódio. “Foi o fato de ele não ter como saber.”

Hoje, a empresa de Padmanabhuni, sediada em São Francisco, a DetectifAI, busca garantir que outras pessoas não sejam enganadas da mesma forma. É um problema grande e crescente: segundo o FBI, os americanos perderam cerca de US$ 900 milhões em golpes movidos por IA no ano passado, um aumento de 24% em relação a 2024, e pessoas com 60 anos ou mais perderam o dobro do que as de 50 a 59 anos. Não falta concorrência na detecção de vozes deepfake, incluindo Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety e Nuance (também da Microsoft). Mas, segundo Padmanabhuni, os produtos de detecção atuais rodam na nuvem, em servidores remotos, o que impede os fabricantes de celulares de integrá-los diretamente aos aparelhos, deixando a pessoa-alvo com pouca defesa no momento do golpe.

Em vez de reduzir grandes modelos em nuvem para caber em um celular, a DetectifAI projeta, desde o início, modelos de IA compactos, pequenos o suficiente para rodar dentro do próprio sistema operacional do smartphone, entregando um veredito instantâneo sobre se uma voz foi gerada por IA durante ligações, mensagens de voz e outros áudios, sem que o áudio saia do aparelho em nenhum momento. A startup está vendendo primeiro para fabricantes de celulares, licenciando seu software para que a detecção venha embutida como recurso nativo — comparando a oportunidade ao papel exclusivo da AT&T no lançamento do primeiro iPhone: o primeiro fabricante a lançar um aparelho com a DetectifAI ganharia vantagem, e a detecção de deepfake se tornaria uma especificação padrão, como a resolução da câmera. Uma fonte secundária de receita vem do licenciamento da tecnologia para empresas e firmas de prevenção a fraudes.

A DetectifAI já tem receita inicial, segundo Padmanabhuni, processando mais de 100 mil ligações por mês para instituições financeiras na Índia — ligações feitas por agentes de voz de IA que cuidam de cobrança de dívidas e acompanhamento de empréstimos, com detecção de deepfake e verificação de identidade por voz em cada chamada. Ela não quis citar clientes, alegando acordos de confidencialidade. A startup captou uma pequena rodada seed dos investidores Josh Constine, ex-editor do TechCrunch, e Manohar Kamath, sócio da consultoria KM Growth.

Por que importa

Com a clonagem de voz ficando barata o suficiente para enganar um avô, a DetectifAI aposta que a detecção de deepfake se tornará infraestrutura embutida no próprio celular, em vez de um serviço na nuvem que as vítimas nunca pensam em consultar.