Una fundadora crea detección de deepfakes en el propio dispositivo tras una estafa

Hace unos dos años, el abuelo de Tarini Padmanabhuni creyó estar hablando por teléfono con su hermano. La voz decía que lo habían secuestrado y que la única forma de recuperarlo era pagar un rescate. Su abuelo pagó, solo para enterarse después de que su hermano estaba en otro lugar por completo, sin idea de que nada de eso estaba ocurriendo: la voz era un deepfake, una imitación generada por IA. “Lo que se me quedó grabado no fue el dinero”, dice Padmanabhuni sobre el incidente. “Fue que él no tenía forma de saberlo”.

Hoy, la empresa de Padmanabhuni con sede en San Francisco, DetectifAI, busca asegurarse de que otros no sean engañados de la misma manera. Es un problema grande y creciente: según el FBI, los estadounidenses perdieron cerca de USD 900 millones por estafas impulsadas por IA el año pasado, un 24% más que en 2024, y las personas de 60 años o más perdieron el doble que las de entre 50 y 59 años. No falta competencia en la detección de voces deepfake, incluyendo a Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety y Nuance (que también pertenece a Microsoft). Pero Padmanabhuni sostiene que los productos de detección actuales funcionan en la nube, en servidores remotos, por lo que los fabricantes de teléfonos no pueden integrarlos directamente en los dispositivos, dejando a la persona objetivo con poca defensa en el momento.

En lugar de reducir modelos grandes en la nube para que quepan en un teléfono, DetectifAI diseña desde el inicio modelos de IA compactos, lo suficientemente pequeños como para ejecutarse dentro del sistema operativo de un smartphone, entregando un veredicto instantáneo sobre si una voz es generada por IA durante llamadas, mensajes de voz y otros audios, sin que el audio salga nunca del dispositivo. La startup vende primero a los fabricantes de teléfonos, licenciando su software para que la detección pueda incorporarse como función nativa, comparando la oportunidad con el papel exclusivo de AT&T en el lanzamiento del iPhone original: el primer fabricante en incorporar DetectifAI obtendría una ventaja, y la detección de deepfakes se convertiría en una especificación estándar, como la resolución de la cámara. Una fuente secundaria de ingresos proviene de licenciar la tecnología a empresas y firmas de prevención de fraude.

DetectifAI ya genera ingresos tempranos, según Padmanabhuni, y gestiona más de 100,000 llamadas al mes para instituciones financieras en India, llamadas realizadas por agentes de voz de IA que manejan cobranzas y seguimientos de préstamos, con detección de deepfakes y verificación de hablante en cada llamada. Ella se negó a nombrar clientes, citando acuerdos de confidencialidad. La startup ha recaudado una pequeña ronda semilla de los inversionistas Josh Constine, exeditor de TechCrunch, y Manohar Kamath, socio de la firma consultora KM Growth.

Por qué importa

A medida que la clonación de voz se vuelve lo bastante barata como para engañar a un abuelo, DetectifAI apuesta a que la detección de deepfakes se convierta en infraestructura integrada en el propio teléfono, en lugar de un servicio en la nube que las víctimas nunca piensan en verificar.