La startup AIUC recauda USD 40 millones para certificar agentes de IA como un SOC 2 de seguridad

Un día después de que el investigador de Anthropic Jacob Coxon renunciara a su trabajo por preocupaciones de que la IA podría representar un riesgo catastrófico, los fundadores y cuñados Rune Kvist y Rajiv Dattani describieron un problema más acotado que creen poder resolver: evitar que los agentes de IA se salgan de control dentro de las empresas. “La IA se está volviendo más inteligente a un ritmo cada vez más rápido. Lo sorprendente de la IA es que se vuelve más difícil de adoptar y de controlar a medida que se vuelve más inteligente, no más fácil”, dijo Kvist, empleado temprano de Anthropic. Dattani es el exCOO de la organización de investigación en seguridad de IA METR, cargo que ocupó de 2024 a 2025 y en el que sigue siendo miembro de la junta.

La startup de la pareja, Artificial Intelligence Underwriting Company (AIUC), busca llevar la evaluación de seguridad de IA a las empresas y a las compañías que construyen modelos y agentes de IA; menciona a Cursor, Lovable, Harvey y ElevenLabs como clientes. El martes, AIUC anunció una Serie A de USD 40 millones liderada por Ribbit Capital, con participación de First Harmonic, que se suma a una ronda semilla previa de USD 15 millones de NFDG, el fondo de Nat Friedman, junto con Emergence, Terrain y el cofundador de Anthropic Ben Mann, lo que eleva el financiamiento total a USD 55 millones.

AIUC aplica un modelo de auditoría al estilo de la ciberseguridad al riesgo de la IA, usando como plantilla el estándar SOC 2, ampliamente adoptado. La empresa desarrolló un estándar llamado AIUC-1 y un servicio de pruebas para validar agentes conforme a él, elaborado con aportes de un consorcio de alrededor de 250 líderes de seguridad y riesgo que compran agentes. “Los bancos, hospitales, gobiernos y ejércitos ya no rechazan implementar IA porque un modelo no sea lo suficientemente inteligente”, dijo Kvist. “La rechazan porque han hecho compromisos con sus propios clientes sobre lo que un sistema hará y no hará, y en este momento nadie puede garantizarlo”. AIUC somete a un agente a una batería de unas 5000 pruebas que cubren jailbreaks, alucinaciones y filtraciones de datos, y produce un reporte de alrededor de 100 páginas; agentes de IA ejecutan las pruebas y analizan los datos, pero personas verifican la auditoría final.

El enfoque recuerda al propio trabajo de METR evaluando los modelos de los laboratorios de frontera, aunque el enfoque de METR se ha centrado sobre todo en el desempeño más que en la seguridad. El CEO de Anthropic, Dario Amodei, ha pedido recientemente que la industria modere el ritmo de desarrollo de frontera y ha planteado la idea de exigir a los laboratorios que incorporen evaluadores externos, nombrando a METR como una posibilidad. AIUC no propone integrarse en las instalaciones de sus clientes, pero Dattani dijo que el objetivo es similar: dar a las empresas una lectura independiente de cuán seguros son sus agentes de IA antes de comprarlos.

Por qué importa

Una capa de certificación externa para agentes de IA podría convertirse en un requisito previo para que industrias reguladas —bancos, hospitales, gobiernos— adopten la IA en absoluto, convirtiendo la evaluación de seguridad de IA en su propia categoría de ventas empresariales.