Gimlet Labs recauda USD 80 millones para optimizar la inferencia de IA

Gimlet Labs ha recaudado una ronda de financiamiento de Serie A de USD 80 millones liderada por Menlo Ventures para escalar su plataforma de software. La empresa emergente ha construido lo que reporta como la primera y única nube de inferencia multisilicio, un software diseñado para ejecutar cargas de trabajo de inteligencia artificial (IA) simultáneamente en diversas arquitecturas de hardware. En IA, la inferencia es la fase de ejecución donde un modelo entrenado procesa datos para generar resultados. En lugar de limitar las cargas de trabajo a un solo tipo de chip, el software permite que las tareas se ejecuten en unidades centrales de procesamiento (CPU) tradicionales, unidades de procesamiento gráfico (GPU) y sistemas de alta memoria. Según la empresa, este enfoque acelera la inferencia de IA de 3 a 10 veces por el mismo costo y energía.

El financiamiento llega a medida que crece la demanda de infraestructura, aunque el hardware existente sigue estando subutilizado. McKinsey estima que el gasto en centros de datos alcanzará casi USD 7 billones para 2030. Sin embargo, el fundador y CEO de Gimlet Labs, Zain Asgar, afirma que las aplicaciones utilizan actualmente el hardware existente entre aproximadamente el 15 y el 30 por ciento del tiempo, dejando recursos inactivos. Asgar explicó el objetivo de la empresa emergente: “Nuestro objetivo era básicamente tratar de descubrir cómo lograr que las cargas de trabajo de IA sean 10 veces más eficientes que nunca, hoy mismo”.

Gimlet Labs fue fundada por Asgar junto con Michelle Nguyen, Omid Azizi y Natalie Serrino. Los cofundadores trabajaron juntos anteriormente en Pixie, una empresa emergente que fue adquirida por New Relic en 2020, dos meses después de su lanzamiento con una ronda de Serie A de USD 9 millones liderada por Benchmark. Gimlet Labs se lanzó públicamente en octubre con al menos USD 10 millones en ingresos. La empresa, que actualmente emplea a 30 personas, ha recaudado ahora un total de USD 92 millones en financiamiento. Su ronda semilla fue liderada por Factory, con la participación de Eclipse Ventures, Prosperity7 y Triatomic, junto con inversionistas ángeles como Bill Coughran, Nick McKeown, Raghu Raghuram y Lip-Bu Tan.

Para respaldar su orquestación de hardware múltiple, la empresa emergente ha establecido asociaciones con fabricantes de chips y diseñadores de hardware, incluidos NVIDIA, AMD, Intel, ARM, Cerebras y d-Matrix. Tim Tully, el inversionista principal de Menlo Ventures, señaló en una publicación de blog que las diferentes etapas de las cargas de trabajo de agentes de IA requieren hardware diferente, lo que significa que la infraestructura física está lista pero carecía de la capa de software para coordinarla. Gimlet Labs entrega su producto ya sea como software o a través de una API a su propia plataforma en la nube, apuntando a grandes laboratorios de modelos de IA y centros de datos.

Por qué importa

Gimlet Labs está intentando resolver el cuello de botella de la inferencia de IA desacoplando el software del hardware específico, un movimiento crítico dado que se estima que el gasto en centros de datos alcanzará casi USD 7 billones para 2030. Al permitir que las cargas de trabajo se ejecuten dinámicamente en diferentes arquitecturas de chips, la empresa busca eliminar las ineficiencias del silicio inactivo.