Cómputo y nube
Niv-AI sale del modo sigilo para abordar el estrangulamiento de energía de las GPU
Niv-AI salió del modo sigilo con USD 12 millones en financiación semilla para desarrollar herramientas de gestión energética para centros de datos, que actualmente limitan el uso de las GPU hasta en un 30%.
Hoy, la startup Niv-AI, con sede en Tel Aviv, salió del modo sigilo —operando en secreto antes de su lanzamiento público— con USD 12 millones en financiación semilla. La empresa busca abordar los desafíos de gestión energética que obligan a los operadores de centros de datos a limitar el uso de las GPU hasta en un 30% debido a problemas de gestión de la red eléctrica. La ronda semilla fue respaldada por inversionistas como Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward y Aurora. La startup fue fundada por el CEO Tomer Timor y el CTO Edward Kizis.
Las cargas de trabajo modernas de inteligencia artificial (IA) requieren picos de energía rápidos, a escala de milisegundos, a medida que los procesadores alternan entre tareas de computación y comunicación. Estos picos dificultan que los centros de datos gestionen la energía que extraen de la red eléctrica, lo que genera ineficiencias. El CEO de Nvidia, Jensen Huang, destacó recientemente este problema, afirmando que se desperdicia una cantidad significativa de energía en estas instalaciones y que cada vatio no utilizado representa una pérdida de ingresos.
El CEO de Niv-AI, Tomer Timor, explicó que el problema central radica en la relación entre las instalaciones y la red eléctrica. Según Timor: “La red en realidad teme que el centro de datos consuma demasiada energía en un momento específico”. Señaló que la startup está abordando un problema con dos caras, con el objetivo de ayudar a los centros de datos a utilizar más GPU y aprovechar mejor la energía por la que ya pagan, al tiempo que crean perfiles de energía más responsables entre las instalaciones y la red. Lior Handelsman, socio de Grove Ventures que forma parte de la junta directiva de Niv-AI, añadió que los operadores no pueden seguir construyendo centros de datos bajo los métodos actuales.
Para abordar estos cuellos de botella, Niv-AI está desarrollando lo que sus fundadores describen como una capa de inteligencia entre los centros de datos y la red eléctrica. La empresa está desplegando actualmente sensores a nivel de rack —hardware diseñado para monitorear el uso de energía en los racks de los centros de datos— para detectar el uso de energía a nivel de milisegundos. La startup planea utilizar los datos recopilados para construir un modelo que pueda predecir y sincronizar las cargas de energía en todas las instalaciones. Niv-AI espera tener un sistema operativo en un puñado de centros de datos de EE. UU. en los próximos seis a ocho meses. Esta solución apunta a un cuello de botella crítico para los hiperescaladores (proveedores de computación en la nube a gran escala) que enfrentan restricciones de uso de suelo y cadena de suministro al intentar construir nuevas instalaciones.
Por qué importa
Niv-AI intenta resolver los desafíos de gestión energética que enfrentan los centros de datos mientras luchan con los picos de energía de las GPU, que actualmente obligan a los operadores a limitar el uso hasta en un 30%.