Apps y consumo
LiteLLM, afectado por malware mientras su socio de cumplimiento enfrenta escrutinio
LiteLLM, una herramienta de IA de código abierto descargada hasta 3.4 millones de veces al día, fue afectada por malware, lo que plantea dudas sobre las certificaciones de seguridad proporcionadas por la startup de cumplimiento Delve.
LiteLLM, un proyecto de código abierto que brinda a los desarrolladores acceso a modelos de inteligencia artificial, cuenta con 40,000 estrellas en GitHub. El proyecto fue afectado recientemente por lo que se ha descrito como malware atroz. La herramienta, que se descarga hasta 3.4 millones de veces al día según la firma de seguridad Snyk, fue víctima de un ataque. El incidente de seguridad se detectó con relativa rapidez, probablemente en cuestión de horas, después de que un investigador descubriera la brecha.
El malware se infiltró en el sistema a través de una dependencia, es decir, otro software de código abierto del que dependía el proyecto. El científico investigador Callum McMahon de FutureSearch, una empresa que ofrece agentes de IA para investigación web, descubrió la brecha después de que el malware provocara el apagado de su computadora. Los investigadores describieron el malware como “vibe coded” debido a su diseño descuidado. Una vez activo, funcionaba robando credenciales de usuario para obtener más acceso a otros paquetes de código abierto.
La brecha de seguridad ha atraído un intenso escrutinio sobre la dependencia de LiteLLM de Delve, una startup de cumplimiento respaldada por Y Combinator (la aceleradora de startups de Silicon Valley). Delve ha sido acusada de engañar a sus clientes sobre su verdadera conformidad de cumplimiento al presuntamente generar datos falsos y utilizar auditores que aprueban informes sin revisarlos. Delve ha negado estas acusaciones de mala conducta. A pesar de la controversia, al 25 de marzo, el sitio web de LiteLLM mostraba dos certificaciones importantes de cumplimiento de seguridad —SOC2 e ISO 27001— proporcionadas por Delve. Estas certificaciones tienen la intención de demostrar que una empresa cuenta con políticas de seguridad para limitar incidentes, aunque no previenen automáticamente el malware. Al comentar sobre la situación en redes sociales, el ingeniero Gergely Orosz expresó su sorpresa de que LiteLLM estuviera realmente asegurado por Delve.
Mientras los desarrolladores de LiteLLM trabajan para abordar las consecuencias de haber sido víctimas de un ataque, el liderazgo de la empresa ha recurrido a expertos externos en seguridad. Krrish Dholakia, CEO de LiteLLM, se negó a comentar sobre el uso de Delve por parte de la startup, pero abordó la respuesta de seguridad en curso. “Nuestra prioridad actual es la investigación activa junto con Mandiant. Estamos comprometidos a compartir las lecciones técnicas aprendidas con la comunidad de desarrolladores una vez que nuestra revisión forense esté completa”, dijo Dholakia. Mandiant es una firma de ciberseguridad que ayuda con la investigación.
Por qué importa
El incidente destaca los riesgos de seguridad asociados con las dependencias de software de código abierto en herramientas de inteligencia artificial ampliamente utilizadas. También plantea preguntas críticas sobre la confiabilidad de las certificaciones automatizadas de cumplimiento de seguridad cuando son proporcionadas por startups que enfrentan acusaciones de mala conducta.