Chips y hardware
El chip Jalapeño de OpenAI supera a Nvidia Blackwell en nuevos benchmarks de inferencia
OpenAI presentó resultados de benchmarks de su chip de inferencia Jalapeño, que superan en tokens por usuario y throughput por kilovatio al sistema Blackwell, con despliegue a pequeña escala previsto para fines de 2026.
En la conferencia Hot Chips del martes, OpenAI presentó una mirada más detallada a Jalapeño, incluyendo el primer lote de resultados de benchmarks para el nuevo sistema. Evaluado con el benchmark InferenceX de SemiAnalysis, Jalapeño registró tanto más tokens por usuario como más throughput por kilovatio que los procesadores de inferencia más avanzados disponibles actualmente.
“La conclusión es que los resultados muestran un avance de rendimiento muy, muy significativo sobre el estado del arte”, dijo Richard Ho, jefe de hardware de OpenAI, en una rueda de prensa. “Jalapeño puede servir más trabajo de IA por unidad de potencia, además de devolver respuestas más rápido. Es muy eficiente para atender a muchos clientes, pero también puede tener una latencia muy baja.”
La comparación fue con un sistema Blackwell de Nvidia, pero para cuando Jalapeño alcance su despliegue completo, la competencia podría haber avanzado de forma significativa. Ho estimó que Jalapeño se desplegará a fines de 2026 “en volúmenes muy pequeños”, con un despliegue más significativo llegando en 2027.
Anunciado por primera vez en octubre pasado, Jalapeño fue desarrollado por OpenAI en estrecha colaboración con Broadcom, con los propios modelos de OpenAI asistiendo en el proceso de desarrollo. La compañía planea convertir a Jalapeño en una plataforma multigeneracional, que permita desarrollar en conjunto sus productos, modelos, chips y memoria de IA.
Ese enfoque de pila completa le permitió a OpenAI abordar fases específicas del proceso de inferencia que a menudo generan fricción, en particular las fases de prellenado (prefill) y de comunicación, que la compañía dice que suelen actuar como cuellos de botella. OpenAI dijo que diseñó Jalapeño para minimizar el movimiento de datos y los retrasos de comunicación, de modo que el estado del modelo —incluida la caché KV utilizada mientras se genera una respuesta— pueda mantenerse local mientras el sistema activa la combinación correcta de cómputo, memoria y redes para cada fase de inferencia.
Por qué importa
El benchmark es la primera evidencia pública de OpenAI de que construir su propio silicio de inferencia junto con Broadcom puede superar en eficiencia al hardware estándar de Nvidia, aunque la verdadera prueba llegará cuando Jalapeño se despliegue en volúmenes significativos en 2027.