Chips y hardware
AMD afirma que el MI455X supera a Nvidia en una prueba de inferencia de IA
AMD afirma que su GPU Instinct MI455X ofrece hasta un 30% más de rendimiento en inferencia de IA que la última prueba de Nvidia con Vera Rubin, y presenta una nueva opción, el MI450X.
AMD informó que nuevas pruebas de su unidad de procesamiento gráfico (GPU) Instinct MI455X, ejecutada sobre el sistema de bastidor Helios de la compañía, arrojaron 21.333 tokens por segundo por GPU en el modelo DeepSeek-R1, bajo una configuración MLPerf Inference Offline. AMD señala que ese resultado supera el último puntaje publicado por Nvidia con Vera Rubin en MLPerf offline hasta en un 30%. La empresa también afirma que Helios ofrece hasta un 20% más de ancho de banda de memoria de alto ancho de banda (HBM), y mayor ancho de banda de escalamiento vertical (scale-up), que Vera Rubin.
Junto con estos resultados, AMD amplía la serie Instinct MI400 con un nuevo chip, el MI450X. Cuenta con 288 GB de memoria HBM4 por GPU e iguala al MI455X en cómputo central, ancho de banda de memoria y conectividad de escalamiento vertical y horizontal (scale-up y scale-out) entre GPU. Esto da a los clientes de Helios dos opciones de memoria sobre la misma arquitectura abierta de bastidor y la plataforma de software ROCm de AMD: el MI455X para modelos más grandes, ventanas de contexto más largas o mayor concurrencia, y el MI450X para cargas de trabajo cuyas necesidades de memoria se ajustan a una huella menor sin dejar de cumplir los objetivos de rendimiento y tiempo de respuesta.
“Las GPU de la serie Instinct MI400 de AMD aportan un rendimiento líder y nuevas capacidades a la IA y la computación científica”, dijo Andrew Dieckmann, vicepresidente corporativo y gerente general de la unidad de negocio de GPU para centros de datos de AMD. “Con nuevos hitos en el rendimiento de inferencia de IA y una gama más amplia de configuraciones, les damos a los clientes más opciones para impulsar su próxima generación de cargas de trabajo de IA”.
AMD presenta esta ampliación de su catálogo como una respuesta a las distintas exigencias del entrenamiento de IA de frontera frente a la inferencia interactiva, lo que, según la compañía, exige distintos equilibrios entre rendimiento puro, capacidad de memoria y tiempo de respuesta.
Por qué importa
Las cifras de referencia de AMD son autoinformadas y no han sido verificadas de forma independiente, pero ponen un número concreto detrás de la propuesta de AMD frente a la plataforma Vera Rubin de próxima generación de Nvidia, mientras ambos fabricantes de chips compiten por contratos de GPU para centros de datos de IA.