AMD diz que o MI455X supera a Nvidia em teste de inferência de IA

A AMD informou que novos testes de sua unidade de processamento gráfico (GPU) Instinct MI455X, rodando no sistema de rack Helios da empresa, registraram 21.333 tokens por segundo por GPU no modelo DeepSeek-R1, em uma configuração MLPerf Inference Offline. A AMD diz que esse resultado supera em até 30% o mais recente resultado publicado pela Nvidia com o Vera Rubin no MLPerf offline. A empresa também afirma que o Helios oferece até 20% mais largura de banda de memória de alta largura de banda (HBM) e maior largura de banda de escalonamento vertical (scale-up) do que o Vera Rubin.

Junto com esses resultados, a AMD amplia a série Instinct MI400 com um novo chip, o MI450X. Ele conta com 288 GB de memória HBM4 por GPU, equiparando-se ao MI455X em desempenho de computação central, largura de banda de memória e conectividade entre GPUs por escalonamento vertical e horizontal (scale-up e scale-out). Isso dá aos clientes do Helios duas opções de memória sobre a mesma arquitetura de rack aberta e a plataforma de software ROCm da AMD: o MI455X para modelos maiores, janelas de contexto mais longas ou maior número de solicitações simultâneas, e o MI450X para cargas de trabalho cujas necessidades de memória cabem em uma capacidade menor, sem deixar de atingir as metas de desempenho e tempo de resposta.

“As GPUs da série Instinct MI400 da AMD trazem desempenho líder e novas capacidades para IA e computação científica”, disse Andrew Dieckmann, vice-presidente corporativo e gerente geral da unidade de negócios de GPU para data centers da AMD. “Com novos marcos em desempenho de inferência de IA e uma gama mais ampla de configurações, estamos dando aos clientes mais opções para impulsionar a próxima geração de suas cargas de trabalho de IA.”

A AMD apresenta essa expansão como resposta às exigências distintas do treinamento de IA de ponta em comparação com a inferência interativa, o que, segundo a empresa, exige equilíbrios diferentes entre desempenho bruto, capacidade de memória e tempo de resposta.

Por que importa

Os números de desempenho divulgados pela AMD são autodeclarados e não foram verificados de forma independente, mas colocam um número concreto atrás da proposta da AMD frente à futura plataforma Vera Rubin da Nvidia, enquanto as duas fabricantes de chips competem por contratos de GPU para data centers de IA.