Amazon lança TorchNeuron para reduzir o domínio da Nvidia sobre o PyTorch

A Amazon Web Services lançou na segunda-feira o TorchNeuron, uma ferramenta que move aplicativos de IA construídos em PyTorch para o Trainium, o chip de IA próprio da empresa, bastando alterar uma linha de configuração em vez de reescrever o código. O lançamento mira a vantagem de software que tornou a Nvidia o hardware padrão para cargas de trabalho de IA: a Amazon diz que cerca de 85% dos aplicativos de IA rodam em PyTorch, o framework de código aberto originalmente criado pelo Facebook e que faz parte da Linux Foundation desde 2022, enquanto a Nvidia passou anos garantindo que seu software CUDA funcionasse perfeitamente com ele.

O TorchNeuron foi construído sobre o próprio PyTorch, então quem já domina o framework consegue usá-lo rapidamente. A Amazon não é a primeira a tentar esse truque — aplicativos em PyTorch já podem ser portados para GPUs da AMD ou para chips da Apple com um ajuste de configuração parecido —, mas a Amazon argumenta que a verdadeira vantagem do Trainium é combinar essa portabilidade com toda a sua nuvem, o que, segundo a empresa, supera depender de neoclouds ligadas à Nvidia, como CoreWeave, Nebius e Firmus.

Colin Brace, responsável por software de tecnologia na AWS Annapurna Labs — a unidade por trás dos chips próprios da Amazon —, descreveu a proposta como uma forma de evitar a dependência de um provedor de computação de propósito único, já que a AWS já tem a infraestrutura para levar um projeto do protótipo à produção. A empresa também destaca que o mesmo chip Trainium cuida tanto do treinamento quanto da inferência, o que, segundo ela, reduz os custos em toda a carga de trabalho mesmo quando seu preço por token não é o mais baixo do mercado; a Amazon cita a Deepgram, empresa de voz com IA concorrente da ElevenLabs, que passou a processar 70% mais áudio por dólar após migrar para o Trainium com suporte nativo ao PyTorch.

Além da proposta de chips, a Amazon diz que está empurrando o PyTorch para depender menos da Nvidia, contribuindo com código para o projeto principal a fim de remover amarras a chips específicos, de modo que o framework funcione igualmente bem com qualquer fabricante, não só com o Trainium. O hardware da Nvidia está hoje embutido no PyTorch quase por padrão, e desfazer isso pode ter consequências bem maiores do que essa única ferramenta. “A verdadeira história é remover o aprisionamento que impedia os desenvolvedores de terem uma escolha real”, disse Brace.

Por que importa

Se a Amazon conseguir realmente desvincular o PyTorch do hardware da Nvidia, a disputa deixa de ser sobre especificações de chips e passa a ser sobre quem controla a camada de software usada por quase todo desenvolvedor de IA — uma ameaça maior à Nvidia do que qualquer chip rival isolado.