Google desafia domínio da Nvidia em IA com o TorchTPU de código aberto

A Google anunciou na terça-feira que o TorchTPU, sua própria versão do kit de ferramentas PyTorch, já está disponível como projeto de código aberto — o mais recente movimento para minar o controle da Nvidia sobre a indústria de IA, em que a maioria dos aplicativos de IA é escrita, por padrão, para rodar em GPUs da Nvidia. O PyTorch, o kit de código aberto que desenvolvedores de IA usam para criar, treinar e executar modelos, está presente em uma estimativa de 85% dos aplicativos de IA; a Meta o criou em 2016, quando os chips da Nvidia já dominavam o hardware de pesquisa em IA, antes de entregá-lo à organização sem fins lucrativos Linux Foundation em 2022.

O TorchTPU permite que aplicativos rodem nos próprios chips de IA da Google, as Unidades de Processamento Tensorial (TPUs), e migrar código PyTorch já existente para as TPUs — e, por extensão, para o Google Cloud — por meio de uma simples mudança de configuração em vez de uma reescrita. O movimento ecoa um passo que a Amazon deu um dia antes, ao lançar sua própria versão do PyTorch, o TorchNeuron, que transfere aplicativos de IA para o chip próprio da Amazon, o Trainium, e para a AWS sem reescrever código. A Amazon também disse estar enviando código ao projeto central do PyTorch para desacoplar diversos recursos do hardware da Nvidia, tornando a ferramenta mais aberta a qualquer chip por padrão.

A Google pode estar indo além da Amazon em alguns aspectos: afirma ter trabalhado diretamente com Meta, Hugging Face, Inferact (criadora do vLLM) e RadixArk (criadora do SGLang) para garantir que as bibliotecas de código do TorchTPU funcionem tão bem com essas ferramentas populares de IA quanto o PyTorch original. A Google também lançou um conjunto dedicado de agentes para TPU, o TPU agent suite, para ajudar desenvolvedores a migrar aplicativos e corrigir erros, e atualizou o LiteRT, a ferramenta que usa para executar modelos de IA em celulares, laptops e outros dispositivos embarcados, para que funcione melhor com aplicativos baseados em PyTorch.

Nada disso garante que os desenvolvedores vão abandonar o hardware da Nvidia em massa agora que chips e nuvens alternativos ficaram mais fáceis de acessar. Mas Amazon e Google estão trabalhando deliberadamente para corroer a vantagem da Nvidia.

Por que importa

Reduzir o custo de migrar das GPUs da Nvidia para silício próprio atinge o aprisionamento de software que sustentou o domínio da Nvidia em IA — mesmo que diferenças de desempenho de hardware signifiquem que os desenvolvedores não vão necessariamente migrar de imediato.