Google desafía el dominio de Nvidia en IA con TorchTPU de código abierto

Google anunció el martes que TorchTPU, su propia versión del kit de herramientas PyTorch, ya está disponible como proyecto de código abierto — el último movimiento para debilitar el control de Nvidia sobre la industria de la IA, donde la mayoría de las aplicaciones de IA se ejecutan por defecto en GPU de Nvidia. PyTorch, el kit de código abierto que los desarrolladores de IA usan para construir, entrenar y ejecutar modelos, impulsa un estimado 85% de las aplicaciones de IA; Meta lo creó en 2016, cuando los chips de Nvidia ya dominaban el hardware de investigación en IA, antes de entregarlo a la fundación sin fines de lucro Linux Foundation en 2022.

TorchTPU permite que las aplicaciones se ejecuten en los propios chips de IA de Google, las Unidades de Procesamiento Tensorial (TPU), y migrar código PyTorch existente a las TPU —y, por extensión, a Google Cloud— mediante un simple cambio de configuración en lugar de una reescritura. El movimiento recuerda a uno que Amazon dio un día antes, al lanzar su propia versión de PyTorch, TorchNeuron, que traslada aplicaciones de IA al chip propio de Amazon, Trainium, y a AWS sin reescribir código. Amazon también dijo que está enviando código al proyecto central de PyTorch para desacoplar varias funciones de los chips de Nvidia, haciendo que la herramienta sea más abierta a cualquier chip por defecto.

Google podría estar superando a Amazon en algunos aspectos: dice que trabajó directamente con Meta, Hugging Face, Inferact (el creador de vLLM) y RadixArk (el creador de SGLang) para asegurar que las bibliotecas de código de TorchTPU funcionen tan bien con esas herramientas populares de IA como lo hace el PyTorch original. Google también lanzó un conjunto dedicado de agentes para TPU que ayuda a los desarrolladores a migrar aplicaciones y resolver errores, y actualizó LiteRT, la herramienta que usa para ejecutar modelos de IA en teléfonos, laptops y otros dispositivos integrados, para que funcione mejor con aplicaciones basadas en PyTorch.

Nada de esto garantiza que los desarrolladores vayan a abandonar el hardware de Nvidia en masa ahora que resulta más fácil acceder a chips y nubes alternativas. Pero Amazon y Google están trabajando deliberadamente para erosionar la ventaja de Nvidia.

Por qué importa

Reducir el costo de cambiar de las GPU de Nvidia a silicio propio ataca el bloqueo de software que ha sostenido el dominio de Nvidia en IA —aunque las brechas de rendimiento del hardware signifiquen que los desarrolladores no necesariamente cambiarán de inmediato.