Amazon lanza TorchNeuron para reducir el dominio de Nvidia sobre PyTorch

Amazon Web Services lanzó el lunes TorchNeuron, una herramienta que traslada aplicaciones de IA creadas con PyTorch a Trainium, el chip de IA propio de la compañía, con solo cambiar una línea de configuración en lugar de reescribir el código. El lanzamiento apunta a la ventaja de software que ha convertido a Nvidia en el hardware por defecto para cargas de trabajo de IA: Amazon dice que alrededor del 85% de las aplicaciones de IA funcionan sobre PyTorch, el marco de código abierto que originalmente construyó Facebook y que forma parte de la Linux Foundation desde 2022, y Nvidia ha dedicado años a garantizar que su software CUDA funcione sin fricciones con él.

TorchNeuron está construido sobre el propio PyTorch, así que cualquiera que ya domine ese marco puede empezar a usarlo con rapidez. Amazon no es la primera en intentar este truco: las aplicaciones de PyTorch ya pueden adaptarse a GPU de AMD o a los chips de Apple con un ajuste de configuración similar, pero Amazon sostiene que la verdadera ventaja de Trainium es combinar esa portabilidad con toda su nube, lo que —según la empresa— supera a depender de neonubes ligadas a Nvidia, como CoreWeave, Nebius y Firmus.

Colin Brace, a cargo del software de tecnología en AWS Annapurna Labs —la división que fabrica los chips propios de Amazon—, presentó la propuesta como una forma de evitar la dependencia de un proveedor de cómputo de un solo propósito, ya que AWS ya cuenta con la infraestructura para llevar un proyecto del prototipo a la producción. La empresa también destaca que un mismo chip Trainium maneja tanto el entrenamiento como la inferencia, lo que —según dice— reduce los costos de toda la carga de trabajo incluso cuando su precio por token no es el más bajo del mercado; Amazon cita el caso de Deepgram, una empresa de voz con IA que compite con ElevenLabs, que procesa 70% más audio por dólar tras migrar a Trainium con soporte nativo de PyTorch.

Más allá de la propuesta de chips, Amazon dice que está impulsando que PyTorch dependa menos de Nvidia, aportando código a la rama principal del proyecto para eliminar las ataduras a chips específicos, de modo que el marco funcione igual de bien con cualquier fabricante, no solo con Trainium. El hardware de Nvidia está hoy incorporado en PyTorch casi por defecto, y revertir eso podría tener consecuencias que van mucho más allá de esta sola herramienta. “Lo verdaderamente importante es eliminar el bloqueo que le impedía a los desarrolladores tener una opción real”, dijo Brace.

Por qué importa

Si Amazon logra desacoplar de verdad a PyTorch del hardware de Nvidia, la disputa dejará de ser solo sobre especificaciones de chips para pasar a ser sobre quién controla la capa de software que casi todo desarrollador de IA utiliza, una amenaza mayor para Nvidia que cualquier chip rival por sí solo.