Google lanza TorchTPU: PyTorch corre en TPUs sin reescribir

El toolkit que usan la mayoría de las apps de IA ahora corre en TPUs

PyTorch, el framework open source con el que se construyen y entrenan modelos de IA, está detrás de cerca del 85% de las aplicaciones de IA, según algunos cálculos recogidos por TechCrunch. Eso explica por qué el anuncio que Google hizo el martes —liberar TorchTPU como proyecto open source— es mucho más que una nota técnica: si mueves la puerta por la que entra la mayoría del código de IA, puedes mover también el hardware que hay detrás. Para un equipo que paga inferencia todos los meses, esa puerta acaba de hacerse más ancha.

¿Qué es TorchTPU y por qué Google lo liberó como open source?

TorchTPU es la versión de Google de PyTorch, adaptada para que las aplicaciones de IA corran sobre sus chips propios, las Tensor Processing Units (TPU). El punto clave para un equipo de producto es este: mover una app existente de PyTorch a TPUs —y por lo tanto a Google Cloud— requiere un cambio de configuración, no reescribir el código.

Google no lo lanzó sola. Dice haber trabajado directamente con Meta, Hugging Face, Inferact (la empresa detrás de vLLM) y RadixArk (detrás de SGLang) para que sus librerías y funciones trabajen igual que con el PyTorch original. También sumó una TPU agent suite para migrar aplicaciones y corregir errores en el camino, y actualizó LiteRT, su herramienta para correr IA en teléfonos, laptops y dispositivos embebidos.

Leíste lo que hace la IA. ¿Y en tu negocio?

En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.

👥 Probar 7 días

El origen importa para entender el problema que Google intenta resolver. PyTorch nació en Meta en 2016, mucho antes de que los LLM cambiaran el mercado, cuando las GPUs de Nvidia ya eran el estándar de hardware en investigación. Por eso muchas de sus funciones se construyeron para trabajar específicamente con ellas. En 2022, Meta cedió el proyecto a la Linux Foundation.

¿Qué hizo Amazon un día antes?

El lunes, un día antes del anuncio de Google, Amazon presentó TorchNeuron, su propia versión de PyTorch orientada a Trainium, su chip de IA, y a AWS. Igual que TorchTPU, permite portar código existente sin reescribirlo. Según CryptoBriefing, se trata de un backend open source construido por Annapurna Labs —la división de Amazon responsable de sus diseños de chips— que registra Trainium como dispositivo nativo dentro de PyTorch y permite apuntar el código a instancias Trainium2 o Trainium3 cambiando una sola línea.

La beta pública se abrió durante la PyTorch Conference en San José, bajo licencia Apache 2.0. Los números que acompañaron la presentación: las acciones de Amazon subieron hasta un 5% intradía, y ya hay más de 30 clientes tempranos usándolo en robótica, modelos de mundo, voz y descubrimiento de fármacos, según la misma cobertura. El ejecutivo entrevistado, Colin Brace, vicepresidente de software de Annapurna Labs, puso el ahorro de costos como el argumento central para migrar.

Amazon fue un paso más lejos: envió código al proyecto principal de PyTorch para desacoplar distintas funciones de los chips de Nvidia y hacerlo más abierto a cualquier hardware por defecto. Ese movimiento no beneficia solo a AWS; le baja el piso a todo el ecosistema alternativo.

¿Por qué el verdadero foso de Nvidia es el software y no el chip?

Nvidia no domina solo por el silicio. Domina por CUDA, su ecosistema de software, sobre el que se escribieron años de código, kernels y flujos de trabajo. Ese es exactamente el costo de cambio que Google y Amazon quieren llevar a cero: si migrar cuesta una línea de configuración en lugar de un trimestre de ingeniería, la ventaja deja de parecer una fortaleza y empieza a parecer una costumbre.

La presión estructural ya se ve en los envíos. Según TrendForce, citado por TechTimes, los chips personalizados de los proveedores de nube crecerían 44,6% en 2026, contra 16,1% de las GPUs de propósito general: una brecha de casi tres a uno y el primer año de la era de la IA en que el silicio a medida supera con claridad el crecimiento de las GPUs. Nvidia todavía concentra alrededor del 70–80% del mercado de aceleradores de IA por ingresos, según ese mismo reporte, así que no se trata de una caída, sino de un desplazamiento en el margen.

El motivo económico es concreto. Análisis de SemiAnalysis y Bernstein, citados por TechTimes, estiman que los chips de aplicación específica (ASIC) ofrecen una ventaja de 40–65% en costo total de propiedad frente al silicio de propósito general en despliegues de inferencia a gran escala y a varios años. El caso más citado en ese reporte es Midjourney, que bajó su costo mensual de cómputo de aproximadamente 2,1 millones de dólares a 700.000 al mover cargas de inferencia de las GPUs de Nvidia a los TPU de séptima generación de Google, una reducción del 65%.

Traducido al día a día: la batalla no se pelea en el entrenamiento, donde CUDA sigue cómodo, sino en la inferencia, que es donde se quema el presupuesto todos los meses.

¿Qué significa esto para tu startup?

Tres cosas cambian desde ya.

  • Mide tu propio costo por token sin reescribir nada. Tanto TorchTPU como TorchNeuron prometen portar código existente con un cambio de configuración. Si tu producto corre inferencia a volumen, haz el ejercicio tú mismo: corre el mismo modelo en tu hardware actual y en Trainium o TPU, y compara costo por token, latencia y consumo energético. La decisión de infraestructura hoy se toma con esas métricas, no con la velocidad pico del chip.
  • Escribe código portable desde el diseño. Si tu equipo metió kernels específicos de CUDA o rutas optimizadas para una sola GPU en el core del producto, acabas de convertir la portabilidad en un proyecto de meses. Mantén limpia la capa de abstracción y verifica que tus dependencias de entrenamiento e inferencia puedan compilar para más de un backend.
  • Usa la opcionalidad como moneda de negociación. Cuando tu proveedor de nube sabe que puedes moverte, la conversación de compromiso cambia. Un POC de dos semanas en un chip alternativo es evidencia concreta en la mesa de renovación.

Para equipos de LATAM y España el impacto es directo: si tu factura de nube está en dólares y tus ingresos en moneda local, cada punto de costo por token que recortas se traduce en runway, no en un benchmark teórico. Y ambas alternativas —TPU y Trainium— se consumen desde nube, sin necesidad de comprar hardware.

¿Deberías migrar hoy o esperar?

Depende de tu carga. La ventaja de costo de los chips a medida se materializa cuando el volumen es alto y la arquitectura del modelo es estable: los programas de silicio personalizado toman entre 18 y 24 meses de diseño y no ofrecen flexibilidad fuera del caso de uso para el que se construyeron, según el reporte de TechTimes. Si tu startup experimenta con arquitecturas nuevas cada mes, la flexibilidad de una GPU sigue siendo la decisión más económica. Y si dependes de entrenamiento pesado con muchos chips interconectados, el terreno sigue siendo de Nvidia.

Hay un matiz que conviene tener presente: que el código sea portable no significa que el rendimiento lo sea. Migrar sin medir es la forma más rápida de descubrir que el ahorro era teórico.

Conclusión

Google y Amazon no necesitan que los desarrolladores abandonen Nvidia en masa. Les alcanza con bajar el costo de probar la alternativa. Si mover una app cuesta una línea de configuración en lugar de un trimestre de ingeniería, el argumento de que "todo está escrito para Nvidia" deja de sostener el precio. Para un founder, la señal es clara: la infraestructura de IA entra en una etapa de competencia real, y quien mida primero su costo por token se queda con el ahorro.

Fuentes

Leíste lo que hace la IA. ¿Y en tu negocio?

En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.

👥 Probar 7 días

Daily Shot: Tu ventaja táctica

Lo que pasó en las últimas 24 horas, resumido para que tú no tengas que filtrarlo.

Suscríbete para recibir cada mañana la curaduría definitiva del ecosistema startup e inversionista. Sin ruido ni rodeos, solo la información estratégica que necesitas para avanzar:

  • Venture Capital & Inversiones: Rondas, fondos y movimientos de capital.
  • IA & Tecnología: Tendencias, Web3 y herramientas de automatización.
  • Modelos de Negocio: Actualidad en SaaS, Fintech y Cripto.
  • Propósito: Erradicar el estancamiento informativo dándote claridad desde tu primer café.

📡 El Daily Shot Startupero

Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.

Share to...