Google lanza dos TPU especializadas y desafía a Nvidia

Google suma dos TPU especializadas: qué son el 8tx y el 8i Max

Una TPU (Tensor Processing Unit) es un acelerador de IA que Google diseña para correr modelos de forma más eficiente que una GPU de propósito general. La compañía acaba de sumar dos variantes a su octava generación: el TPU 8tx, pensado para computación con datos sensibles, y el TPU 8i Max, orientado a cargas de trabajo que exigen mucha memoria.

Ambos se suman al TPU 8t (entrenamiento) y al TPU 8i (razonamiento), que Google presentó en el Google Cloud Next de abril. Son cuatro configuraciones dentro de una misma generación, y ahí está la noticia: según Bloomberg, la compañía venía lanzando una nueva generación de TPU cada dos años.

Google no reveló precios ni fechas exactas de lanzamiento. Amin Vahdat, responsable de la división de chips, dijo a Bloomberg que las nuevas variantes estarán disponibles el año que viene; Finbold y KuCoin sitúan esa disponibilidad en 2027.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Como referencia, Google sostiene que el 8t ofrece hasta 2,7 veces más rendimiento de entrenamiento y que el 8i mejora hasta un 80% la relación precio-rendimiento de inferencia frente a la generación anterior. Conviene mirar ese dato con cuidado: son comparaciones contra hardware previo de Google, no contra los últimos productos de Nvidia, como advierte Yahoo Tech.

¿Por qué Google apuesta por la especialización y no por un chip único?

Vahdat lo dijo sin rodeos: «el futuro va a girar en torno a la especialización». Su argumento es que las versiones personalizadas «aportan mucho más valor» que un solo chip que intente cubrir todos los casos de uso.

Hay una razón de ingeniería detrás. Un chip nuevo requiere años de diseño y fabricación; un sistema construido alrededor de silicio existente —redes, memoria, empaquetado— se puede ajustar en cuestión de meses. Vahdat confirmó a Bloomberg que ambas variantes son reconfiguraciones de silicio ya existente, adaptadas a pedidos concretos de clientes. Es la forma que tiene Google de seguirle el ritmo al software de IA, que se mueve mucho más rápido que la litografía.

TPU 8tx: IA sobre datos que no se desencriptan en memoria

El problema que ataca es concreto. Los datos suelen estar cifrados en el almacenamiento y en tránsito, pero hay que desbloquearlos en memoria mientras el procesador los usa. Ese es el punto débil para bancos, aseguradoras, gobiernos y cualquier industria regulada.

El 8tx integra la protección en el hardware y mantiene aislados los datos y los pesos del modelo incluso durante su uso. Usa el mismo silicio que el 8t y se combina con procesadores AMD EPYC de quinta generación. Google afirma que ofrece hasta la mitad de latencia que el 8t con una penalización de rendimiento casi nula, y que permite hacer fine-tuning con datos privados sin moverlos entre clústeres.

Vale ser honesto con el límite: la computación confidencial protege los datos de accesos externos, pero no impide que un agente mal diseñado haga mal uso de la información a la que sí tiene permiso, como señala Yahoo Tech.

TPU 8i Max: el muro de la memoria

Cuando varios agentes de IA trabajan sobre una base de código completa o sobre horas de video, el ancho de banda de memoria se convierte en el cuello de botella. Google lo llama el «muro de la memoria».

La respuesta es física: dos chips TPU 8i en un solo paquete. Frente al 8i estándar, Google afirma que eso duplica la capacidad de cálculo, la SRAM integrada y el ancho de banda de memoria, y que permite meter el doble de silicio en el mismo espacio de rack. Vahdat apuntó a aplicaciones de contexto largo: descubrimiento de fármacos, problemas matemáticos complejos y programación.

El negocio: de US$12.000 millones a más de US$135.000 millones

Acá está el dato que explica la estrategia. Bloomberg Intelligence estima que las ventas de TPU —hardware y software asociado— pasarán de unos US$12.000 millones en 2026 a más de US$135.000 millones en 2028. El pronóstico no incluye los ingresos que generan los clientes que usan TPUs a través de Google Cloud.

La cartera de clientes ya no es un experimento: Apple, Meta y Oracle aparecen entre los compradores, y Anthropic tiene la opción de comprar hasta US$150.000 millones en TPU entre 2028 y 2031, según un documento regulatorio citado por Bloomberg. Bloomberg también informó de que OpenAI planea adquirirlas. Según Pulse 2.0, el negocio de TPU ya atiende a cerca de 100 clientes, entre laboratorios de IA, firmas de trading, retailers y universidades.

El precio es parte del argumento. Mandeep Singh, analista de Bloomberg Intelligence, señaló que las TPU cuestan aproximadamente un 30% menos que las GPU de Nvidia manteniendo competitividad en throughput de datos. Jump Trading es un caso real: desplegó miles de TPUs para entrenar modelos de investigación de trading, aunque su CTO, Alex Davies, aclaró que la firma sigue usando mayoritariamente chips de Nvidia para entrenamiento y que algunos empleados prefieren TPU por su eficiencia energética.

Los obstáculos: capacidad, memoria y competencia

No todo es viento a favor. En su última presentación de resultados, Google indicó que todas las TPU disponibles ya están contratadas por clientes. Persisten la escasez de memoria y de capacidad de fabricación, y la compañía está ampliando su base de proveedores más allá de Broadcom —con quien diseña— sumando un acuerdo con Marvell, según Bloomberg. La fabricación está en manos de TSMC, según TechCentral.

También hay competencia nueva. Tenspresso, una startup fundada por dos exingenieros de TPU, apunta a la inferencia de contexto largo, aunque Bloomberg informa de que su chip está a un año como mínimo de completar el diseño. Y OpenAI y Anthropic están desarrollando chips propios con veteranos de TPU. Del otro lado, Nvidia no se queda quieta: según TechCentral, avanza con CPUs propias y usa tecnología de Groq para hardware específico de inferencia.

¿Qué significa esto para tu startup?

1. Compara el costo por token antes de firmar con un solo proveedor. Si tu producto corre inferencia a escala, la diferencia de precio entre TPU y GPU deja de ser un detalle de ingeniería y pasa a ser margen bruto. El dato de Bloomberg Intelligence sobre el ahorro cercano al 30% es un punto de partida para negociar, no una conclusión: pide benchmarks con tu propio modelo.

2. Aprovecha la portabilidad antes de que sea urgente. Google abrió TorchTPU, que permite correr aplicaciones de PyTorch y modelos de Hugging Face en TPU sin reescribir el código, y sumó backends para los motores de inferencia open source vLLM y SGLang, según Pulse 2.0. Si tu stack ya está en PyTorch, probar una migración parcial hoy te da poder de negociación mañana.

3. Si manejas datos regulados, el 8tx cambia el cálculo. Fintech, healthtech y cualquier startup que procese datos de salud o financieros suelen descartar la nube pública por compliance. Poder hacer fine-tuning con datos privados sin moverlos entre clústeres elimina una fricción concreta. Vale la pena ponerlo en la lista de preguntas para tu próximo ciclo de evaluación de infraestructura.

4. No apuestes la arquitectura a un solo proveedor. La propia Nvidia sigue siendo el estándar para entrenamiento incluso en clientes que ya usan TPU, como muestra el caso de Jump Trading. Diseñar tu pipeline para que el entrenamiento y la inferencia puedan vivir en silicio distinto es una decisión de arquitectura, no de compras.

Conclusión

Google ya no compite con un chip que hace de todo. Compite con cuatro configuraciones de una misma generación, silicio reconfigurado en meses y una tesis explícita: la especialización rinde más que la generalidad. Para los founders, la lectura práctica es que el mercado de cómputo para IA deja de ser un monopolio de facto y empieza a parecerse a un mercado con opciones, precios comparables y algo de poder de negociación del lado del cliente.