Google suma TPU 8tx y 8i Max: 4 sistemas en un año

Google lanza dos TPUs nuevas: qué son y por qué importan

Una TPU (Tensor Processing Unit) es el chip de IA que Google diseña para sí misma y, cada vez más, para vender a terceros. El 9 de noviembre la compañía sumó dos sistemas a su octava generación: la TPU 8tx, orientada a inferencia confidencial, y la TPU 8i Max, pensada para contextos gigantes. Es la primera vez que Google presenta cuatro sistemas TPU en un mismo año, un ritmo que antes le tomaba el doble de tiempo.

Para un founder, el dato relevante no es el silicio: es que la infraestructura de IA más cara de tu stack empieza a fragmentarse por caso de uso. Ya no hay un chip genérico, hay uno por etapa del ciclo de vida de un agente.

¿Qué cambia con la TPU 8tx para datos sensibles?

La TPU 8tx apunta a un problema concreto: cuando un modelo procesa información, los datos tienen que salir de su estado cifrado y quedar disponibles en memoria. Ahí es donde suelen ocurrir los incidentes.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Google resolvió esto llevando el cifrado a la capa de hardware. Según el anuncio, el sistema mantiene protegidos los datos sensibles y los pesos del modelo incluso durante su uso activo. Está construido sobre el mismo silicio que la TPU 8t y se combina con hosts de CPU AMD EPYC de quinta generación. ServeTheHome detalla que se trata de la línea EPYC «Turin», elegida para igualar la interfaz PCIe Gen5 x16 de la TPU 8t, con 128 lanes Gen5 en configuración de doble socket.

El otro punto fuerte es la latencia. La 8tx adopta la red Boardfly que Google creó para razonamiento en tiempo real, con hasta 2x menos latencia que la TPU 8t y una penalización de rendimiento cercana a cero. Eso permite correr agentes de varios pasos sin que cada llamada secuencial se vuelva un cuello de botella.

El detalle más útil: se puede entrenar e inferir en el mismo sistema. Un equipo puede afinar un modelo con datos propios, destilar un modelo grande en uno más chico y entrenar agentes con refuerzo sin mover información sensible entre clústeres distintos. Para fintech, salud o cualquier negocio regulado, eso elimina una capa entera de riesgo operativo.

¿Qué es la TPU 8i Max y por qué ataca el «muro de la memoria»?

La TPU 8i Max responde a otro límite. Cuando decenas de agentes trabajan sobre un repositorio de código completo o sobre horas de video, el ancho de banda de memoria se satura antes que el cómputo. Es el famoso «muro de la memoria».

La solución de Google fue física: poner dos chips TPU 8i de baja latencia en un mismo paquete. El resultado, según el anuncio, es el doble de cómputo, el doble de SRAM y el doble de ancho de banda HBM que una TPU 8i estándar. ServeTheHome aporta las cifras concretas: 384 GB de memoria HBM, un tercio más que la 8i, con un ancho de banda que llega a 17,2 TB/s y 768 MB de SRAM en chip.

El beneficio para quien opera infraestructura es de densidad: al meter el doble de silicio en el mismo espacio de rack, un data center puede desplegar más cómputo por metro cuadrado y por watt.

La carrera contra Nvidia y el negocio detrás de las TPUs

Google ya no usa las TPUs solo para sí misma. El negocio tiene casi 100 clientes, entre laboratorios de frontera, firmas de trading, retailers y universidades, y desde hace poco permite desplegar TPUs directamente en los data centers de sus clientes.

Bloomberg, en una nota publicada por Yahoo Finance, enmarca el movimiento como una escalada en la competencia con Nvidia dentro de un mercado que describe como «de cientos de miles de millones de dólares». El mismo medio señala un cambio de cadencia: el negocio de chips de Google solía lanzar un procesador de IA cada dos años, este año sacó dos a la vez y ahora agrega variantes sobre ese par.

Amin Vahdat, chief technologist y SVP de AI e Infraestructura de Google, lo resumió en una entrevista con Bloomberg: «el futuro va a ser sobre especialización, y las ventajas de la especialización siguen siendo significativas». Según reportó CoinPedia, el anuncio movió a la acción de Alphabet más de 3% en la jornada, hasta rondar los US$291. Ese mismo medio cita ingresos de Google Cloud por US$30.710 millones en el tercer trimestre de 2026, con las ventas de sistemas TPU como contribución relevante al crecimiento.

¿Qué significa esto para tu startup?

Tres movimientos concretos que puedes evaluar esta semana:

Si tu código corre en PyTorch, ya no hay excusa para no probar TPU. Google abrió TorchTPU el mes pasado, así que los modelos de PyTorch y de Hugging Face corren nativamente en TPU sin reescribir código. También hay backends listos para motores de inferencia open source como vLLM y SGLang. Antes de migrar producción, corre un benchmark de tu propio modelo: la ventaja de precio-rendimiento depende de tu carga, no del promedio del mercado.
Si tu producto usa agentes, revisa el costo de los tiempos muertos. Un agente pasa segundos u horas esperando una consulta a base de datos, una herramienta externa o feedback humano, y en ese lapso el acelerador sigue reservado. El Agent Compute Engine que anunció Google suspende y reanuda esas sesiones automáticamente. Modela cuánto de tu factura de GPU o TPU se va en pausas: en productos con agentes conversacionales suele ser un porcentaje incómodo.
Si operas con datos regulados, la 8tx es una conversación de compliance, no solo técnica. Para fintech, healthtech o clientes del sector público, la inferencia confidencial a nivel de hardware puede ser lo que destrabe un contrato que hoy no pasa la revisión de seguridad del comprador.

Para los equipos que corren entrenamientos largos, hay dos mejoras de infraestructura que vale la pena mirar: Cloud Pathways, ya disponible en Google Kubernetes Engine, permite orquestar múltiples slices de TPU como si fueran una sola máquina; y el dynamic slicing de GKE arma topologías bajo demanda, lo que según Google reduce hasta 5x los tiempos de arranque de trabajos y hasta 4.5x los de recuperación ante fallos. En un entrenamiento que corre semanas, ese ahorro se mide en dinero.

El software es la verdadera apuesta

Más allá del hardware, el mensaje que Google repite es que el software abierto es lo que baja la barrera de entrada. Además de TorchTPU, la compañía liberó TPU Sync, una capa que unifica HBM, DRAM del host, almacenamiento compartido y red en una sola jerarquía de memoria. Google afirma que reduce más del 90% la latencia de transferencia de caché KV y el Time to First Token en cargas de contexto largo.

También abrió una suite de agentes TPU en preview que se conecta a herramientas como Claude Code, Cursor y Google Antigravity para automatizar la configuración inicial y detectar cuellos de botella en lenguaje natural. Y está usando su propia IA para diseñar los chips: AlphaChip de Google DeepMind y Gemini para generar layouts en horas en lugar de semanas.

Conclusión

Google está dejando de competir por el chip más rápido y empieza a competir por el sistema más especializado. Para un founder, la lectura práctica es que la infraestructura de IA se está volviendo un menú: entrenamiento, razonamiento en tiempo real, cómputo confidencial y contextos masivos tienen ahora precios y arquitecturas distintas.

La decisión inteligente no es adoptar todo, sino mapear qué etapa de tu producto consume más recursos y probar la alternativa específica para ese cuello de botella. La buena noticia es que el software abierto de Google redujo el costo de hacer esa prueba a un par de días de ingeniería.