Google lanza TPU 8i Max y 8tx para agentes de IA

Google suma dos sistemas TPU a su octava generación

El negocio de chips de IA de Google ya tiene casi 100 clientes, y ahora la compañía quiere que cada uno encuentre un acelerador hecho a su medida. El lunes, Google presentó dos nuevos sistemas de unidades de procesamiento tensorial (TPU): el TPU 8i Max, pensado para agentes que analizan volúmenes enormes de información, y el TPU 8tx, diseñado para empresas y organismos públicos que procesan datos sensibles sin exponerlos.

Ambos se suman al TPU 8t, orientado al entrenamiento de grandes modelos, y al TPU 8i, que reduce el tiempo de respuesta de modelos ya entrenados. No son silicios nuevos: Google reconfiguró cómo combina los chips presentados en abril con la memoria, la red y los recursos de seguridad para atender tareas distintas.

¿Qué es el TPU 8i Max y por qué la memoria es el cuello de botella?

Un agente encargado de corregir un error de software consulta archivos, ejecuta pruebas y vuelve al código con los resultados. Cada paso agrega información a la ventana de contexto, el conjunto de datos que el modelo puede considerar mientras trabaja. Cuando varios agentes hacen eso a la vez, los procesadores pasan parte del tiempo esperando los datos que necesitan.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Para reducir esa espera, Google reunió dos chips TPU 8i en un único encapsulamiento. Según la empresa, el 8i Max tiene el doble de capacidad de cálculo y de memoria interna SRAM que el 8i, y duplica el ancho de banda de la memoria HBM. En la práctica, el sistema puede transferir el doble de datos por segundo entre la HBM y el procesador, y acomodar el doble de chips en el mismo espacio de un rack.

SiliconANGLE describe el problema que ataca como el muro de la memoria: la brecha entre la velocidad del procesador y el ancho de banda de la memoria. Más memoria en el chip reduce la necesidad de mover datos entre procesadores, lo que baja la latencia y el consumo energético. El medio añade que Google desarrolló el 8i Max en paralelo al empuje de ventanas de contexto masivas de su modelo Gemini, que soporta el estándar de 1 millón de tokens, unas 750.000 palabras o 1.500 páginas de texto.

TPU 8tx: IA con datos sensibles sin exponerlos durante el procesamiento

La criptografía suele proteger los datos mientras están almacenados o viajan por la red. Durante el procesamiento, el sistema necesita acceder a esa información en la memoria, y ahí es donde aparece la exposición. El TPU 8tx combina el chip del 8t con procesadores AMD EPYC de quinta generación para aislar, en el propio hardware, tanto los datos usados en la tarea como los pesos del modelo.

Google afirma que el mismo sistema puede ejecutar un modelo y ajustarlo con datos privados sin transferir la información entre grupos separados de servidores. También sostiene que su red interna puede reducir a la mitad la latencia respecto al TPU 8t. Para un agente que llama al modelo varias veces a lo largo de una tarea, ese ahorro se acumula.

DataCenterDynamics cita a Amin Vahdat, chief technologist y SVP de AI e Infraestructura de Google, quien resumió el objetivo en dos retos: seguridad de datos a nivel de hardware y escala de contexto de millones de tokens. El medio detalla que el 8tx usa la red Boardfly de Google y está pensado para empresas reguladas y gobiernos que corren modelos propietarios junto a datos sensibles.

La carrera de Google contra el dominio de Nvidia

Las TPU nacieron para tareas internas, como reconocimiento de voz y traducción. Hoy Google las usa para entrenar y correr Gemini, ofrece acceso a ellas en su nube y permite que clientes las instalen en sus propios centros de datos. El negocio ya tiene casi 100 clientes, según la empresa.

El contexto lo pone Bloomberg: las TPU cuestan aproximadamente un 30% menos que las GPU de Nvidia y ofrecen rendimiento competitivo en ancho de banda, según el analista de Bloomberg Intelligence Mandeep Singh. La misma nota proyecta que las ventas de TPU superarán los US$135.000 millones en 2028, frente a los US$12.000 millones estimados para este año, sin contar a los clientes que acceden a los chips vía Google Cloud. Entre los clientes figuran Apple, Meta y Oracle.

Anthropic, dueña de Claude, ilustra cómo los grandes clientes reparten su demanda: usa TPUs de Google, chips Trainium de Amazon y GPUs de Nvidia. En abril anunció con Google y Broadcom un acuerdo para ampliar su capacidad de cómputo con TPUs de nueva generación a partir de 2027. Según Bloomberg, la compañía tiene la opción de adquirir chips por hasta US$150.000 millones entre 2028 y 2031.

Google también trabaja el flanco del software. En octubre abrió el código de TorchTPU, desarrollado con el equipo de PyTorch de Meta, y anunció un acuerdo para ofrecer TPUs en la nube de Oracle.

¿Qué significa esto para tu startup?

La noticia no cambia tu factura de nube mañana, pero sí dos decisiones que probablemente tengas sobre la mesa.

Si manejas datos regulados, la computación confidencial deja de ser un bloqueante. Sectores como fintech, salud o legal suelen frenar proyectos de IA porque el modelo necesita ver datos sensibles en claro. Un sistema que aísla datos y pesos en el hardware abre la puerta a casos de uso que antes se descartaban por cumplimiento. Vale la pena preguntar a tu proveedor de nube por las opciones de inferencia confidencial antes de asumir que tu vertical no puede usar IA.
Si construyes agentes, el costo real está en la latencia acumulada, no en el precio por token. Un agente que llama al modelo decenas de veces por tarea multiplica cada milisegundo de espera. Cuando evalúes infraestructura, mide el tiempo total de la tarea completa, no el de una sola llamada.
Diversificar proveedor es una decisión de riesgo, no solo de precio. Que OpenAI y Anthropic repartan su cómputo entre varios fabricantes marca la tendencia: depender de un único proveedor de chips o de nube concentra tu riesgo de suministro y tu poder de negociación.

Un dato para calibrar expectativas: Google no informó precios ni fechas de disponibilidad para el 8tx y el 8i Max. Bloomberg añade que las variantes estarán disponibles el próximo año. Hasta que haya benchmarks independientes y costos operativos reales, cualquier comparación con otras alternativas es preliminar.

Conclusión

Google está apostando por la especialización: en lugar de un chip que sirva para todo, cuatro sistemas para cuatro etapas del ciclo de vida de un agente. Para un founder, la señal relevante es que la infraestructura de IA se está segmentando por caso de uso (seguridad, contexto largo, entrenamiento, latencia) y que esa segmentación empieza a traducirse en opciones más baratas que el estándar dominante. La pregunta ya no es solo qué chip es más rápido, sino cuál encaja con tu carga de trabajo, tu presupuesto y tus obligaciones de cumplimiento.