NVIDIA Vera Rubin: 30 veces más por dólar con agentes IA

NVIDIA afirma 30 veces más rendimiento por dólar con Vera Rubin NVL72

NVIDIA asegura que su sistema Vera Rubin NVL72 entrega hasta 30 veces más rendimiento por dólar que el GB300 NVL72 en cargas de agentes de IA, y lo consigue con apenas un 3% más de memoria HBM por GPU. La cifra aparece en una entrada del blog oficial de la compañía firmada por Amr Elmeleegy y publicada el 5 de noviembre de 2026.

El dato importa porque la HBM —la memoria rápida montada junto a la GPU— es el componente más caro de un centro de datos, y su precio está subiendo. El propio texto de NVIDIA reconoce que «el suministro se reduce y los precios suben» y proyecta que la tendencia continúe a corto plazo. En septiembre, el consejero delegado de Intel ya había hablado de precios de memoria multiplicados por entre cinco y siete. Cada gigabyte que se ahorra vale hoy bastante dinero.

¿Qué es el muro de memoria y por qué frena a los agentes de IA?

En la HBM compiten dos ocupantes. Los pesos del modelo, que son los valores aprendidos durante el entrenamiento, y la caché KV, que guarda el contexto de cada petición para no volver a procesarlo.

¿Y esto cómo se aplica en tu negocio?

Dueños de negocio de Latinoamérica y España usan un agente de IA para ganar más y recuperar su tiempo. El Kit «tu mano derecha con IA» te muestra cómo en un video de 11 minutos, con una ficha para armar el tuyo. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Con los agentes de IA ese contexto no deja de crecer, porque pasa de una llamada a la siguiente. NVIDIA habla de trayectorias que, en algunos casos, procesan hasta 3 millones de tokens. De esa memoria depende cuántos usuarios se atienden a la vez.

Para explicar por qué ampliar la capacidad no basta, Elmeleegy recurre a una analogía logística: «Imagina la HBM como un almacén y el ancho de banda de memoria como sus muelles de carga». Un almacén mayor guarda más mercancía, pero los muelles fijan cuánta entra y sale. Los ingenieros llaman muro de memoria al momento en que esos muelles se saturan. A partir de ahí, según NVIDIA, la HBM extra suma coste y consumo sin aportar rendimiento.

Cada GPU Rubin lleva hasta 288 GB de HBM4 y el rack completo suma unos 20,7 TB entre sus 72 procesadores gráficos. Entre el GB300 y Rubin, el ancho de banda subió hasta 19,2 TB/s con la capacidad casi sin cambios.

Conviene mirar esa cifra con lupa. TweakTown reportó que NVIDIA bajó sin anuncio las especificaciones publicadas de la plataforma: el ancho de banda HBM4 pasó de 22 TB/s a 19,2 TB/s (un recorte de cerca del 13%) y el NVLink 6 de 3,6 TB/s a 3 TB/s (un 17%), según capturas del Wayback Machine de septiembre de 2026. La capacidad de memoria no cambió. El mismo medio señala que AMD lista su Instinct MI455X con 432 GB de HBM4 a 23,3 TB/s por GPU, y su rack Helios con unos 31 TB de HBM4 frente a los 20,7 TB del NVL72.

Las tres palancas: NVFP4, la CPU Vera y CMX

La primera medida consiste en encoger lo que se guarda. El formato NVFP4 usa 4 bits por valor. Según los autores de la nota técnica, reduce el tamaño del modelo unas 3,5 veces frente a FP16 y 1,8 veces frente a FP8. En la caché KV, el mismo formato recorta hasta un 50% respecto a FP8. Un NVL72 también puede repartir los pesos entre sus 72 GPU, de modo que cada una guarda una parte menor y le queda más HBM para el contexto. FLUX.2 [klein], de Black Forest Labs, y Muse Spark, de Meta, ya se lanzaron con este formato.

La segunda palanca es la CPU. Un agente alterna los pasos del modelo con trabajo en el procesador central, como ejecutar código o consultar una base de datos. Durante esas pausas, su caché KV ocupa HBM sin producir nada. «Una CPU lenta cuesta a la HBM dos veces: primero como ocupación ociosa y luego como recálculo», señalan los autores. La CPU Vera aporta 88 núcleos y hasta 1,5 TB de memoria LPDDR5X, más de cinco veces la HBM4 de una GPU Rubin. Ambos chips se comunican a 1,8 TB/s, unas siete veces lo que permite un enlace PCIe Gen 6 x16.

La tercera es mover el contexto que tarda más en volver. El software Dynamo vigila dónde está cada bloque y lo traslada a CMX, un almacenamiento flash compartido entre servidores cuyo coste por bit queda muy por debajo del de la HBM. NVIDIA atribuye a CMX hasta 5 veces más tokens por segundo que el almacenamiento tradicional con contextos largos, con una mejora de eficiencia energética en la misma proporción. Son cifras de la empresa, no de un tercero independiente.

¿De dónde sale la cifra de 30 veces?

El dato procede de SemiAnalysis AgentX, una prueba que reproduce sesiones grabadas de agentes de programación, con sus pausas para herramientas y su contexto creciente. NVIDIA la ejecutó con la carga de DeepSeek V4 Pro, a 125 tokens por segundo para cada usuario.

La generación anterior mejoró menos con bastante más memoria. El GB300 NVL72 rendía hasta 10 veces más por dólar que la plataforma H200, a 100 tokens por segundo y usuario, y para eso duplicó aproximadamente la HBM por GPU. «La capacidad por sí sola no puede explicar una ganancia de 30 veces», escriben los autores.

Hay que leer el titular con cuidado, porque las dos entradas de NVIDIA no miden lo mismo. El blog general habla de 30 veces más por dólar a 125 tokens por segundo y usuario; la nota técnica da 30 veces más por megavatio a 160 tokens. La nota presenta además los 288 GB como capacidad igual en ambas generaciones, frente al 3% del blog. Ninguna de las dos incluye el precio de los sistemas ni el detalle del cálculo por dólar, y tampoco reparten el salto entre cada mejora. En un centro de datos real, el resultado dependerá del modelo, de los usuarios y de la velocidad exigida.

Qué significa esto para tu startup

La conclusión práctica no es «compra Rubin». Es que el coste de la memoria ya es una variable de diseño de producto, no solo de infraestructura.

El contexto de mercado lo confirma. Un informe de Precedence Research difundido por GlobeNewswire valora el mercado global de HBM en USD 9.180 millones en 2026 y lo proyecta a USD 69.750 millones en 2035, con un crecimiento anual compuesto del 25,37%. La misma publicación recoge que SK hynix afirma tener su HBM vendida hasta 2029 y que Micron dice que su suministro de 2026 está agotado y solo puede cubrir entre la mitad y dos tercios de la demanda. Wccftech documentó que producir 1 bit de HBM consume cerca del triple de capacidad de oblea que 1 bit de DDR5, y que la IA absorbería el 20% de la producción total de DRAM en 2026.

Con ese telón de fondo, tres acciones concretas:

Mide coste por token útil, no por GPU. El 30x es para una carga muy específica: agentes de programación, contexto creciente, 125 tokens por segundo por usuario. Pide a tu proveedor de nube un benchmark con tu propia distribución de contextos y tus pausas de herramientas antes de firmar capacidad.
Comprime el contexto antes de comprar hardware. Cuantizar la caché KV a 4 bits y mover el contexto frío a almacenamiento flash en lugar de mantenerlo en HBM es la palanca que NVIDIA describe y que puedes replicar en tu propia pila, incluso si no usas sus chips.
Trata las cifras de fabricante como techo, no como suelo. La brecha entre el 3% del blog y el «288 GB iguales» de la nota técnica es la mejor prueba de que conviene planificar con margen.

Y una nota de disponibilidad: esto ya no es hoja de ruta. CryptoBriefing reportó que NVIDIA y Oracle anunciaron el 27 de octubre de 2026 que los racks Vera Rubin NVL72 y las CPU Vera están disponibles en Oracle Cloud Infrastructure, y Yahoo Finance recogió que Super Micro empezó a enviar racks NVL72 con 72 GPU Rubin y 36 CPU Vera cada uno. NVIDIA estima una oportunidad de ingresos de USD 40.000 millones por gigavatio para la plataforma, según el mismo reporte.

Conclusión

NVIDIA no está vendiendo más memoria: está vendiendo menos desperdicio de memoria. El mensaje de fondo —«la pregunta ya no es cuánta memoria tiene una GPU, sino cuánto trabajo útil entrega cada byte»— aplica igual a tu startup aunque nunca compres un NVL72. Si tu producto depende de agentes con contexto largo, tu factura de inferencia se decide en cómo gestionas la caché, no en cuántos parámetros tiene tu modelo.