AMD EPYC Venice: 256 núcleos y 5,3 GHz para agentes IA

Qué ha lanzado AMD con Zen 6

Los EPYC 9006, conocidos como Venice, ya están en disponibilidad general: hasta 256 núcleos y 512 hilos por socket, fabricados en 2 nanómetros de TSMC, con 16 canales de memoria DDR5 y PCIe 6.0. El dato importa porque, por primera vez en años, el salto de rendimiento de un procesador de servidor se mide en algo distinto a las GPU.

El detalle que suele pasar desapercibido: históricamente la arquitectura nueva de AMD llegaba primero al escritorio. Con Zen 6 el estreno fue en el servidor, en la plataforma SP7, que ya se envía a través de los principales OEM y ODM de servidores, según reporta Unite.AI. La compañía presentó una línea de diez modelos.

Sobre el papel, los números del chip más potente son 256 núcleos, 1.024 MB de caché L3, 2,55 GHz de frecuencia base y 4,1 GHz de boost, con un consumo de 600 W configurable desde 400 W, según la ficha publicada por ServeTheHome. Los modelos orientados a frecuencia, como el EPYC 9686F y el 9586F, llegan a 5,3 GHz.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Ese 5,3 GHz merece una nota: en el anuncio del verano, AMD había declarado 5,0 GHz como máximo. Cuando el silicio final salió mejor de lo esperado, casi toda la gama SP7 subió de reloj, según explicó la propia compañía a ServeTheHome.

En memoria y conectividad el salto es igual de relevante. ServeTheHome compara la generación anterior (12 canales DDR5-6400) con la nueva (16 canales DDR5-8000 o MRDIMM-12800). The Next Platform cifra el cambio en ancho de banda: de 614 GB/s a 1,6 TB/s, con I/O que pasa de PCIe Gen 5 a Gen 6. DPL News añade soporte para CXL 3.1 y, en las variantes de baja latencia, hasta 128 líneas PCIe Gen 6 en configuraciones de doble socket.

AMD además partió el portafolio en dos sabores de núcleo, según detalla DPL News: Zen 6C, pensado para densidad (hasta 32 núcleos por complejo, 128 MB de L3 compartida, techo de 4,1 GHz) y Zen 6 para baja latencia y alto rendimiento por núcleo (complejos de 12 núcleos, hasta 5,3 GHz).

Por qué los agentes de IA devuelven el protagonismo a la CPU

La razón de fondo es aritmética de infraestructura. Durante los últimos cuatro años, la relación entre GPU y CPU en un servidor de IA rondó entre 1:4 y 1:8, según The Next Platform. Con la IA agéntica, la expectativa del sector es que esa proporción se acerque a 1:1. Para un fabricante de CPUs, eso es un cambio de tamaño del mercado.

El porqué lo describió Dan McNamara, vicepresidente sénior de AMD, en un texto citado por The Next Platform: un agente no responde un prompt, sino que descompone un objetivo en pasos, decide qué hacer a continuación, llama a varios modelos, consulta bases de datos, ejecuta herramientas, valida la salida y vuelve a empezar. Ese perfil de carga no se parece al de un chatbot.

AMD traduce eso en tres trabajos distintos de CPU, según Unite.AI: servicios de propósito general (bases de datos, almacenamiento), nodos anfitriones de GPU y sandboxes aislados donde el agente ejecuta el código que genera. Cada vez que un agente corre código o invoca una herramienta, lo hace en un entorno aislado de CPU; si no hay núcleos suficientes, las GPU que dirigen esos agentes se quedan esperando.

Ese es el cuello de botella que Venice intenta atacar. Rafael Dietrich, responsable de planificación de capacidad de CPU y almacenamiento de OpenAI, lo conectó con la investigación y el desarrollo de software, según Unite.AI: para preparar grandes conjuntos de datos hacen falta más núcleos que repartan el trabajo, siempre que cada tarea tenga memoria suficiente, y ese equilibrio pesa igual cuando muchos agentes de código compilan y prueban software a la vez.

El contexto competitivo ayuda a dimensionarlo. AMD tiene cerca del 46% de la cuota de ingresos del mercado de CPU x86 para servidores, según ServeTheHome y The Next Platform, y sus ingresos de Centros de Datos crecieron 97% interanual hasta US$8,500M en su último trimestre reportado, según DPL News.

Cuánto rinde frente a Nvidia Vera e Intel Xeon

Aquí conviene separar lo que AMD afirma de lo que se midió de forma independiente.

Las cifras de la compañía, recogidas por mercado.com.ar: un sistema con EPYC 9996 ofrece hasta 3,7 veces el rendimiento de un sistema con CPU Nvidia Vera, y hasta 2,2 veces el rendimiento y 2,0 veces el rendimiento por dólar frente a un Intel Xeon 6980P. Para sandboxes de agentes, AMD estima 3,3 veces más agentes por vatio frente a Vera y 2,5 veces frente al Xeon 6980P. The Next Platform suma otra métrica que probablemente sea la que importa a quien paga la factura: 1,8 veces más agentes por dólar que los Xeon de sexta generación.

Del lado independiente, Tom’s Hardware probó dos chips EPYC 9006 cedidos por AMD, según recoge Xataka: el de 256 núcleos rindió 93% más que la generación anterior, sobre todo por tener más hilos, y el de 96 núcleos superó en 17% a los Vera de Nvidia. Con la cautela que el propio medio original señala: Vera mantiene ventajas en algunas pruebas de memoria.

En throughput agregado, The Next Platform reporta que Venice entrega 1,9 veces el de los EPYC 9005 Turin, mientras Unite.AI detalla que, en nodos anfitriones de GPU, AMD declara hasta 1,8 veces el throughput de salida de LLM de la generación previa cuando se descarga parte del modelo a la CPU.

Un dato que ayuda a calibrar la madurez del ecosistema: el Turin de quinta generación es hoy la generación EPYC con mayor despliegue en nube pública, con más de 540 tipos de instancias disponibles globalmente, según Lisa Su en la conferencia de resultados citada por DPL News. Venice arranca desde ahí, no desde cero.

Qué pesa más que los núcleos: energía y memoria

A 600 W por socket, el problema de un operador de centro de datos ya no es solo cuánto cómputo cabe en un rack, sino cuánta energía se queda sin usar. DPL News recoge tres mecanismos que AMD introdujo para atacarlo: aprovisionamiento unificado de energía, que trata procesador y memoria como una sola unidad en lugar de reservar por separado; un límite dinámico que sube o baja según la carga real; y un modo que designa núcleos de alto rendimiento.

El efecto se puede modelar. Unite.AI reporta que, reduciendo un 15% el límite combinado de energía de procesador y memoria por socket, una configuración con EPYC 9996 soporta cerca de 1,18 veces más agentes dentro de un rack de 35 kW, con una caída promedio de rendimiento por servidor estimada en 1%. Nada de eso requiere comprar hardware nuevo: es administración.

La memoria es el otro frente, y DPL News lo pone en palabras de McNamara: todas las conversaciones con clientes empresariales giran alrededor de la disponibilidad y el costo de la DRAM. AMD integra soporte para DDR5 RDIMM y MRDIMM de segunda generación con hasta 1,6 TB/s, 2,6 veces más que la generación anterior, y añade a MEXT, socio desde 2023, cuyo motor anticipa qué datos necesitará la aplicación para moverlos de flash a DRAM antes del pedido.

El despliegue completo habla del objetivo real: AMD presentó en octubre los diseños de rack Helion, y Unite.AI señala que algunas configuraciones llegan a 73.728 hilos en un solo rack. La ambición declarada por la compañía, según DPL News, es consolidar infraestructura hasta 12 a 1.

¿Qué significa esto para tu startup?

Si diriges una startup, no vas a comprar un EPYC 9996. Lo vas a alquilar. Y por eso la noticia te afecta de una manera muy concreta: el costo de ejecutar agentes deja de depender del precio del token y empieza a depender de cuántos agentes corren en paralelo por dólar de cómputo.

La primera consecuencia práctica es que el proveedor cloud ya se movió. Microsoft abrió el registro el 10 de noviembre para la preview de Azure HDv2, máquinas construidas con procesadores EPYC de sexta generación: cada una ofrece más de 500 núcleos físicos Zen 6, 3,8 TB de memoria DDR5-8800 y 400 Gb de red, según Unite.AI. Microsoft reporta que una sola VM corre cerca del doble de sandboxes de agentes en paralelo que la mejor alternativa del mercado y hasta 1,7 veces más throughput de tareas agénticas, con la advertencia de que sus mediciones son preliminares. En el otro lado, Oracle Cloud Infrastructure incorporará EPYC de sexta generación en sus instancias E7, según Zoom Tecnológico.

Con eso en la mesa, hay tres cosas que puedes hacer esta semana:

Cambia la métrica. Si hoy mides costo por token, empieza a medir costo por tarea completada y por agente concurrente. La diferencia entre un agente que termina y uno que reintenta tres veces se ve en esa métrica y no en la factura del modelo.
Audita dónde esperan tus GPU. Si tu orquestación lanza sandboxes en contenedores con límites de CPU ajustados, el agente corre pero la GPU que lo dirige se queda ociosa. Prueba a subir núcleos por sandbox antes de asumir que necesitas otro acelerador.
Pregunta por familia de instancia antes de renovar compromiso. Cuando negocies un contrato anual con tu proveedor cloud, pide explícitamente las familias con más densidad de núcleos y memoria equilibrada. Las instancias nuevas suelen llegar primero a quien las pide.

Y un dato de contexto para el plan de el próximo año: AMD estima que la IA agéntica llevará el mercado de CPUs para servidores a una tasa de crecimiento anual compuesta del 50% hacia 2030, una oportunidad de aproximadamente US$220,000M, según DPL News. Es una proyección de la propia compañía, no un consenso independiente, pero explica por qué todo el sector está rediseñando el servidor alrededor de la CPU.

Qué no debes esperar todavía

Tres límites concretos, para no planificar sobre arena:

Zen 6 no llega a Ryzen hasta principios de 2027, según Xataka. Y las cifras de Venice no sirven para predecir el rendimiento de consumo: salen de servidores con configuraciones de memoria que un PC personal no puede costear.
La plataforma SP8 —la de precio más contenido, hasta 400 W— llega en la primera mitad de 2027, y Verano, la variante con memoria LPDDR5X para hosts de GPU de bajo consumo, durante 2027, según DPL News.
Venice-X, la variante con caché 3D apilada que eleva la L3 a 1.152 MB por procesador para cargas como EDA y dinámica de fluidos, también está en la hoja de ruta de 2027, según DPL News.

La lectura de fondo es menos épica de lo que suena el comunicado: la IA agéntica no le quita el trono a la GPU, le devuelve trabajo a la CPU. Para quien construye producto, eso significa que la variable de optimización se corre un poco desde el modelo hacia la orquestación. Y ahí, casi siempre, hay margen gratis antes de gastar en hardware.