Cerebras puso en producción una arquitectura que reparte cada pedido de inferencia entre dos tipos de hardware: las GPUs procesan el prompt y sus sistemas de oblea generan la respuesta. El número que importa es 5 veces más tokens por megavatio que una configuración con solo chips Cerebras, sin perder velocidad de generación.
Si tu producto depende de respuestas instantáneas —un copiloto, un agente que encadena llamadas, un asistente de código— el costo por token y la latencia son tu margen. Un anuncio así apunta directo a esa cuenta.
¿Qué es la inferencia desagregada y por qué Cerebras apuesta a ella?
Cada request de inferencia tiene dos etapas. El prefill procesa la entrada y construye el estado intermedio del modelo. El decode usa ese estado para generar los tokens de salida, uno por uno. Cerebras sostiene en su blog que separar prefill y decode es la opción ventajosa cuando el objetivo es inferencia muy interactiva: el decode es autorregresivo, cada paso vuelve a leer los datos del modelo desde memoria, así que el ancho de banda de memoria pesa más que la potencia de cómputo bruta.
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →Ahí entra su apuesta técnica. Sus chips de oblea (wafer-scale) mantienen los datos en SRAM dentro del chip en lugar de depender de memoria externa de alto ancho de banda. Cerebras afirma que su chip carga decenas de gigabytes de SRAM y decenas de petabytes por segundo de ancho de banda: 350 veces la capacidad de SRAM y 5.400 veces el ancho de banda de memoria de una GPU GB300 típica. Son cifras propias del fabricante, no verificadas por terceros.
La jugada es simple de enunciar: dejar que otros aceleradores hagan el trabajo de cómputo paralelo del prefill y liberar a los sistemas Cerebras para lo que hacen mejor.
¿Qué resultados dio la inferencia desagregada en producción?
En la Cerebras Inference Cloud, las GPUs AMD Instinct procesan los prompts y los sistemas CS-3 generan las respuestas. La medición se hizo sobre un endpoint compartido de GPT-OSS-120B el 14 de noviembre y se normalizó contra la línea base de inferencia agregada (1x). El resultado: 5x de throughput por megavatio, sin pérdida de velocidad en la generación de tokens.
Unite.AI reportó que el anuncio de producción llega después de una explicación técnica del 1 de octubre de 2026, en la que la compañía ya reportaba una ganancia de 5x en pruebas tempranas con la misma huella de hardware. La diferencia ahora es que hay una medición de producción y un paquete de despliegue listo para que otros operadores lo adopten.
El plan declarado es desplegar inferencia desagregada en cientos de megavatios en su propia nube y en despliegues de partners hacia fines de 2027. Conviene leerlo como objetivo de despliegue, no como capacidad que ya esté operando.
¿Por qué Cerebras tiene ventaja en la etapa de decode?
Porque el decode es un problema de memoria, no de matemática. Al generar un token por vez y realimentar cada token dentro del modelo, el cuello de botella está en leer los datos del modelo una y otra vez. Un chip que mantiene pesos y capas cerca del cómputo puede sostener más requests concurrentes y más capas del modelo sin salir del chip.
Cerebras es explícito en que la ventaja aplica a sus tres generaciones: CS-3, CS-4 y CS-5. El CS-4 fue anunciado recientemente y la compañía espera empezar a enviar el CS-5 a comienzos del verano de 2027, según The Next Web.
¿Cómo pueden adoptarlo los partners y proveedores de infraestructura?
El paquete no está pensado solo para la nube propia. Los partners de infraestructura pueden desplegar clústeres de inferencia desagregada sobre una arquitectura de referencia que co-localiza sus aceleradores de prefill elegidos y los sistemas Cerebras en una red unificada. Después eligen entre dos caminos de integración de software.
- Stack completo end-to-end, pensado para minimizar el tiempo de salida al mercado. Incluye un framework que rutea requests entre los pools de prefill y decode y administra capacidad y salud de réplicas, un motor de prefill que corre sobre motores open source como vLLM o SGLang, el motor de decode de Cerebras y KV Portal, la interfaz que transfiere el estado intermedio del modelo (incluidas las cachés key-value) entre ambos motores por RDMA.
- SDK solo de decode, para quien prioriza control. El partner aporta su propio framework de inferencia y su motor de prefill, y usa el motor de decode y KV Portal de Cerebras. Incluye ayudas de desarrollo como una réplica de decode simulada y una integración de referencia con un framework abierto de inferencia desagregada.
Los partners de acceso temprano incluyen a Amazon Web Services, Fireworks AI, Gimlet Labs y General Compute. Cerebras dice estar ampliando el acceso a más partners.
La carrera por la inferencia rápida, en un mundo limitado por energía
Esta no es una apuesta aislada. Según eWeek, AMD y Cerebras ya habían anunciado un servicio conjunto que reparte el trabajo entre los sistemas AMD Helios y el Wafer-Scale Engine, con disponibilidad prevista a través de Cerebras Cloud en la segunda mitad de 2026. Helios es un diseño líquido-refrigerado basado en el estándar Open Rack Wide, que combina 72 GPUs Instinct MI455X con procesadores EPYC y networking Pensando.
El mismo artículo señala dos cosas que conviene tener presentes. Primero, la proyección de 5x del acuerdo con AMD salió de un modelado interno con el modelo Kimi K2.6 de 1 billón de parámetros, no de una comparación independiente. Segundo, ni AMD ni Cerebras publicaron precios, modelos soportados ni resultados de producción end-to-end. La recomendación de eWeek a las empresas es explícita: no tomar esa proyección de eficiencia como benchmark de compra.
Hay una tercera pata: el mismo reporte indica que Cerebras persigue un esquema similar con AWS, usando Trainium para el prefill, sistemas CS-3 para el decode y el Elastic Fabric Adapter de Amazon para mover la caché KV entre ambos.
La razón de fondo es que el mercado ya no se limita por demanda sino por capacidad. The Next Web reportó que Cerebras elevó su previsión de ingresos core para 2026 a entre US$940M y US$960M, con ingresos core del tercer trimestre de US$230,9M (70% más interanual), mientras los ingresos de nube y servicios saltaron 265% hasta US$141,9M y las ventas de hardware cayeron a US$68,9M. La compañía cargaba US$26.100M en obligaciones de desempeño pendientes y su CEO, Andrew Feldman, dijo a analistas que no tenían capacidad para un despliegue amplio del tier Ultrarrapido de OpenAI.
En ese contexto, la métrica que Cerebras quiere instalar es tokens por megavatio. La compañía tiene contratados 700 megavatios de capacidad de data center para entrega hacia fines de 2027, con sitios nuevos en Noruega y Finlandia, según The Next Web. Para dimensionar el cambio de mezcla: The Motley Fool señaló que la relación de GPUs a CPUs en los data centers, cercana a 8 a 1, se espera que se acerque a 1 a 1 por el auge de la IA agéntica.
¿Qué significa esto para tu startup?
La discusión suena a plomería de data center, pero define tu estructura de costos a 24 meses.
- Empieza a medir tokens por vatio y por dólar, no solo por segundo. Cerebras construyó todo su argumento comercial sobre esa métrica porque la restricción real es eléctrica. Pídele a tu proveedor de inferencia throughput por megavatio con tu propia mezcla de prompts, no un número de folleto.
- Separa prefill y decode aunque no uses Cerebras. El principio es replicable con GPUs comunes: el procesamiento de prompts tolera cómputo en lote y con buena utilización, mientras la generación de respuestas sufre con la latencia. Si hoy corres todo en el mismo pool, tienes una palanca de eficiencia sin cambiar de proveedor.
- Mira la forma de tu tráfico antes de elegir hardware. Workloads con contexto largo tipo RAG son intensivos en prefill; agentes conversacionales son intensivos en decode. La decisión de dónde gastar cambia según cuál domine en tu producto.
- Trata las cifras de 5x como hipótesis a validar, no como benchmark de compra. La medición corresponde a un endpoint compartido y a un modelo específico, y las proyecciones del acuerdo con AMD salieron de modelado interno según eWeek. Mide latencia, costo por request completado y overhead de transferencia de estado con tus longitudes de prompt y tus patrones de tráfico.
Conclusión
Cerebras está apostando a que la próxima ventaja competitiva en IA no se define entrenando modelos más grandes, sino sirviendo tokens más rápido dentro de un presupuesto de energía que no crece al mismo ritmo. La inferencia desagregada es su respuesta: repartir el trabajo entre el hardware que mejor hace cada etapa y quedarse con la parte donde su arquitectura marca diferencia.
Para un founder, la lección no es comprar chips de oblea. Es que la economía de la inferencia dejó de ser un problema de cómputo y pasó a ser un problema de arquitectura. Quien entienda dónde se va su vatio antes que su competencia, tiene margen.
Fuentes
- Cerebras launches disaggregated inference (fuente original)
- Cerebras Puts Disaggregated Inference Into Production With GPUs – Unite.AI
- AMD and Cerebras Split AI Inference Between Helios and Wafer-Scale Chips – eWeek
- Cerebras raises its 2026 forecast and signs Microsoft as a cloud customer – The Next Web
- Cerebras Raises Full-Year Outlook as Cloud Revenue Jumps 265% – Unite.AI
- Nvidia vs. AMD vs. Cerebras: Which Is the Best AI Inference Stock to Buy Today? – The Motley Fool
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →













