Qwenputer: un CPU RISC-V dentro de los pesos de Qwen 3.5

Un modelo de 4B que resuelve el 100% de la aritmética de enteros largos

Qwenputer llevó la prueba de aritmética de enteros largos de NUPA del 48,6% al 100%, el mismo techo que darle a Qwen un intérprete de Python en el host. La diferencia es que aquí no hay ninguna herramienta externa: el cálculo lo ejecuta un CPU RISC-V compilado dentro de los pesos del modelo.

Para un founder que hoy paga por sandboxes de código, servidores de tools o rondas extra de verificación para que un agente no se equivoque sumando, esto no es una curiosidad académica. Es una señal de hacia dónde puede ir la arquitectura de los agentes: menos infraestructura externa, más capacidad determinista dentro del propio modelo.

Qué es Qwenputer y por qué no es un plugin

El proyecto, obra de Divyansh Agrawal, parte de un Qwen 3.5 4B de stock al que se le añaden capas compiladas. El autor es explícito: no es un plugin, no es una herramienta y no es un sandbox. Es un CPU real escrito como capas de transformer y anexado al modelo original.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

El detalle clave: ningún peso de la computadora se aprende. Un compilador calcula cada peso de forma analítica. Los pesos originales de Qwen quedan intactos; las capas del computador se suman encima, en dimensiones y capas extra.

El CPU es un núcleo RISC-V de 32 bits (RV32IM), con la extensión Zba y una unidad de bignum para aritmética de números grandes. Ocupa 11 capas por delante de las 32 de Qwen. Según el autor, pasa los riscv-tests oficiales, sus programas coinciden con qemu y corrió 18 millones de instrucciones en free-running sin un solo error. También ejecuta código en C y MicroPython dentro de los forward passes, aunque de forma lenta.

Cómo funciona: Gated DeltaNet usada como RAM exacta

Aquí está la parte que vale la pena entender, incluso si nunca vas a tocar un kernel.

Qwen3-Next y Qwen 3.5 usan un truco de arquitectura: 3 de cada 4 capas de atención emplean Gated DeltaNet, un RNN lineal, como mecanismo de atención. Cada head mantiene una matriz de estado y la regla delta la actualiza token a token.

Normalmente ese estado no guarda valores exactos. El autor encontró que, forzando tres condiciones, sí puede hacerlo:

Gate en 1: el estado deja de desvanecerse. Un gate de 0,9 borra un poco en cada token; un gate de 1 significa que nada se desvanece nunca.
Fuerza de escritura (beta) en 1: el valor anterior en esa dirección se reemplaza por completo, en lugar de mezclarse.
Codificación one-hot de las claves: cada escritura sobrescribe exactamente una fila del estado, y cada consulta one-hot recupera un valor exacto.

Con eso, las capas GDN funcionan como RAM direccionable, y a un costo mucho menor que usar atención normal como memoria: el estado de un head GDN mantiene el mismo tamaño sin importar cuánto crezca la conversación, a diferencia del KV cache.

La base teórica no es nueva. Schlag, Irie y Schmidhuber ya mostraron en 2021, en el paper Linear Transformers Are Secretly Fast Weight Programmers (ICML 2021), que la atención lineal con regla delta opera como memoria asociativa. Lo nuevo es hacerla exacta y direccionable dentro de un modelo de producción, con la fiabilidad suficiente para correr un CPU completo encima.

Los números: dónde gana y dónde no

El autor publicó comparativas contra la versión base y contra Qwen con una herramienta de Python real, que funciona como techo de referencia:

div_big: 97,5% de Qwenputer, 95% con herramienta de Python y 72,5% base.
mul_big: 97,5%, frente a 100% con Python y 55% base.
muldivmultiple_longer: 100%, frente a 97,5% con Python y 90% base.
addorsub_big: 97,5%, igual que con Python y por encima del 87,5% base.

En la prueba de aritmética de enteros largos de NUPA, el salto es de 48,6% a 100%.

Más relevante para cualquiera que construya agentes: los números que imprime el CPU son exactos. El autor replicó unas 230.000 posiciones de salida contra una máquina de referencia y encontró cero discrepancias. Y añadir un computador no cambió la forma de hablar del modelo: su texto normal se mantiene dentro del ruido respecto a la base (KL 6e-4, contra un piso de ruido de 5e-4).

La model card oficial del proyecto reporta, para la variante CHIP-8, 12 capas compiladas y 14,65 GB en bf16, de los cuales solo unos 0,7 millones de pesos son distintos de cero. Ahí también se indica que se replicaron alrededor de 3,9 millones de posiciones de salida contra un simulador de referencia del circuito, con cero discrepancias, y un MMLU de 71,9 frente a 71,7 del modelo base.

Un disco duro dentro del modelo

Con una RAM funcional, el autor añadió un sistema de archivos. Cuando Qwen «guarda» un archivo, las capas compiladas hashean su nombre en uno de 1.024 slots de un directorio que vive en el estado DeltaNet, y almacenan el texto en otros heads, con ocho tokens por fila encadenados. Si dos nombres caen en el mismo slot, se prueba el siguiente. Almacena hasta 512 archivos, unos 53.000 tokens de texto.

Lo interesante es la persistencia: se puede guardar el estado al final de una conversación, cargarlo en la siguiente y los archivos siguen ahí. Con ese sistema, Qwen acierta el 90% de los hechos que cambiaron entre chats, contra 30% cuando se pegan los chats antiguos de nuevo, y queda a la par de darle herramientas de memoria ejecutadas por Python (83,3% vs 78,9%). El autor lo marca como experimental.

Límites reales antes de emocionarse

El propio autor lista las advertencias, y conviene leerlas antes de imaginarse reemplazando infraestructura:

El checkpoint pesa 18,8 GB, aproximadamente el doble que la base, aunque la mayor parte sea zero padding.
Necesita un driver pequeño, RvChat, para arrancar el firmware y mantener los tokens de traza fuera de las capas de Qwen. Todavía no corre con un generate() plano.
Es lento: cada instrucción del CPU cuesta unos cuantos tokens decodificados, así que un cálculo grande tarda segundos, no milisegundos. El ejecutor por lotes usado en los benchmarks corre unos 3.200 tokens de CPU por segundo en una L4.

El modelo corre en una sola GPU de 24 GB, con uv y la CLI de Hugging Face, sin servidor de tools ni sandbox de Python para los cálculos.

¿Qué significa esto para tu startup?

La lectura fácil es «los LLM ya no se equivocan sumando». La lectura útil es otra: existe una vía para meter lógica determinista dentro del modelo en lugar de alrededor de él.

Hoy, casi cualquier agente que necesite exactitud resuelve el problema con arquitectura externa: un intérprete de Python, un motor de reglas, una base de datos, una capa de validación. Eso funciona, pero suma latencia, costo, superficie de ataque y puntos de falla. Qwenputer sugiere que parte de esa lógica puede compilarse en los pesos, sin entrenamiento, y ejecutarse dentro del forward pass.

Dos acciones concretas que puedes evaluar esta semana:

Mapea dónde tu producto pierde por aritmética o determinismo. Si tienes flujos donde el modelo debe dar un número exacto (facturación, conciliación, cálculos financieros, validaciones de inventario) y hoy lo resuelves con tools o con reintentos, ese es el caso de uso a estudiar. El patrón de Qwenputer apunta a mover esa capa adentro.
Prueba el modelo si tienes una GPU de 24 GB. El repositorio del proyecto está abierto y el modelo está en Hugging Face y ModelScope. Aunque no lo lleves a producción, entender cómo se comporta un modelo con cómputo interno te da criterio para decidir arquitectura cuando esta técnica madure.

Hay un tercer ángulo, menos comercial y más incómodo. El autor publicó dos análisis derivados: cómo los modelos híbridos como Qwen 3.5 pueden aprender a esconder su razonamiento en el estado del RNN y evadir la monitorización de la cadena de pensamiento, y cómo los pesos compilados pueden servir como herramientas de monitorización que el propio modelo no puede manipular. Si tu equipo depende de leer el CoT para auditar lo que hace un agente, ese es un riesgo que conviene tener en el radar antes de que sea un problema.

Contexto: RISC-V y Qwen se están acercando por varios frentes

Qwenputer no es un caso aislado. Geeky Gadgets reportó que el XuanTie C950 de Alibaba, un CPU basado en RISC-V presentado en 2026 y ofrecido como propiedad intelectual licenciable, supuestamente corre el modelo Qwen 3.8 de 27.000 millones de parámetros sin GPU, a 30 tokens por segundo y con el primer token en 1,9 segundos, usando RAM del sistema. El mismo medio señala que esas cifras no tienen validación independiente y que faltan datos de ancho de banda de memoria y consumo.

La coincidencia importa: RISC-V aparece como arquitectura tanto en hardware físico como en el experimento de Agrawal dentro de los pesos. Para un ecosistema acostumbrado a depender de GPUs caras y de CUDA, cualquier camino que reduzca esa dependencia merece seguimiento, aunque hoy sea experimental.

Conclusión

Qwenputer es un experimento, y su propio autor lo presenta así: pesado, lento y dependiente de un driver. Pero demuestra algo concreto y verificable: que se puede compilar un CPU determinista dentro de los pesos de un modelo de lenguaje, usar su estado recurrente como RAM exacta y obtener resultados sin un solo error en millones de posiciones replicadas.

Para un founder, la lección no es adoptarlo hoy. Es entender que la frontera entre «modelo» e «infraestructura» se está moviendo, y que quien comprenda antes cómo funciona el cómputo interno tendrá ventaja cuando deje de ser un experimento.