PrismML Bonsai 2: LLM de 27B en 5,9 GB con 98% de rendimiento

¿Qué es Bonsai 2 y por qué importa para founders?

La startup californiana PrismML presentó Bonsai 2, un modelo de razonamiento de clase 27B que ocupa solo 5,9 GB en disco tras comprimir el modelo open source Qwen3.8 27B de Alibaba. Es una reducción de entre 9 y 10 veces frente al original. Lo más llamativo: conserva el 98% del rendimiento en benchmarks respecto al modelo sin comprimir, según datos verificados por TechCrunch y el comunicado oficial de la compañía.

Para un founder hispanohablante que hoy paga APIs a OpenAI, Anthropic o Google por cada llamada, la pregunta obvia es: ¿se puede correr un modelo capaz de razonar, escribir código y planificar tareas directamente en el dispositivo del usuario final, sin enviar un solo byte a la nube? Bonsai 2 sugiere que sí.

¿Cómo logra PrismML comprimir tanto sin perder capacidad?

El truco está en los pesos del modelo, es decir, los números que la red aprende durante el entrenamiento. Un peso estándar ocupa 16 bits; PrismML los simplifica a tres valores posibles (+1, −1 o 0) en lo que la compañía denomina pesos ternarios. Como cada peso almacena mucha menos información, el archivo final del modelo se reduce de forma drástica sin sacrificar el razonamiento.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Los números del comunicado oficial y de las pruebas recogidas por TechJuice dibujan una brecha mínima con el modelo fuente:

Overall: Bonsai 2 = 83,9 | Qwen3.8 27B = 85,4 | Qwen3.6 27B = 83,6
Coding (HumanEval+, LiveCodeBench, MBPP+, BigCodeBench): 81,58 vs 82,17
Math (AIME 2026, GSM8K, MATH-500): 96,57 vs 97,06
Instruction Following (IFBench, IFEval): 82,66 vs 81,25 (Bonsai 2 incluso supera al original en esta categoría)
Agentic & Tool Calling (τ²-bench, BFCLv3): 77,57 vs 79,74

El peso se publica bajo licencia Apache 2.0, lo que permite uso comercial sin restricciones. Los kernels ya están disponibles para ejecutarse en GPUs NVIDIA mediante CUDA y en dispositivos Apple — Mac, iPhone, iPad — a través del framework MLX.

¿Quiénes están detrás de PrismML?

PrismML fue fundada por un grupo de investigadores de Caltech y está liderada por Babak Hassibi, profesor de la institución y experto en tecnologías de compresión. La ronda semilla reportada por TechCrunch alcanza US$22,25 millones, con el respaldo de Khosla Ventures, Cerberus Capital y Caltech.

Como asesor figura Ion Stoica, cofundador de Databricks y director del Sky Computing Lab de UC Berkeley — el mismo laboratorio que ha incubado proyectos como Letta y SGLang. La declaración de Stoica al lanzamiento condensa el cambio de paradigma que la compañía defiende: «Vas a tener inteligencia al alcance de tu mano, y va a ser gratis porque va a correr en el dispositivo que ya compraste. También va a ser privada, porque no vas a mandar los datos a la nube».

En el radar también aparece Apple: según TechCrunch, PrismML estaría en conversaciones con la compañía para integrar la tecnología en sus dispositivos, aunque Hassibi declinó comentar el rumor.

¿Por qué importa: la carrera por llevar la IA al dispositivo?

Bonsai 2 no llega solo. Es la señal más reciente de un cambio profundo en cómo se despliega la IA, sobre todo en el segmento edge (teléfonos, PCs, sensores industriales, vehículos). Según datos recogidos por Network World a partir de IDC y Gartner:

IDC estima que la mitad de las cargas de trabajo de inferencia empresarial correrán en endpoints o nodos edge hacia 2030.
Gartner prevé que más de dos tercios de las empresas globales desplegarán edge AI hacia 2029, frente al 10% registrado en 2025.
La EdgeAI Foundation calcula que este segmento crece a un ritmo del 37% anual hasta 2030, frente al 28% del mercado general de IA.
En 2025 había unos 11.700 millones de dispositivos IoT instalados, creciendo un 9% anual; Gartner estima que hasta el 90% de los datos edge quedan sin procesar hoy.

El competidor más inmediato de PrismML es Multiverse Computing, startup española fundada por un profesor del Donostia International Physics Center, que en julio de 2026 cerró una Serie C de US$570 millones a una valoración pre-money de US$1.700 millones. Su tecnología CompactifAI, basada en redes tensoriales de la física cuántica, promete reducciones de huella de hardware del 80% al 95% con pérdidas mínimas de precisión. Entre sus clientes ya figuran Allianz, Banco de Canadá, Bosch, Iberdrola, Indra, PwC y Telefónica.

Desde China, la startup ModelBest lanzó el 9 de septiembre de 2026 el modelo MiniCPM5-2B, con 2.000 millones de parámetros y el primer puesto en el Intelligence Index de Artificial Analysis entre los modelos open source sub-4B. La familia MiniCPM supera los 50 millones de descargas. En el ecosistema más amplio, Meta (Llama 3.2), Google (Gemma 3) y Microsoft (Phi) ya ofrecen líneas específicas de modelos pequeños para inferencia local.

El contraste con Bonsai 1, la primera versión lanzada meses antes, ilustra la velocidad del avance: aquella retenía el 95% del rendimiento, y en apenas unos meses la cifra saltó al 98%, según datos de la propia compañía replicados por TechCrunch.

¿Qué significa esto para tu startup?

Aunque 5,9 GB sigue siendo demasiado para un teléfono de gama baja, cabe en cualquier PC moderna y en smartphones de gama alta, lo que abre opciones concretas para construir producto:

Evalúa qué parte de tu producto realmente necesita un LLM en la nube. Tareas como resumen de documentos, clasificación de tickets, generación de respuestas plantilla, transcripción local o soporte de campo suelen resolverse con un modelo de 5-10 GB sin enviar datos sensibles a APIs de pago.
Prototipa primero en local y escala después. Descargar Bonsai 2 bajo Apache 2.0 te permite armar un MVP sin gastar un euro en inferencia. Si el volumen justifica luego mover a la nube, lo haces; si no, te quedas con coste marginal cero en servidores de modelo.
Convierte la privacidad en ventaja competitiva, no solo en cumplimiento. En sectores como salud, legal o financiero en España y LATAM, poder afirmar al cliente «tus datos nunca salen del dispositivo» puede ser el diferenciador que cierre una venta enterprise frente a competidores que dependen de OpenAI o Anthropic.
Sigue el roadmap antes de comprometerte con un proveedor cloud. Hassibi adelantó a TechCrunch que los próximos lanzamientos apuntarán a modelos de varios cientos de miles de millones de parámetros, y que en modelos grandes «hay más espacio para comprimir sin perder inteligencia». Si tu producto depende de razonamiento avanzado, conviene no atarse hoy a una API que en seis meses podría tener un sustituto local equivalente.