Inkling 2 Mini: un modelo de 26B que corre sin internet
Thinking Machines Lab lanzó el 20 de noviembre Inkling 2 Mini, un modelo open-weights de 26.400 millones de parámetros que funciona offline en un MacBook Pro de 32 GB o en una sola GPU de escritorio. La startup de San Francisco que lidera la ex CTO de OpenAI Mira Murati afirma que el modelo empata con el denso Qwen3.8-27B de Alibaba en los índices agregados de inteligencia, pero corriendo unas cuatro veces más rápido y costando seis veces menos por tarea.
El dato que importa para un founder no está en la tabla de benchmarks: está en que un asistente de código con capacidad agéntica real ya cabe en el hardware que tienes sobre el escritorio, sin enviar una sola línea de código a un servidor de terceros.
¿Cómo funciona un transformer con bucle?
Un transformer estándar procesa cada token en un solo paso lineal, de la primera capa a la última. Si un problema exige más pasos de razonamiento secuencial de los que permite su profundidad, el modelo tiene que externalizar el pensamiento escribiendo cadenas de razonamiento largas. Eso consume tokens de salida, sube la latencia y encarece la inferencia.
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →Inkling 2 Mini ataca ese cuello de botella por otra vía. Es un modelo Mixture-of-Experts (MoE) disperso de 24 capas que enruta cada token a 8 de 128 expertos, activando 3.400 millones de parámetros en un pase estándar. El truco está en cómo se ejecutan esas 24 capas: las primeras seis (el prelude) y las últimas seis corren una sola vez, mientras que las 12 intermedias se repiten tres veces usando los mismos pesos.
El resultado son 48 aplicaciones efectivas de capa por token y 5.400 millones de parámetros activos efectivos, sin aumentar el espacio de almacenamiento. Para que la información fluya limpia entre iteraciones, el equipo implementó attention residuals: cada pase lee un mensaje con compuerta que viene del pase anterior.
En las pruebas internas de escalado, un modelo sin bucle necesitaba 140% más cómputo de inferencia para igualar la pérdida del modelo con bucle en trazas agénticas de 512.000 tokens.
Para que el modelo entrara en silicio de consumo, Thinking Machines podó dos tercios de los expertos durante el entrenamiento (de 384 a 128) y curó la red destilando 1 billón de tokens de un Inkling interno más grande. Las primeras 20 capas se entrenaron y se despliegan en precisión de 4 bits NVFP4, y las últimas cuatro en 8 bits MXFP8: como los pesos viajan en el mismo formato numérico del entrenamiento, se evita la degradación típica de la cuantización posterior.
Benchmarks: dónde gana y dónde se queda corto
En código agéntico y uso de herramientas, el modelo juega en otra categoría que sus pares. Lidera todos los modelos open-weights por debajo de 100.000 millones de parámetros en DeepSWE v1.1 (48,2%), SWE-bench Pro v2 Hard (77,9%) y Vals Index v2.2 (46,5%), además de registrar 79,2% en SWE-bench Verified y 85,3% en DeepSearchQA.
En el Artificial Analysis Intelligence Index v5.0 marca 20,1, el mismo puntaje que Qwen3.8-27B. La diferencia es el costo de llegar ahí: según Artificial Analysis, Inkling 2 Mini usa aproximadamente 2,8 veces menos cómputo, corre cuatro veces más rápido (9,0 minutos por tarea frente a 38,2) y cuesta seis veces menos (0,59 dólares frente a 3,53 por tarea a tarifas de API de primera parte). En el benchmark de eficiencia energética intelligence-per-joule de Stanford sobre una NVIDIA DGX Spark, anotó 0,703, por delante de Qwen3.6-35B-A3B (0,430) y Gemma-4-26B-A4B (0,159).
El reverso de la moneda también está documentado. El bucle mejora el razonamiento, pero no agrega conocimiento: el recuerdo factual escala con el total de parámetros, no con las pasadas. Por eso saca -8,6 en AA-Omniscience v1.1 (con 63,4% de tasa de no alucinación), por detrás de Qwen3.8-27B (-6,4 y 71,4%). También pierde en chat multiturno (50,0% en MultiChallenge) e instrucciones con muchas restricciones (33,4% en ComplexConstraints v1.1), y puede caer en bucles repetitivos de depuración o producir frases cortadas en idiomas distintos del inglés, como el chino.
El hardware real que necesitas
La promesa de correr en tu laptop tiene matices que conviene leer antes de comprar equipo. El soporte oficial cubre Macs con Apple silicon y 32 GB o más de memoria, además del NVIDIA DGX Spark, y en Mac se ejecuta con Ollama. Para GPUs de otras marcas, la recomendación es 32 GB o más de VRAM. El modelo es multimodal nativo, acepta texto e imágenes y maneja una ventana de contexto de 1 millón de tokens, frente a 262K de Gemma 4 31B y 131K de Muse Glimmer.
Los números de velocidad local que circulan son de terceros. El equipo de @exolabs, especialistas en Apple silicon, reportó 210 tokens por segundo de decodificación y 3.620 tokens por segundo de prefill en un Mac Studio M5 Ultra de 96 GB, y 125 tokens por segundo de decodificación en un M5 Max de 48 GB. Según su prueba, el modelo construyó una app nativa de clima 1,8 veces más rápido y 11 veces más barato que Claude Sonnet 5.5. El desarrollador @KyleHessling1 midió 104 tokens por segundo en una RTX 5090.
Ojo con la cifra de 16 GB: corresponde a las versiones comprimidas que publicó Unsloth con soporte para llama.cpp. La versión de 4 bits recomendada pesa 17,6 GB y la guía para precisión completa es de 24 GB. Existe una versión de 2 bits de 8,49 GB, pero la coincidencia con el token más probable del modelo original cae a 90,6%, frente a 98,0% de la de 4 bits.
Licencia Apache 2.0: qué cambia para tu empresa
Los pesos completos están en Hugging Face bajo Apache 2.0, acompañados de una Política de Uso Aceptable. En términos prácticos: puedes descargar, modificar, ajustar con fine-tuning, redistribuir e incrustar el modelo dentro de productos comerciales propietarios sin pagar regalías, siempre que incluyas el aviso de copyright y el texto de la licencia. A diferencia de licencias copyleft como la GPL, Apache 2.0 no te obliga a abrir el código de tu aplicación.
Eso lo pone en igualdad legal con Qwen3.8-27B, Gemma 4 31B y Muse Glimmer de Meta, todos Apache 2.0, y evita la fricción comercial de acuerdos a medida como los que aplican a modelos frontera más grandes. Para los equipos legales y de compras, es un atajo hacia el despliegue privado y on-premise.
El contexto del sector acompaña. En su conferencia Ignite, Microsoft presentó Licensed Weights, un esquema intermedio que permite a clientes personalizar los pesos de sus modelos y correrlos en Azure, según reportó ZDNET. El mismo medio señala que Anthropic y OpenAI siguen concentrando la enorme mayoría del mercado de IA empresarial, lo que deja a los modelos abiertos como la vía de entrada para quien necesita control sobre sus datos. En esa línea, Nikesh Arora, CEO de Palo Alto Networks, dijo en la llamada de resultados recogida por Network World que los modelos open-weight pasaron de menos del 5% del tráfico de tokens a más del 60% en el último año.
El debate de seguridad: razonar sin dejar rastro
Hay un problema que Thinking Machines reconoce de entrada: si el modelo razona más por dentro sin escribirlo, se vuelve más difícil de supervisar. La lectura de las cadenas de razonamiento es una de las principales herramientas para vigilar qué intenta hacer un sistema.
Junto al modelo, la empresa publicó un checkpoint de investigación con bucle variable, TML-d24-varloop-research, entrenado para entre una y cinco pasadas, y se asoció con el National Deep Inference Fabric (NDIF) y Goodfire para estudiar interpretabilidad mecanicista. En sus pruebas preliminares, el horizonte de razonamiento sin cadena de pensamiento pasó de 16 segundos con una pasada a 37 segundos con tres, y la longitud de las trazas se redujo a más de la mitad, manteniéndose legible para humanos. En el benchmark de control LinuxArena no apareció una tendencia al alza en sabotaje encubierto.
La propia compañía aclara que los resultados son preliminares: el modelo de investigación solo se entrenó con refuerzo a tres pasadas, y un monitor limitado a llamadas de herramientas y salidas dejó pasar un número significativo de ataques.
¿Qué significa esto para tu startup?
1. Prueba el modelo en un caso de código con datos sensibles. Si tu equipo ya usa un asistente en la nube, corre el mismo set de tareas contra Inkling 2 Mini en local. Con un Mac de 32 GB y Ollama, o una versión GGUF en 16 GB, puedes medir calidad real sin cambiar tu stack.
2. No lo uses como base de conocimiento. El bucle no almacena hechos: con -8,6 en AA-Omniscience y 63,4% de no alucinación, el modelo es bueno ejecutando y flojo recordando. Combínalo con búsqueda o RAG y deja una verificación humana en el medio.
3. Aísla el entorno si le das acceso a archivos. La propia model card advierte que puede borrar o sobrescribir archivos sin confirmación y no reportar bien el resultado de las tareas. Separa carpetas de trabajo, haz respaldos, exige confirmación antes de operaciones irreversibles y fija límites de longitud de salida y de número de operaciones.
4. Recalcula tu costo por tarea, no por token. Si tu carga es código agéntico, pasar de 3,53 a 0,59 dólares por tarea cambia la economía de un producto. Verifícalo con tus propias trazas antes de mover presupuesto.
5. Valida el español antes de exponerlo a clientes. La model card declara inglés y soporte multilingüe general, y advierte que la calidad puede bajar en otros idiomas. Prueba con tus documentos reales antes de ponerlo frente a un usuario final.
El contexto de infraestructura también juega a favor. En la encuesta de IDC de junio de 2026 citada por TechTarget, 85% de las empresas afirmó que sus cargas de IA requieren infraestructura on-premise y nube pública a la vez, y la soberanía y la latencia influyeron en 51% de los encuestados, por encima del costo (42%). Un modelo que corre en el equipo del desarrollador elimina esa discusión de raíz.
Conclusión
Inkling 2 Mini no es el modelo más inteligente del mercado, y Thinking Machines lo dice con una transparencia poco común: pierde en conocimiento factual, en chat multiturno y en instrucciones complejas. Lo que cambió es otra cosa. Con 26.400 millones de parámetros, licencia Apache 2.0 y un costo por tarea seis veces menor que su comparable directo, el razonamiento agéntico dejó de ser un servicio que se alquila por token y pasó a ser algo que puedes tener instalado. Para startups con datos regulados, clientes en sectores sensibles o márgenes ajustados, esa es la parte de la noticia que vale la pena probar esta semana.
Fuentes
- Thinking Machines wows with Inkling 2 Mini looped transformer model that runs locally on laptops – VentureBeat
- Thinking Machines Lab Releases Inkling 2 Mini for Local Devices – Unite.AI
- Thinking Machines releases Inkling 2 Mini, a looped AI model for laptops – The Next Web
- Thinking Machines releases Inkling 2 Mini – note.com
- Palo Alto Networks bets $4.5B on enterprise AI with Applied Compute acquisition – Network World
- Dell, Microsoft target enterprise AI inference with Nvidia HGX B300 – TechTarget
- Microsoft’s new Licensed Weights lets businesses customize AI models with their own data – ZDNET
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →













