IBM Granite Switch 4.1.1: parche modular sin reentrenar

¿Qué cambia en Granite Switch 4.1.1?

IBM publicó Granite Switch 4.1.1, un parche sobre la versión 4.1 que la compañía había lanzado apenas unos días antes. El número de versión significa exactamente lo mismo que en cualquier otro producto de software: compatibilidad total hacia atrás, cero migración y mejoras incrementales bajo el capó.

La lista de cambios es corta, y ese es justamente el punto:

Modelo de voz actualizado (Granite Speech ASR): ahora hace conversión de voz a texto multilingüe en 10 idiomas con puntuación y mayúsculas nativas, de modo que la transcripción queda lista para alimentar modelos posteriores sin una pasada de formateo.
Adaptador de decisión actualizado en granitelib-core: con mejor rendimiento general en el test set del Jev Decision Index.

Lo verdaderamente relevante está en la letra chica: aparte de entrenar el nuevo modelo de voz y el adaptador de decisión, no se recalculó nada más. El modelo base quedó intacto. Cada equipo compone los adaptadores más recientes que necesita y despliega.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Por qué un parche es la noticia real

Para un founder, la diferencia entre que salga un modelo nuevo y que se actualice un componente es la diferencia entre rehacer el trabajo y no tocar nada.

En el esquema tradicional, mejorar la transcripción de voz o el módulo de decisión de un LLM implica esperar una nueva generación del modelo completo, volver a evaluar prompts, repetir pruebas de calidad y, en muchos casos, reescribir integraciones. En el enfoque modular de IBM, la base no se mueve: se entrena únicamente el adaptador que cambia y se vuelve a componer el modelo.

IBM lo enmarca como actualizar modelos con el mismo ciclo de vida con que se actualiza el software. Y anuncia que está preparando tutoriales y un Adapter SDK para que desarrolladores y proveedores terceros construyan sus propios adaptadores, iteren versiones, prueben funcionalidades y publiquen actualizaciones como si fueran releases de código.

Ese es el punto que debería interesar a un equipo de producto: la posibilidad de versionar la inteligencia de tu producto en lugar de tratarla como una caja negra que se reemplaza cada seis meses.

Cómo funciona la arquitectura modular de adaptadores

Granite Switch 4.1 se anunció el 15 de octubre de 2026, según Unite.AI, con dos modelos modulares de 8.000 y 30.000 millones de parámetros que combinan un modelo base, un adaptador de decisión de propósito general, un adaptador de seguridad y un encoder de voz en un único endpoint hospedado.

Según la misma cobertura, los checkpoints se apoyan en los modelos base granite-4.1-8b y granite-4.1-30b, con ventana de contexto de 128K, licencia Apache 2.0 y backends de Hugging Face Transformers y vLLM.

La mecánica interna, tal como la describen las tarjetas de modelo relevadas por Unite.AI, es un coarse-grained expert switching: un mismo adaptador permanece activo a lo largo de todas las capas del decoder durante un tramo contiguo de tokens. Quien llama al modelo activa un adaptador pasando su nombre a la plantilla de chat, que inserta el token de control correspondiente; una capa liviana de switching detecta ese token y produce índices por posición, dirigiendo cada capa a aplicar los pesos LoRA que corresponden.

Cuatro propiedades de diseño vale la pena retener:

Cada adaptador lee solo el KV cache del modelo base y nunca el estado interno de otro adaptador.
Los adaptadores se desarrollan, prueban y publican de forma independiente, sin entrenamiento conjunto.
Un mismo checkpoint funciona tanto en Transformers como en vLLM.
La selección de adaptador no requiere cambios de código.

IBM sostiene que el diseño de Activated LoRA eficiente en caché permite reutilizar el KV cache de una generación del modelo base para las decisiones posteriores basadas en adaptadores. Y afirma que las tres tecnologías, junto con el modelo base, requieren aproximadamente la misma memoria de GPU que el modelo base por sí solo.

Qué muestran los benchmarks (y con qué cautela leerlos)

Los números que IBM publica son de parte interesada, pero sirven como referencia. Según Unite.AI, en el Decision Index el adaptador de 8B obtuvo 42,9 puntos globales y el de 30B alcanzó 50,1. La misma cobertura señala que el adaptador de seguridad guardian-core supera en promedio a Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions y Clef-Flash en tareas de decisión vinculadas a seguridad.

IBM también reporta una carrera en la que Granite-Switch-4.1-30B completó un flujo real de RAG de cinco pasos mucho más rápido que Jev-27B, y una demostración en la que un modelo Granite Switch de 3.000 millones de parámetros jugando a Doom tomó entre 60 y 100 decisiones por segundo, frente a las 10 por segundo que IBM atribuye a Jev.

La traducción para quien construye producto es esta: la tesis de IBM no es que sea mejor en el benchmark general, sino que para tareas acotadas y repetitivas un modelo chico con adaptadores especializados resuelve más rápido y más barato.

Requisitos, licencia y despliegue

Los checkpoints de la familia Switch 4.1 son Apache 2.0, lo que habilita uso comercial y de investigación. Según Unite.AI, los requisitos son Python 3.9 o superior, PyTorch 2.11.0 o superior, Transformers 5.16 a 5.17.0 y, opcionalmente, vLLM 0.26.0 hasta 0.28.0 sin incluir esta última.

La arquitectura base es un decoder denso con grouped-query attention, RoPE, SwiGLU y RMSNorm, soporta 131.072 tokens de contexto y lista entre sus idiomas soportados el español, junto a inglés, alemán, francés, japonés, portugués, árabe, checo, italiano, coreano, neerlandés y chino.

En paralelo, Marktechpost reportó que Granite Speech 5.0 2B, también bajo Apache 2.0, quedó segundo entre los modelos de peso abierto del Open ASR Leaderboard con 5,68% de WER promedio en inglés, y que el modelo Turbo CTC de 470 millones de parámetros alcanza 19.870 RTFx, frente a unos 12.600 en su lanzamiento.

Vale recordar el antecedente: cuando IBM liberó los modelos Granite 3.0, ZDNet destacó que la licencia Apache 2.0 permite uso comercial sin las restricciones que atan a otros modelos presentados como abiertos. Esa política se mantiene y es lo que hace viable evaluar estos modelos en producción sin depender de un proveedor cerrado.

El contexto de fondo: por qué IBM insiste con lo abierto

El movimiento encaja con el discurso de la propia compañía. En la llamada de resultados del tercer trimestre de 2026, el CEO Arvind Krishna afirmó, según la cobertura de Benzinga y Yahoo Finance, que los modelos de peso abierto corren hoy entre el 10% y el 25% del costo por token de los modelos de frontera, y que son cerca del 90% de efectivos. Su cálculo, según esa misma nota, es que una empresa grande puede arrancar con dos o tres racks para correr esos modelos. En el mismo reporte, IBM informó ingresos totales por US$17.100 millones y una aceleración del 9% en ingresos de software.

El argumento tiene una pata que importa en LATAM y España: el control del dato. Krishna vinculó esa economía con la demanda de infraestructura privada y on-premise, un punto sensible para cualquier startup que maneje datos de salud, financieros o de clientes bajo regulación europea.

Limitaciones que conviene conocer antes de decidir

La documentación de la familia, según Unite.AI, deja varios bordes filosos:

El encoder de voz no se entrenó de forma conjunta con el modelo de lenguaje ni con los adaptadores, así que un error de transcripción puede cambiar silenciosamente aquello a lo que responde el modelo. La actualización 4.1.1 ataca parte de esto con multilingüismo y puntuación nativa, pero la dependencia sigue ahí.
vLLM limita a 128 token ids las peticiones de logprob para etiquetas de opciones de decisión: las preguntas con más opciones deben partirse en pedidos separados.
guardian-core no sustituye las pruebas de seguridad a nivel de aplicación, y los checkpoints excluyen adaptadores de detección de factualidad, corrección de factualidad y guardrails de políticas.
Las probabilidades del adaptador de decisión deben leerse como un prior que informa una decisión, no como una clasificación certificada en dominios fuera de su entrenamiento.

¿Qué significa esto para tu startup?

Cuatro movimientos concretos, en orden de esfuerzo:

Audita qué parte de tu stack es base y qué parte es adaptador. Si usas un LLM para clasificar tickets, enrutar consultas o resumir llamadas, esa función es candidata a vivir en un componente separado que puedas actualizar sin tocar el resto del producto. Empieza por una sola función y mide antes de generalizar.
Corre un piloto de costos contra tu factura actual. Si pagas APIs de frontera por tareas repetitivas, compara con un modelo abierto Apache 2.0 sobre el mismo set de casos. El argumento de IBM de 10% a 25% del costo por token con 90% de efectividad es verificable con tus propios datos, no con los de IBM.
Diseña el versionado desde ahora. Si vas a construir adaptadores propios cuando salga el SDK, define hoy un set de evaluación versionado por adaptador, igual que tienes tests para tu código. Sin eso, actualizar como software se convierte en desplegar cambios sin red de seguridad.
No delegues la seguridad al adaptador. Si tu producto filtra contenido sensible, guardian-core puede ser una capa extra, nunca la única.

Conclusión

Granite Switch 4.1.1 no es un lanzamiento espectacular: es un parche. Y precisamente por eso importa. Muestra que la promesa de la arquitectura modular, actualizar la capacidad de un modelo sin reentrenar la base, ya se está ejecutando, con dos componentes nuevos y el resto intacto.

Para un founder, la señal práctica es que el costo de pasar de un modelo grande y genérico a un modelo chico más adaptadores dejó de ser un problema técnico y pasó a ser una decisión de producto. La pregunta ya no es si se puede, sino qué funciones de tu producto conviene mover primero.