n8n: cómo enrutar entre LLM self-hosted y APIs cloud

Por qué el self-hosting dejó de ser una discusión ideológica

El 55% de cada dólar que las empresas gastan en infraestructura de IA en la nube ya se destina a inferencia, no a entrenamiento. Es la primera vez que ocurre: Gartner proyecta que en 2026 el gasto mundial en infraestructura de IA como servicio alcanzará los US$42.000 millones —casi el doble de los US$21.500 millones de 2025— y que de ese total US$23.300 millones irán a servir modelos en producción frente a US$19.000 millones a entrenarlos, según el reporte recogido por TechTimes.

Para un founder, ese dato cambia la pregunta. Ya no es «¿uso un modelo abierto o uno de frontera?», sino «¿qué parte de mi factura de tokens puedo mover a infraestructura propia sin romper el producto?».

La guía de n8n sobre LLM self-hosted frente a APIs cloud plantea exactamente eso: un modelo autoalojado da control sobre dónde viven los datos, pero exige hardware, mantenimiento y carga operativa que una API gestionada absorbe por ti. La salida intermedia es una arquitectura híbrida que enruta cada request al camino correcto.

Leíste lo que hace la IA. ¿Y en tu negocio?

En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.

👥 Probar 7 días

Cuánto cuesta de verdad cada camino

El costo por token de cómputo ha caído, pero el costo por transacción ha subido. La razón es la IA agéntica.

  • EY, en su análisis de costos empresariales de IA de 2026, calculó que un workflow lineal simple costaba aproximadamente US$0,04 por interacción en 2023, mientras que un sistema agéntico orquestado con llamadas a herramientas y bucles de razonamiento ronda los US$1,20 por interacción: unas 30 veces más.
  • Gartner confirmó en marzo de 2026 que los modelos agénticos consumen entre 5 y 30 veces más tokens por tarea que una consulta de chatbot estándar.
  • El Stanford Digital Economy Lab encontró que el contexto reenviado —prompts de sistema, definiciones de herramientas e historial que el modelo reprocesa en cada llamada— representa cerca del 62% del costo total de inferencia de un agente.

El caso más citado es el de Uber: su CTO, Praveen Neppalli Naga, reveló en abril de 2026 que la compañía consumió su presupuesto anual de IA en cuatro meses, con costos mensuales por ingeniero de entre US$500 y US$2.000, y tuvo que poner un tope al gasto.

Del otro lado, el self-hosting no es gratis. BNP Paribas procesa unos 1.500 millones de tokens de IA al día y gestiona clústeres de servidores bare-metal en tres centros de datos, según la presentación de su arquitecto técnico Pascal Guerineau recogida por TechTarget. El banco sostiene que su costo total de propiedad es menor que seguir en la nube, pero Guerineau admite que calcular el ahorro exacto «es difícil»: hay que sumar servidores, centros de datos, red y personal.

Qué dice la evidencia de quienes ya migraron

La adopción de modelos abiertos dejó de ser un experimento. Una encuesta de Omdia realizada en octubre y citada por TechTarget encontró que casi la mitad de 400 encuestados ya usa modelos de IA de código abierto. Entre los métodos para bajar costos de IA generativa, el 21% mencionó técnicas de eficiencia de modelo como la cuantización, el 18% mover cargas a infraestructura propia y solo el 4% el uso de modelos de pesos abiertos.

Yapi Kredi migró en 2025 desde un sistema MLOps basado en Cloudera a una plataforma compartida sobre OpenShift AI y reportó 50% menos tiempo de resolución de problemas y 75% más velocidad de incorporación para sus 200 científicos de datos. Ya usa un 90% de modelos abiertos.

Pero no todo se resuelve con hardware propio. Larry Carvalho, consultor principal de RobustCloud, advierte en el mismo reporte que los modelos autogestionados brillan en tareas acotadas y bien definidas, y que pueden quedarse cortos en workflows agénticos. Brian Stevens, CTO de IA de Red Hat, apunta a lo mismo desde otro ángulo: para la empresa promedio la salida no será abandonar la nube, sino una arquitectura híbrida.

Cuánto cuesta servir un modelo abierto en la práctica

El 20 de octubre de 2026, en la PyTorch Conference North America, los contribuidores del proyecto llm-d anunciaron la versión 1.0, un stack de inferencia distribuida nativo de Kubernetes mantenido por Red Hat, IBM y Google y alojado como proyecto sandbox de la CNCF, según recogió Unite.ai.

Los números del proyecto sirven como referencia de piso:

  • En un benchmark publicado el 22 de julio de 2026 sobre GLM-5.2, un modelo de mezcla de expertos de 744.000 millones de parámetros con 39.000 millones activos, el enrutamiento consciente de prefijos capturó entre el 96% y el 97% del reuso de caché disponible en una carga basada en 219 sesiones reales de Claude Code.
  • A una tarifa asumida de US$2,71 por GPU-hora en H200, el serving autoalojado en dos layouts de 64 GPUs costaba entre US$0,05 y US$0,08 por millón de tokens de entrada y entre US$1,92 y US$3,55 por millón de tokens de salida. Son cifras que cubren solo el alquiler de GPU y asumen carga sostenida.
  • En una demostración aparte, IBM y Red Hat desplegaron GLM-5.2 en 544 GPUs NVIDIA H100 y reportaron más de 6,6 millones de tokens de salida por minuto en pico, sirviendo hasta 3.000 agentes de código concurrentes sin preempciones. IBM afirma que, a tarifas actuales de alquiler en la nube, ese despliegue cuesta entre 5 y 10 veces menos por token que un precio de API comercial equivalente.

Ese último dato es el que importa: el ahorro aparece cuando hay volumen sostenido, no cuando hay picos.

Cómo se enruta entre local y nube sin gestionar dos sistemas

La guía de n8n propone resolver el enrutamiento dentro del propio workflow en lugar de codificarlo en cada aplicación. La lógica es esta:

  • Define qué dispara la ruta: un indicador de sensibilidad, el tipo de tarea, el volumen o un score de complejidad. Usa información que ya tengas.
  • Conecta el camino local con el nodo Ollama Chat Model y una credencial que apunte a la URL base de tu instancia.
  • Agrega el camino cloud con los nodos de OpenAI o Anthropic para las tareas que sí necesitan un modelo de frontera.
  • Elige el mecanismo: el nodo Model Selector cuando un mismo agente debe usar distintos modelos según reglas; un nodo If para partir el workflow en dos ramas; un nodo Switch cuando necesitas varias ramas con pasos distintos.
  • Prueba ambos caminos con casos representativos, incluyendo uno sensible que verifique que los datos restringidos nunca llegan a la rama cloud.

El ecosistema alrededor ya se mueve en esa dirección: el 12 de octubre de 2026, ZoomInfo confirmó una integración nativa con n8n como nodo verificado, con acceso a datos de más de 100 millones de empresas y 500 millones de contactos leídos en tiempo de ejecución.

Qué significa esto para tu startup

1. Mide antes de comprar GPU. Separa tu consumo en tokens de entrada y de salida por workflow. Según las cifras del benchmark de llm-d, el token de salida cuesta entre 24 y 71 veces más por millón que el de entrada: un workflow que genera mucho texto no se comporta igual que uno que solo clasifica.

2. Empieza por el modelo más pequeño que resuelva la tarea. Pruébalo primero vía OpenRouter u otro proveedor antes de invertir en hardware. Sube de tamaño solo cuando la capacidad extra mejore de forma medible tus resultados.

3. Enruta primero por sensibilidad, después por complejidad. Aplica el chequeo de datos sensibles antes de mandar cualquier request a la nube. Si un agente necesita inspeccionar contenido restringido para decidir la ruta, haz esa inspección en local.

4. Audita tus endpoints con fine-tuning. En plataformas cloud, un modelo ajustado puede costar entre US$50 y US$70 por día de hosting aunque no reciba tráfico. Un endpoint que quedó vivo tras un piloto puede quemar entre US$5.000 y US$11.000 antes de que alguien lo note.

5. Calcula el costo total, no el precio del token. Hardware, energía, personas y mantenimiento entran en la cuenta del self-hosting. El punto de equilibrio llega con volumen estable y alto, no con tráfico irregular.

La arquitectura híbrida no es una decisión de una sola vez. Es una configuración que vas a ajustar a medida que cambien los modelos, los precios y tus propios workflows.

Fuentes

¿te gustó o sirvió lo que leíste?, Por favor, comparte.

Leíste lo que hace la IA. ¿Y en tu negocio?

En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.

👥 Probar 7 días

Daily Shot: Tu ventaja táctica

Lo que pasó en las últimas 24 horas, resumido para que tú no tengas que filtrarlo.

Suscríbete para recibir cada mañana la curaduría definitiva del ecosistema startup e inversionista. Sin ruido ni rodeos, solo la información estratégica que necesitas para avanzar:

  • Venture Capital & Inversiones: Rondas, fondos y movimientos de capital.
  • IA & Tecnología: Tendencias, Web3 y herramientas de automatización.
  • Modelos de Negocio: Actualidad en SaaS, Fintech y Cripto.
  • Propósito: Erradicar el estancamiento informativo dándote claridad desde tu primer café.

📡 El Daily Shot Startupero

Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.

Share to...