n8n: 7 modelos de IA local en un DGX Spark sin nube

n8n demuestra que se puede correr IA sin tocar la nube

n8n publicó un stack completo para servir siete modelos de IA en una sola NVIDIA DGX Spark, con el cable de red desconectado y sin enviar un byte a una API en la nube. La cifra que resume la propuesta: 120 tokens por segundo para un usuario y 359 tokens por segundo en total cuando ocho personas trabajan al mismo tiempo sobre el mismo equipo. Para un negocio que maneja datos regulados —una clínica, un despacho legal, un estudio contable— eso mueve la conversación de lugar, porque la privacidad deja de depender de los términos de un proveedor y pasa a depender de dónde está enchufado el equipo.

La empresa detrás del experimento no es un laboratorio académico. Según The Next Web, n8n fue fundada en 2019 por Jan Oberhauser y hoy reporta más de 1.400 clientes enterprise y alrededor de 1,7 millones de builders activos mensuales, con Meta, Vodafone y Mercedes-Benz entre sus usuarios. Su tesis es que el valor se captura en la capa de orquestación —no en el modelo— y que poder mover cargas a infraestructura propia funciona como un seguro. En el Raise Summit de París, Oberhauser describió el riesgo de depender de un proveedor que suba precios, sea adquirido o pierda acceso en una geografía como una dependencia que puede literalmente matar tu empresa.

¿Qué hardware hace falta para correr IA local?

La DGX Spark no es una workstation con GPU dedicada. Es un equipo con 128GB de memoria unificada compartida entre CPU y GPU sobre el chip GB10 Grace Blackwell, que lee memoria a 273 GB/s. Linux reporta 121GB disponibles de ese pool. La consecuencia práctica es doble: todos los modelos conviven en el mismo espacio de memoria sin partir pesos entre VRAM y RAM del sistema, y la velocidad de generación depende del ancho de banda de memoria más que del conteo de parámetros.

El precio es la parte incómoda. La configuración de 128GB con SSD de 4TB cuesta US$6.950, según el comparativo de Geeky Gadgets, frente a alternativas como el Dell GB10 (US$5.900) o el Surface RTX Spark Dev Box de Microsoft (US$5.999,99). Pero Nvidia amplió la línea con una versión de 64GB desde US$4.999, distribuida por Acer, ASUS, Dell, Gigabyte, HP y MSI, que además se puede unir de a dos equipos por cable QSFP para llegar a 200.000 millones de parámetros en total, según GCN. Para un founder, esa versión de entrada es la puerta lógica: empezar con una caja de 64GB y escalar a un clúster de dos en lugar de comprar la unidad grande de una vez.

¿Qué modelos caben en una sola caja?

La regla de diseño que propone n8n es contraintuitiva: un solo modelo grande para todo lo que sea texto. El elegido es Qwen3.6-35B-A3B, un modelo de mezcla de expertos (MoE, donde por cada token solo se activa una fracción de los parámetros) con 35.000 millones de parámetros totales y unos 3.000 millones activos. Cuantizado en NVFP4, el formato de punto flotante de 4 bits de Nvidia, sus pesos ocupan una fracción de lo que ocuparía un modelo denso equivalente.

El stack completo que queda cargado en el equipo es:

• Chat, código, visión y extracción: nvidia/Qwen3.6-35B-A3B-NVFP4 (Apache 2.0)
• Embeddings: Qwen/Qwen3-Embedding-4B (Apache 2.0)
• Reranking: Qwen/Qwen3-Reranker-0.6B (Apache 2.0)
• Voz a texto: openai/whisper-large-v3-turbo (MIT)
• OCR de documentos: zai-org/GLM-OCR (MIT)
• Generación de imágenes: Tongyi-MAI/Z-Image-Turbo (Apache 2.0)
• Texto a voz: hexgrad/Kokoro-82M (Apache 2.0)

Los siete modelos se sirven con vLLM detrás de un único endpoint compatible con OpenAI. Eso significa que n8n se conecta con el mismo nodo OpenAI que ya usa para la nube: solo cambia la URL base y la clave. LiteLLM actúa como capa frontal y emite claves virtuales por equipo, de modo que se puede medir consumo y gasto aunque nadie facture por token.

¿Qué rendimiento real se midió en el benchmark?

Todos los números salen de una sola corrida de benchmark el 13 de octubre con vLLM 0.30.0 y commits de modelo fijados por el autor. Con una carga de chat:

• 1 usuario: 0,11s hasta el primer token, 120 tokens por segundo por usuario, 87 en total
• 4 usuarios: 0,21s, 68 tokens por segundo por usuario, 242 en total
• 8 usuarios: 0,29s, 47 tokens por segundo por usuario, 359 en total

Con un prompt de 8.537 tokens, el primer token tardó 1,14 segundos. La velocidad por usuario baja a medida que se suman personas, pero el total sube: eso es el batching de vLLM repartiendo cada pasada por los pesos entre varios pedidos.

El resto de los trabajos se comporta igual de bien: texto a voz 0,87s por un párrafo de 30 segundos de audio, voz a texto 0,58s, OCR de una página 1,80s, embeddings de 32 pasajes 0,18s y reranking de 32 candidatos 0,03s. La generación de imágenes es la excepción: 12,2s por imagen de 1024x1024 si se fijan 8 pasos manualmente, porque el default de vLLM-Omni corre unos 48 pasos a 1,5 segundos cada uno y estira cada imagen a más de un minuto.

Y hay un dato que casi nadie documenta: cuando alguien genera imágenes mientras el equipo conversa, la velocidad de chat se derrumba. En la medición, un usuario pasó de 122 a 38 tokens por segundo (-69%) y cuatro usuarios de 69 a 24 (-65%). Las imágenes también se frenaron. Una sola caja aguanta el stack entero, pero no aguanta hacer todo al mismo tiempo.

Los tres riesgos que documenta la guía

El primero son las licencias. Varios de los mejores modelos abiertos de imagen y voz no permiten uso comercial: los FLUX que compiten con Z-Image-Turbo son no comerciales o requieren licencia aparte, y Qwen-Image-2.1 se publica bajo licencia de investigación. La guía se limita a Apache 2.0, MIT, CC-BY-4.0, OpenMDW y la licencia abierta de Nvidia, y fija cada modelo a un commit específico de Hugging Face para que un cambio de licencia río arriba no aterrice en silencio.

El segundo son las versiones. Un intento inicial con la etiqueta vLLM cu130-nightly trajo una imagen de cinco meses de antigüedad que no cargaba el modelo principal, y el error no mencionaba versiones: era un KeyError por un parámetro faltante que parecía un checkpoint roto. La lección: imprimir la versión real de vLLM dentro de la imagen antes de confiar en ella. Con LiteLLM pasa lo mismo, y ahí además hay motivo de seguridad: hay que usar la versión 1.84.0 o posterior, porque hubo dos releases de PyPI comprometidas.

El tercero es la memoria compartida. En un equipo con pool unificado, el flag de utilización de memoria es una fracción del total, no de lo que está libre, así que dos modelos que arrancan juntos se pelean por el mismo espacio. Con los siete modelos cargados, la DGX Spark queda en 108GB usados y 13GB disponibles, y arrancar los seis servicios principales lleva unos 12 minutos. Si el equipo apunta a CUDA out of memory con memoria libre de sobra, suele ser la caché de página de Linux reteniendo los pesos recién descargados.

Por qué la soberanía de datos dejó de ser solo un tema legal

El interés por correr modelos en casa no viene de la nostalgia técnica. Según Futurum Research, los despliegues híbridos y de borde capturarán el 44% del mercado de infraestructura de IA hacia 2030, mientras la cuota de nube pública caería al 46%. Y un informe del IBM Institute for Business Value de junio señaló que el 68% de los ejecutivos encuestados considera difícil cumplir con requisitos de residencia de datos entre geografías.

Las empresas grandes ya están moviéndose. Según The Next Web, Mercedes-Benz desplegó n8n como plataforma de automatización global, atraída en parte por el modelo self-hosted que mantiene los datos sensibles en su propia infraestructura, y SAP invirtió en n8n en mayo reportando una valoración de US$5.200 millones. El mismo medio cita el hallazgo de que solo alrededor del 5% de las iniciativas corporativas de IA genera valor real, en línea con el informe GenAI Divide del MIT.

¿Qué significa esto para tu startup

La pregunta útil no es si la IA local es superior, sino cuándo deja de ser un capricho. Hay cuatro decisiones que puedes tomar esta semana sin comprar nada:

• Calcula el punto de equilibrio antes de mirar el hardware. Toma tu consumo mensual de tokens en las tareas repetitivas (resúmenes, clasificación, extracción de documentos) y compáralo con el costo de amortización de un equipo de US$4.999 a 24-36 meses. Si tu volumen es bajo, la nube gana por goleada; si tienes tres personas procesando documentos todos los días, la ecuación se da vuelta más rápido de lo que parece.
• Empieza por el caso de mayor sensibilidad y menor volumen. Facturas, transcripciones de llamadas y documentos de clientes son el punto de entrada ideal: no necesitan generación de imágenes ni cargas simultáneas, y son justo donde el argumento de soberanía convence a un cliente corporativo o a un auditor.
• Destraba la extracción apagando el razonamiento. En la prueba de facturas del stack, la extracción tardó 12,1 segundos y 1.616 tokens con el modo de pensamiento activado, y 0,59 segundos con 76 tokens al desactivarlo. Para formatos fijos, apagar el pensamiento del modelo es la diferencia entre una demo lenta y una herramienta usable.
• Aísla las cargas pesadas. Con generación de imágenes activa, el chat cae hasta un 69%. Encola los trabajos de medios fuera de horario o destina una segunda máquina a imagen y voz, dejando la primera solo para texto.

Conclusión

Lo relevante de este stack no es que sea gratis —no lo es, entre el equipo y las horas de configuración— sino que vuelve medible una discusión que hasta ahora era abstracta. Durante dos años la soberanía de datos se resolvió con cláusulas contractuales y promesas de cumplimiento. Lo que demuestra n8n es que también se puede resolver con una caja en la oficina, un endpoint compatible con OpenAI y un archivo de licencias revisado uno por uno. Para un founder hispanohablante que vende a clientes regulados en España o LATAM, tener esa alternativa documentada y con números reales vale más que cualquier argumento de marketing: es la diferencia entre decir que los datos están protegidos y poder mostrar dónde se guardan.

Fuentes

• Run your n8n AI workflows on NVIDIA DGX Spark, with no cloud API
• "It can literally kill your company": n8n's case for model-agnostic AI - The Next Web
• Nvidia adds 64GB DGX Spark configuration for local AI development - GCN
• Microsoft Prices the Surface RTX Spark AI Dev Box At $5,999.99 - Geeky Gadgets
• IBM Introduces Self-Hosted Deployment for IBM Bob to Help Enterprises Advance AI Sovereignty and Governance