NVIDIA lanza Nemotron 3.5: búsqueda multimodal para agentes

NVIDIA amplía su colección de recuperación con cinco modelos abiertos

Un agente que no encuentra la evidencia correcta vuelve a buscar, abre más documentos y consume tokens de inferencia antes de responder. NVIDIA presentó Nemotron 3.5 Embed, Nemotron 3.5 Rerank y Nemotron 3.5 Parse: cinco variantes abiertas y de uso comercial que, según las pruebas de la compañía, reducen el costo de tokens por consulta de un agente en aproximadamente 14% cuando se combinan un modelo de embedding con el reranker.

Tres conceptos para entender el anuncio. Un modelo de embedding traduce texto e imágenes a vectores para que puedan buscarse por similitud; un reranker vuelve a puntuar esos resultados para dejar arriba lo que realmente responde la pregunta; y RAG (retrieval-augmented generation) es el patrón por el cual un agente consulta una base documental antes de generar su respuesta.

¿Qué lanzó NVIDIA con Nemotron 3.5?

La colección Nemotron Retriever suma cinco modelos, todos disponibles en Hugging Face con pesos abiertos:

• Nemotron 3.5 Embed 8B BF16: recupera evidencia en texto e imágenes, con foco en calidad de búsqueda sobre documentos visualmente ricos.
• Nemotron 3.5 Embed 1B BF16: destila las capacidades multimodales del 8B en un modelo compacto, pensado para indexado y servicio de consultas con menor huella.
• Nemotron 3.5 Embed 1B NVFP4: aplica cuantización NVFP4 a los codificadores de texto e imagen para indexado de documentos a gran escala y recuperación de alto rendimiento.
• Nemotron 3.5 Rerank 8B BF16: cross-encoder que evalúa conjuntamente pares consulta–documento y refina el orden de los candidatos, en texto e imagen.
• Nemotron 3.5 Parse (631 millones de parámetros): convierte imágenes de documentos en contenido estructurado —Markdown, tablas HTML y bloques— preservando orden de lectura, ubicación de los elementos y la relación entre tablas, gráficos y sus encabezados.

¿Por qué la calidad de recuperación define el costo de tu agente?

El argumento central de NVIDIA es económico, no solo de precisión. En su evaluación, el agente consulta el corpus con una herramienta de búsqueda, inspecciona la evidencia y refina la siguiente consulta. Fijando el modelo de lenguaje, las herramientas, el conjunto de tareas y el corpus, y variando solo la configuración de recuperación, la compañía midió dos cosas: si el agente encontraba la información relevante y cuántos tokens totales de inferencia consumía por tarea.

Los resultados que reporta NVIDIA:

• Añadir Nemotron 3.5 Rerank reduce el costo de tokens por consulta aproximadamente 14% con Nemotron 3.5 Embed 8B y 13% con Nemotron 3.5 Embed 1B, mejorando además la precisión de recuperación en ambas configuraciones.
• Con Nemotron 3.5 Embed 8B como retriever, el reranker obtuvo cerca de 0.9 puntos más de nDCG@10 que Qwen3-VL-Reranker-8B a un costo de tokens comparable.

El caso de uso que describe la compañía es concreto: un agente al que se le pide identificar productos en riesgo de quedarse sin stock el próximo trimestre debe combinar pronósticos de demanda en gráficos, niveles de inventario en tablas y plazos de proveedores en informes, y luego razonar si el reabastecimiento llegará a tiempo. Sin recuperación multimodal, esos tres insumos viven en formatos distintos y el agente falla o gasta tokens extra buscándolos.

Tablas, gráficos y PDF: donde falla la búsqueda clásica

La apuesta de NVIDIA es que buena parte del conocimiento empresarial no vive en texto plano. Nemotron 3.5 Embed 8B BF16 alcanzó 61.17 de nDCG@10 en ViDoRe v3.1, primer puesto entre los modelos de recuperación densa según la publicación del 20 de octubre de 2026, una mejora de 8.94 puntos sobre los 52.23 de Llama Nemotron Embed VL 1B. La versión 1B BF16 llega a 58.38 y retiene el 95.4% del puntaje de su modelo maestro.

En recuperación multilingüe visual, el 8B logra 72.6 de nDCG@10 en MIRACL Vision, 4.3 puntos por encima de Qwen3-VL-Embedding-8B. La evaluación de texto cubrió 34 idiomas, MIRACL Vision 18 idiomas y KoViDoRe. En reranking, Nemotron 3.5 Rerank 8B BF16 obtuvo 60.49 de nDCG@10 con entradas combinadas de imagen y texto, frente a 59.17 de Qwen-3-VL-Reranker-8B.

Ese sesgo visual no es un detalle de laboratorio. Un analista de Omdia señaló en TechTarget que la selección de modelo por tipo de tarea y el costo de cómputo de procesar imágenes y video son dos de los principales obstáculos al desplegar IA multimodal en la empresa.

Nemotron 3.5 Parse y el cuello de botella de los documentos escaneados

Un PDF empresarial suele tener una capa de texto que captura solo una parte de la página: se pierde el orden de lectura, los valores de una tabla se separan de sus encabezados y los gráficos quedan fuera. Los documentos escaneados directamente pueden no tener capa de texto.

Nemotron 3.5 Parse, con 631 millones de parámetros, convierte esas páginas en contenido legible por máquina y quedó primero en ParseBench entre los modelos de menos de 1.000 millones de parámetros, con un puntaje de 75.20 y un procesamiento de 10.5 páginas por segundo en una sola H100. Las cifras del fabricante por modo de procesamiento:

• Una pasada: 72.74 de puntaje, 16.1 páginas por segundo.
• Dos pasadas: 74.92 de puntaje, 11.2 páginas por segundo.
• Tres pasadas: 75.20 de puntaje, 10.5 páginas por segundo.

La lógica es simple y útil para planificar capacidad: se puede elegir el punto de operación entre velocidad de ingesta y exactitud, sin cambiar de modelo. NVIDIA reporta además cobertura en 163 combinaciones de idioma y escritura, y el uso de GRPO con funciones de recompensa propias para reducir bucles de generación repetitiva y bloques sin cerrar.

Precisión contra eficiencia: NVFP4 y NIM

Dos datos de despliegue importan a quien paga la factura de cómputo. Nemotron 3.5 Embed 1B NVFP4 entrega 27.1% más de rendimiento que la versión 1B BF16 en NVIDIA GB200, pasando de 101.3 a 128.8 documentos por segundo, y conserva el 99.85% de su precisión de recuperación en ViDoRe v3 con entradas combinadas de imagen y texto.

En serving, NVIDIA NIM alcanzó 6.031 consultas por segundo en una RTX PRO 6000 Blackwell Server Edition, aproximadamente 2.9 veces el rendimiento de una configuración vLLM comparable de 2.099 consultas por segundo, con throughput de procesamiento de pasajes similar.

Lo que ya reportan Elastic, Vectorize, Perplexity y Turbopuffer

El anuncio viene con evaluaciones de terceros. Elastic ofrece los modelos de embedding y reranking de Nemotron Retriever a través de su Inference API con endpoints de NVIDIA. Vectorize evaluó Nemotron 3.5 Embed con su sistema de memoria para agentes y reportó 93.8% de recall@10 en LoCoMo y 65.9% en BEAM 100K. Perplexity reportó que Nemotron 3.5 Rerank 8B obtuvo el mejor promedio en su benchmark privado de reranking de 72 tareas. Turbopuffer encontró cerca de 5% más de resultados relevantes en Recall@20 que el siguiente mejor modelo en su benchmark de búsqueda de PDF empresariales.

¿Qué significa esto para tu startup?

La parte accionable del anuncio no está en los leaderboards sino en tres decisiones de arquitectura.

• Aprovecha tus índices de texto existentes. NVIDIA indica que el componente de lenguaje queda congelado durante el entrenamiento de embedding, por lo que los embeddings de solo texto se mantienen sin cambios respecto de los modelos Nemotron 3 Embed y los índices vectoriales ya construidos pueden reutilizarse. Si ya tienes un RAG en producción con texto, puedes añadir capacidad multimodal sin reindexar todo desde cero.
• Prueba primero el modelo pequeño y el fine-tuning. En los experimentos de NVIDIA sobre 8.202 imágenes de gráficos e infografías, ajustar Nemotron 3.5 Embed 1B BF16 con 6.872 consultas durante una época subió el nDCG@10 de 37.34 a 44.12, un 18% relativo, sobre 1.719 consultas sintéticas retenidas. El mismo ejercicio con el 8B pasó de 41.44 a 42.75, un 3% relativo. La lección práctica: el modelo chico adaptado a tu vocabulario corporativo puede rendir más que el modelo grande genérico a una fracción del costo.
• Elige el punto de operación antes de escalar. Si el cuello de botella es la ingesta de documentos históricos, el modo de tres pasadas de Parse compra exactitud a cambio de throughput; si el volumen es masivo y el contenido es simple, la variante NVFP4 del 1B ofrece el mejor equilibrio entre velocidad y precisión. Los pesos abiertos también están disponibles vía Baseten, DeepInfra y FriendliAI, además de NIM.

El contexto: la apuesta open source de NVIDIA

Este lanzamiento se entiende mejor dentro de la estrategia abierta de la compañía. NVIDIA presentó la familia Nemotron 3 en diciembre, con las variantes Nano, Super y Ultra como base para sistemas de IA agéntica, según reportó SiliconANGLE. En agosto de 2026 sumó Nemotron 3.5 Lightning, un modelo MoE de 30.000 millones de parámetros —con 3.000 millones activos por token— pensado para tareas de ejecución de agentes siempre activos, que según la cobertura de CNBC puede correr en una sola GPU de un PC y es libre de descargar, usar y modificar.

El motivo comercial es directo: los modelos siguen necesitando GPUs. El sitio de desarrolladores de NVIDIA describe Nemotron como una familia de modelos abiertos con pesos, datos de entrenamiento y recetas, y ubica a Nemotron Retrieval como su línea de extracción, embedding y reranking para inteligencia documental multimodal.

El mercado acompaña. Un análisis de Simply Wall St difundido por Yahoo Finance proyecta que el mercado de IA multimodal pase de US$3.290 millones a US$93.990 millones hacia 2035. Y según Gartner, citado por TechRepublic, la falta de preparación de los datos es una barrera central para la adopción de IA en la empresa: más del 75% de las organizaciones prioriza inversiones en datos listos para IA. Ese es, precisamente, el trabajo que estos modelos buscan hacer más barato.

Conclusión

NVIDIA no está compitiendo por el titular del mejor modelo de lenguaje, sino por la capa que decide qué información entra al contexto del agente. Para un founder, la señal es doble: la recuperación dejó de ser un detalle de infraestructura y se convirtió en una palanca directa de costo por tarea, y ahora existen pesos abiertos con recetas de fine-tuning para adaptarlos al vocabulario de cada negocio. La recomendación es empezar por medir cuántos tokens gasta tu agente en búsquedas fallidas antes de cambiar de modelo: ahí suele estar el ahorro.

Fuentes

• NVIDIA Nemotron 3.5 Embed, Rerank, and Parse: Advancing Agents with World-Class Retrieval Models
• Nvidia unveils first open-source AI model since CEO Jensen Huang entered the chat
• Nvidia releases Nemotron 3.5 Lightning and NeMo Switchyard to give enterprise AI capability options
• Nemotron AI Models | NVIDIA Developer
• Dell AI Data Platform Review: What It Offers for Enterprise RAG, AI Agents, and Production GenAI
• Latest News In Cloud AI - Multimodal AI Growth: Transforming Markets and Driving Innovation
• Why multimodal AI is reshaping enterprise intelligence