Definición rápida
RAG (Retrieval Augmented Generation) es una técnica que combina la búsqueda de información en bases de conocimiento externas con la generación de texto de los LLMs. Permite que los modelos de IA respondan con información actualizada y específica sin necesidad de re-entrenamiento.
¿Qué significa RAG?
RAG son las siglas de Retrieval Augmented Generation (Generación Aumentada por Recuperación). Fue introducido formalmente en el paper «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks» de Meta AI en 2020, aunque su adopción masiva llegó con la explosión de los LLMs en 2023.
El problema que resuelve RAG es fundamental: los LLMs tienen un límite de conocimiento temporal (su fecha de entrenamiento) y no pueden acceder a información privada, interna o actualizada de una empresa. RAG soluciona esto añadiendo un paso de «recuperación» antes de la generación: el sistema busca información relevante en una base de datos vectorial y la inyecta como contexto en el prompt del LLM.
En términos simples: en lugar de preguntarle al LLM «¿Qué dice nuestro manual de empleados sobre vacaciones?», primero buscas las secciones relevantes del manual, las incluyes en el prompt, y luego el LLM responde basándose en esa información específica.
¿Cómo funciona RAG en la práctica?
El flujo de RAG tiene cuatro pasos principales:
- Indexación: Los documentos (PDFs, páginas web, bases de datos) se dividen en fragmentos (chunks), se convierten en vectores numéricos mediante modelos de embeddings, y se almacenan en una base de datos vectorial (Pinecone, Weaviate, Chroma).
- Recuperación: Cuando el usuario hace una pregunta, se convierte también en un vector y se buscan los fragmentos más similares en la base de datos vectorial usando distancia coseno u otras métricas.
- Augmentation: Los fragmentos recuperados se inyectan en el prompt del LLM como contexto adicional.
- Generación: El LLM genera una respuesta basándose tanto en su conocimiento pre-entrenado como en el contexto recuperado.
Ejemplos reales en LATAM
Banco Bradesco (Brasil)
Uno de los bancos más grandes de Brasil implementó RAG para su asistente interno «BIA» (Bradesco Inteligência Artificial). El sistema recupera información de miles de políticas internas, regulaciones del Banco Central de Brasil y productos bancarios para responder preguntas de agentes de atención al cliente en tiempo real.
Chileatiende / Gobierno Digital Chile
El gobierno chileno ha explorado RAG para crear asistentes que puedan responder preguntas ciudadanas consultando la base de trámites y servicios del Estado, evitando que los LLMs «inventen» información sobre requisitos y plazos.
Startups de LegalTech en Argentina
Varias startups legales en Buenos Aires (como LegalZoom.ar y otras) usan RAG para que abogados puedan consultar jurisprudencia, leyes y doctrina legal de Argentina de manera conversacional, sin que el modelo alucine citaciones.
RAG vs Fine-tuning
| Aspecto | RAG | Fine-tuning |
|---|---|---|
| Actualización de información | Tiempo real | Requiere re-entrenamiento |
| Costo inicial | Bajo-medio | Alto |
| Transparencia | Alta (cita fuentes) | Baja (conocimiento implícito) |
| Mejor para | Datos que cambian, documentos internos | Tareas con estilo/formato muy específico |
| Alucinaciones | Reducidas significativamente | Persisten |
Errores comunes al implementar RAG
- Chunks mal dimensionados: Fragmentos demasiado pequeños pierden contexto; demasiado grandes diluyen la relevancia.
- Ignorar la calidad de embeddings: No todos los modelos de embeddings son iguales para español. Usar modelos multilingües o específicos para LATAM.
- No evaluar la recuperación: Si la búsqueda vectorial no encuentra los fragmentos correctos, la respuesta será mala independientemente del LLM.
- Base de datos desactualizada: RAG es tan bueno como sus fuentes. Si no se actualiza el índice, el sistema responde con información vieja.
Preguntas Frecuentes (FAQ)
¿Cuándo usar RAG vs simplemente usar el contexto del prompt?
Si tienes mucha información (cientos de documentos, bases de datos extensas), RAG es necesario porque no cabe todo en el contexto del prompt. Si tienes pocos documentos y presupuesto para tokens, puedes incluir directamente en el prompt. La regla práctica: más de 50 páginas de contenido → RAG.
¿Cuánto cuesta implementar RAG?
El costo varía enormemente. Una implementación básica con Pinecone gratuito + OpenAI API puede costar menos de USD 50/mes para volúmenes pequeños. Implementaciones enterprise pueden llegar a miles de dólares mensuales. El costo principal suele ser la generación de embeddings y las llamadas al LLM.
¿RAG funciona bien en español?
Sí, especialmente con modelos multilingües como text-embedding-3-large de OpenAI o los modelos de Cohere que soportan español. El desafío es que la mayoría de benchmarks y tutoriales son en inglés, pero la tecnología funciona igualmente bien para español latinoamericano.
