Cómo funciona RAG, paso a paso
Un sistema RAG tiene dos fases: la preparación de los documentos, que se repite cuando estos cambian, y la consulta, que ocurre con cada pregunta.
- Fragmentación: los documentos (PDF, páginas de ayuda, fichas de producto, tickets resueltos) se dividen en fragmentos manejables, llamados chunks.
- Vectorización: cada fragmento se convierte en un embedding, una representación numérica de su significado, y se guarda en una base de datos vectorial junto con sus metadatos: origen, fecha y permisos.
- Recuperación: la pregunta del usuario también se vectoriza y se buscan los fragmentos de significado más parecido. Muchos sistemas combinan esta búsqueda semántica con búsqueda por palabras clave y un paso de reordenación.
- Generación: los fragmentos recuperados se insertan en el prompt junto con la pregunta y unas instrucciones, como «responde solo con la información proporcionada y cita la fuente». El modelo redacta la respuesta a partir de ese contexto.
Casos de uso habituales en empresas
RAG encaja cuando la respuesta correcta está escrita en algún documento y el problema es encontrarla y explicarla bien:
- Soporte al cliente con los manuales, las condiciones de servicio y las preguntas frecuentes vigentes.
- Buscador interno para que el equipo pregunte en lenguaje natural por procedimientos, políticas o documentación técnica.
- Apoyo comercial: especificaciones, compatibilidades y condiciones a partir del catálogo y las tarifas actualizadas.
- Consulta de contratos y documentación legal, con referencia a la cláusula exacta de la que sale cada respuesta.
RAG frente a fine-tuning: cuándo usar cada uno
Son dos formas distintas de adaptar un modelo y resuelven problemas distintos. RAG le da conocimiento en el momento de responder: es la opción adecuada cuando la información cambia, cuando necesitas citar fuentes o cuando cada usuario debe ver solo los documentos que sus permisos le permiten. Actualizar el sistema es tan simple como actualizar los documentos.
El fine-tuning modifica el propio modelo con ejemplos de entrenamiento. Sirve para ajustar comportamiento, formato o estilo, pero es poco eficaz para incorporar datos que cambian y no permite saber de qué documento sale una respuesta. Ambas técnicas pueden combinarse, aunque en la mayoría de proyectos RAG llega antes.
Dónde falla un sistema RAG y cómo evitarlo
La calidad de un RAG depende más de la recuperación que del modelo. Si el sistema no encuentra el fragmento correcto, el modelo responderá con información incompleta o la completará por su cuenta. Los fallos más frecuentes son documentos desactualizados o contradictorios, fragmentos mal cortados que separan una tabla de su explicación y preguntas que exigen combinar información dispersa.
RAG reduce las alucinaciones, pero no las elimina. Por eso hay que medir: preparar un conjunto de preguntas reales con sus respuestas esperadas, comprobar si el sistema recupera los fragmentos correctos y revisar las conversaciones en las que el usuario no obtuvo lo que buscaba.