RAG (generación aumentada por recuperación)

RAG existe para resolver un problema: a un modelo de lenguaje preguntado sobre tu negocio va a responder igual, desde conocimiento genérico, y suena exactamente igual de seguro cuando se equivoca. RAG inserta un paso de búsqueda antes de la generación, para que el modelo escriba a partir de pasajes salidos de tu propio contenido.

En la práctica es un pipeline de indexación más una búsqueda. Tus fuentes se parten en fragmentos, se convierten en vectores y se almacenan; al momento de la pregunta se recuperan los fragmentos más cercanos y se entregan al modelo junto con la pregunta.

La calidad de la respuesta pasa a depender menos del modelo y más de la recuperación. Si el pasaje correcto nunca vuelve de la búsqueda, ningún modelo lo recupera: por eso el estado de tu base de conocimiento importa más que qué modelo hay detrás.