¿Qué es RAG?

RAG: definición e idea básica

Un gran modelo de lenguaje solo conoce lo que figuraba en sus datos de entrenamiento. Las listas de precios internas, los datos de productos actuales o sus instrucciones de trabajo no forman parte de ellos. Si aun así se le pregunta por ellos, en el peor de los casos el modelo inventa una respuesta que suena plausible.

RAG resuelve este problema combinando dos pasos: primero se busca (retrieval) y después se redacta (generation). El método se describió en 2020 en un trabajo de investigación y hoy es una vía muy extendida para conectar aplicaciones de IA con el conocimiento de la empresa. El modelo de lenguaje en sí no cambia: el conocimiento se le suministra de nuevo con cada consulta.

Así funciona la generación aumentada por recuperación

Primero se preparan los documentos: se dividen en fragmentos con sentido y se guardan como los llamados embeddings, vectores numéricos que representan el significado de un texto. Estos se almacenan en una base de datos vectorial, que puede actualizarse automáticamente cuando hay documentos nuevos o modificados. Después, con cada pregunta se sigue un proceso fijo de pocos pasos.

• La pregunta del usuario también se convierte en un vector
• La búsqueda encuentra los fragmentos de texto más adecuados por su contenido, a menudo en combinación con la búsqueda clásica por palabras clave
• Los resultados se entregan al modelo de lenguaje junto con la pregunta
• El modelo redacta una respuesta basada en esas fuentes y puede citarlas

Ventajas y límites de RAG

RAG hace que las respuestas de la IA sean más actuales, más verificables y específicas de la empresa. Los documentos nuevos están disponibles de inmediato, sin necesidad de volver a entrenar el modelo. Las referencias a las fuentes permiten a los usuarios comprobar las afirmaciones. Además, pueden tenerse en cuenta los permisos de acceso, de modo que cada persona solo obtenga respuestas de documentos que tiene permitido ver.

Sin embargo, la calidad depende por completo de los datos y de la búsqueda. Los documentos obsoletos o contradictorios generan respuestas erróneas y, si la búsqueda no encuentra el fragmento correcto, ni el mejor modelo sirve de ayuda. Los errores no pueden descartarse por completo; por eso, las pruebas con preguntas típicas forman parte de todo proyecto.

Ejemplo práctico: RAG en el servicio técnico

Un fabricante de maquinaria dispone de extensos manuales de uso e indicaciones de servicio. Un asistente basado en RAG responde a preguntas de los técnicos de servicio como «¿Qué par de apriete se aplica a esta pieza?» directamente a partir de los manuales y enlaza el pasaje correspondiente. Previamente se depura la documentación y se descartan las versiones obsoletas, para que el asistente no cite documentos desactualizados.

En lugar de hojear durante mucho tiempo, el técnico obtiene rápidamente una respuesta con su fuente. Nano Concepts diseña y desarrolla aplicaciones RAG: desde la preparación de los datos y la búsqueda vectorial hasta la integración en el sitio web, la intranet o la app. Las nuevas versiones de los manuales se incorporan automáticamente.