RAG (Retrieval-Augmented Generation)

Technique combinant la recherche d'informations dans une base de connaissances avec la génération de réponses par un LLM.

retrieval

Technique combinant la recherche d'informations dans une base de connaissances avec la génération de réponses par un LLM.

Définition détaillée

Le RAG (Retrieval-Augmented Generation) est une architecture qui enrichit les capacités d'un LLM en lui fournissant des informations contextuelles issues d'une base de connaissances externe. Le processus se déroule en deux étapes : (1) une requête est utilisée pour rechercher les documents les plus pertinents dans une base vectorielle via des embeddings, (2) ces documents sont injectés dans le prompt du LLM qui génère une réponse contextualisée. Le RAG résout le problème des connaissances obsolètes ou absentes des LLM, et permet de citer les sources.

Cas d'usage

Chatbot documentaire RH : les collaborateurs interrogent leur politique interne en langage naturel. Le RAG retrouve les passages pertinents dans la base documentaire et le LLM génère une réponse précise et sourcée.

Questions fréquentes

Quelle est la différence entre RAG et fine-tuning ?

Le RAG ajoute du contexte dynamique sans modifier le modèle, idéal pour des connaissances mouvantes. Le fine-tuning adapte en profondeur le modèle à un domaine, mieux pour un style ou un ton spécifique.

Le RAG est-il compatible avec la confidentialité des données ?

Oui, le RAG peut être déployé entièrement en local avec un LLM open source et une base vectorielle privée, garantissant qu'aucune donnée ne quitte votre infrastructure.

v1.6preprod