RAG : faire répondre une IA à partir de vos propres documents

Le RAG IA consiste à brancher un modèle de langage sur vos propres documents : au lieu de répondre de mémoire, l’outil va d’abord chercher les passages utiles dans votre base (procédures, fiches produits, contrats types), puis rédige sa réponse à partir de ces extraits. Bien construit, il donne des réponses sourcées et à jour ; mal préparé, il récite vos documents périmés avec beaucoup d’aplomb.

Le principe du RAG IA, sans le jargon

Un assistant comme ChatGPT, Gemini ou Le Chat de Mistral ne connaît pas votre grille tarifaire, ni la procédure de retour que votre service client a modifiée en mars. Il connaît ce qu’il a vu pendant son entraînement, figé à une date donnée. Lui poser une question sur vos règles internes revient à interroger quelqu’un de cultivé qui n’a jamais mis les pieds dans l’entreprise.

Le sigle RAG vient de l’anglais retrieval-augmented generation, « génération augmentée par la recherche ». L’idée a été formalisée en 2020 par une équipe de chercheurs (Patrick Lewis et ses coauteurs, publiés à la conférence NeurIPS) : combiner la mémoire « paramétrique » d’un modèle pré-entraîné avec une mémoire « non paramétrique », en l’occurrence un index vectoriel de Wikipédia interrogé par un moteur de recherche neuronal. Leur constat : cette combinaison produit des textes plus précis et plus factuels que le modèle seul.

Transposé à une PME, cela donne un assistant interne qui, à la question « quel délai de rétractation appliquons-nous aux ventes sur salon ? », retrouve le paragraphe concerné dans vos conditions générales et le cite. Si vous découvrez ces outils, notre article sur les premiers pas avec l’IA générative en entreprise pose les bases avant d’aller plus loin.

Comment la machine retrouve le bon paragraphe

La documentation technique de Mistral AI décrit le fonctionnement en quelques étapes, que l’on retrouve chez la plupart des fournisseurs. Les comprendre aide à poser les bonnes questions à un prestataire, même si vous ne codez rien vous-même.

1. Le découpage. Chaque document est coupé en morceaux (les « chunks »). Dans l’exemple de Mistral, des tronçons de 2 048 caractères. La documentation précise que des morceaux plus petits donnent souvent une recherche plus fine, parce que les gros blocs contiennent du texte de remplissage, mais demandent plus de calcul : il faut tester.
2. La vectorisation. Chaque morceau est transformé en une suite de nombres (un « embedding ») qui représente son sens. Deux passages qui parlent de la même chose, même avec des mots différents, obtiennent des vecteurs proches.
3. Le stockage. Ces vecteurs sont rangés dans une base spécialisée, dite base vectorielle, qui sait retrouver rapidement les plus proches d’une requête.
4. La recherche. Quand un collaborateur pose une question, elle est vectorisée à son tour, et le système remonte les morceaux les plus proches. D’autres méthodes existent : filtres sur les métadonnées (date, service, type de document), recherche par mots-clés classique, ou combinaison des deux.
5. La génération. Les extraits retrouvés sont insérés dans le prompt avec la question, et le modèle rédige la réponse en s’appuyant dessus.

Cette dernière étape explique pourquoi la qualité de la consigne compte autant que la base : un prompt qui demande explicitement de répondre « uniquement à partir des extraits fournis » et de signaler l’absence d’information donne des résultats plus sobres. Les techniques décrites dans notre guide pour écrire des consignes qui produisent des réponses exploitables s’appliquent directement.

Tu réponds aux questions des conseillers du service client.
Utilise uniquement les extraits ci-dessous.
Pour chaque affirmation, indique le titre du document et sa date.
Si les extraits ne permettent pas de répondre, écris :
"Je ne trouve pas cette information dans la documentation."

Extraits : [...]
Question : [...]

RAG, réentraînement ou simple pièce jointe : que choisir ?

Tout le monde n’a pas besoin d’un RAG. La plupart des assistants grand public permettent déjà de déposer un fichier dans une conversation et de l’interroger. Pour un contrat de quinze pages lu une fois, c’est suffisant. Le RAG devient pertinent quand le volume dépasse ce qu’on peut joindre à la main, quand plusieurs personnes posent les mêmes questions, ou quand les documents changent souvent.

Le réentraînement passe souvent pour la solution « sérieuse ». Pour des faits qui bougent (tarifs, procédures), c’est l’inverse : avec un RAG, on remplace le fichier et la réponse suivante en tient compte, sans nouvelle phase d’apprentissage.

Préparer ses documents : là où se joue la qualité

Les projets qui déçoivent ont presque toujours le même point de départ : on a versé le contenu d’un serveur de fichiers entier dans l’outil. Résultat, la base contient trois versions de la même procédure, des brouillons jamais validés et des tableaux scannés illisibles. Le moteur de recherche ne sait pas lequel fait foi, et le modèle non plus.

Prenons le cas type d’un cabinet comptable de douze personnes qui veut un assistant pour répondre aux questions récurrentes des collaborateurs sur les procédures internes. Le travail préalable ressemble davantage à de l’archivage qu’à de l’informatique :

• faire l’inventaire des documents réellement utilisés, et désigner pour chacun un responsable ;
• supprimer ou archiver hors de la base les versions obsolètes ;
• convertir les PDF scannés en texte, vérifier les tableaux, qui se découpent mal ;
• ajouter des métadonnées simples : date de validité, service concerné, niveau de confidentialité ;
• donner à chaque document un titre explicite, que la réponse pourra citer.

Une fois l’outil en service, prévoyez une règle de mise à jour (qui ajoute, qui retire, à quelle fréquence), sinon la base se dégrade en quelques mois.

Droits d’accès et sécurité : le point qu’on découvre trop tard

Un moteur de recherche interne qui n’applique pas les droits d’accès est une fuite de données en puissance. Si la base contient les fiches de paie, les comptes rendus du comité de direction et les procédures de l’accueil, rien n’empêche par défaut un stagiaire de poser une question dont la réponse s’appuiera sur les premières.

L’ANSSI aborde ce point dans ses recommandations de sécurité pour un système d’IA générative publiées en avril 2024. Sa recommandation R8 demande de prendre en compte le « besoin d’en connaître » dès la conception. Elle distingue les données d’entraînement, sur lesquelles aucune gestion de droits n’est possible, et les données additionnelles utilisées en production, pour lesquelles la gestion des droits d’accès est possible mais dépend de ce que permettent les outils de stockage. Autrement dit : ne mettez jamais un document sensible dans les données d’entraînement, et vérifiez que votre base vectorielle sait filtrer selon le profil de la personne qui pose la question.

L’OWASP, fondation de référence en sécurité applicative, a consacré en 2025 une entrée de son classement des risques des modèles de langage aux faiblesses des vecteurs et embeddings. Elle y décrit les accès non autorisés, les fuites d’un groupe d’utilisateurs à l’autre quand ils partagent la même base, l’empoisonnement des données par l’ajout de documents piégés, et même la possibilité de reconstituer une partie du texte source à partir des vecteurs. Ses parades : un stockage qui respecte les permissions, une séparation logique stricte, la validation des sources ajoutées et une journalisation des recherches.

Reste la question des données personnelles. Si la base contient des informations sur des clients ou des salariés, le traitement relève du RGPD. Dans ses questions-réponses de juillet 2024 sur l’IA générative, la CNIL recommande de privilégier un déploiement sur site pour les données sensibles, d’interroger le fournisseur sur sa conformité et de vérifier, pour un service en ligne, si les données transmises peuvent être réutilisées par celui-ci.

Ce que le RAG ne règle pas

Le RAG réduit les inventions, il ne les supprime pas. Des chercheurs de Stanford l’ont mesuré en 2024 sur des outils de recherche juridique professionnels qui reposent sur ce principe et dont les éditeurs promettaient des réponses sans erreur. Leur évaluation, préenregistrée, conclut que ces outils produisent des réponses fausses ou mal sourcées dans 17 % à 33 % des cas : moins qu’un assistant généraliste, mais loin de zéro.

Les causes sont connues. La recherche peut remonter le mauvais extrait (une ancienne version, un document voisin). Le modèle peut mal lire un passage correct, mélanger deux extraits, ou compléter un vide avec une réponse plausible. Il peut aussi citer une source réelle pour une affirmation qu’elle ne contient pas. Nous détaillons ces mécanismes dans notre dossier sur l’intelligence artificielle appliquée au travail.

Trois réglages limitent la casse :

• afficher systématiquement les extraits utilisés à côté de la réponse, avec un lien vers le document ;
• autoriser explicitement l’outil à répondre « je ne sais pas » ;
• réserver les sujets à enjeu (juridique, financier, santé, RH) à un usage où un humain valide avant toute décision.

Par où commencer, concrètement

Pour un premier projet, mieux vaut un périmètre étroit et mesurable : la documentation du service client, le règlement intérieur et les procédures RH non nominatives, ou le catalogue technique d’un fabricant. Testez quelques semaines avec un petit groupe, comparez les réponses à votre jeu de trente questions et notez la cause de chaque échec (document absent, mauvais extrait, mauvaise lecture).

Côté outils, trois familles coexistent : dépôt de fichiers dans les assistants du marché (NotebookLM de Google, par exemple), briques intégrées aux suites bureautiques, solutions sur mesure assemblées par un prestataire. Les questions à poser sont les mêmes partout : où sont stockés les documents et les vecteurs, les droits d’accès sont-ils respectés, les sources sont-elles affichées, les données sont-elles réutilisées par le fournisseur, et comment supprime-t-on un document de la base ? D’autres ressources sont regroupées dans notre rubrique intelligence artificielle, et les termes techniques sont définis dans le lexique.

Questions fréquentes

Qu’est-ce que le RAG en intelligence artificielle ?

Le RAG, pour retrieval-augmented generation, consiste à faire chercher par un système les passages pertinents dans une base documentaire, puis à les transmettre au modèle de langage avec la question. Le modèle rédige sa réponse à partir de ces extraits plutôt que de sa seule mémoire, et peut indiquer d’où vient l’information.

Le RAG supprime-t-il les erreurs de l’IA ?

Non. Il les réduit quand les documents sont bons et bien découpés, mais le modèle peut encore mal lire un extrait, en mélanger deux ou combler un vide. Une étude de chercheurs de Stanford publiée en 2024 a mesuré entre 17 % et 33 % de réponses erronées sur des outils juridiques fondés sur ce principe.

Quels documents mettre dans un RAG en premier ?

Ceux qui sont à jour, validés et souvent consultés : procédures internes, fiches produits, conditions générales, FAQ du service client. Évitez au départ les dossiers contenant des données personnelles ou des informations réservées à quelques personnes, tant que la gestion des droits d’accès n’est pas maîtrisée.

Un RAG pose-t-il des problèmes de confidentialité ?

Oui, si l’outil peut remonter un document à quelqu’un qui n’aurait pas dû le lire. L’ANSSI recommande de traiter le besoin d’en connaître dès la conception, et l’OWASP signale les fuites entre groupes d’utilisateurs partageant une même base. Il faut aussi vérifier ce que le fournisseur fait des données transmises.

Sources

1. Lewis P. et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS, 2020. lien
2. Mistral AI, documentation, RAG Quickstart. lien
3. ANSSI, Recommandations de sécurité pour un système d’IA générative (ANSSI-PA-102), 2024. lien
4. OWASP GenAI Security Project, LLM08:2025 Vector and Embedding Weaknesses, 2025. lien
5. Magesh V. et al. (Stanford), Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, 2024. lien
6. CNIL, Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative, 2024. lien

Innomédia · Intelligence artificielle · Une erreur, une précision ? Écrivez à la rédaction.