Faites le test. Posez à une IA une question sur l’histoire de Rome : réponse brillante. Posez-lui une question sur votre procédure de remboursement interne : elle invente, poliment. Et c’est normal. Elle n’a jamais lu vos documents. Ils sont privés, récents, ou les deux.
Alors, comment on lui donne nos documents ? La solution s’appelle RAG (Retrieval-Augmented Generation), et elle repose sur une idée toute simple : les embeddings, ou comment transformer du texte en points sur une carte. Deux mots barbares, une mécanique limpide. Si vous avez lu c’est quoi un LLM et l’article sur les tokens, vous avez déjà tout ce qu’il faut. On démonte ensemble. Vous allez voir : c’est pas sorcier.
Le problème : un expert cultivé qui n’a pas lu vos dossiers
Un LLM sait ce qu’il a vu à l’entraînement : beaucoup de choses, jusqu’à une certaine date, et rien de vos données privées. Deux fausses bonnes idées pour combler le trou :
Fausse solution 1 : tout coller dans le prompt. Vos 400 pages de documentation dans chaque message ? C’est comme apporter tout le classeur du chantier pour répondre à une question sur la plomberie. Rappelez-vous l’article sur les tokens : tout ce que vous envoyez se paie à chaque tour, le contexte a un plafond, et un modèle noyé sous 400 pages répond moins bien, pas mieux. La bonne taille de contexte, c’est la plus petite qui fait le travail.
Fausse solution 2 : réentraîner le modèle (fine-tuning). Coûteux, lent, et surtout figé : votre documentation change demain, et votre modèle sur-mesure est déjà périmé. Le fine-tuning apprend un style ou un comportement, pas des connaissances fraîches.
La vraie solution tient en une phrase : ne donnez au modèle que les trois pages pertinentes, au moment où il en a besoin. Encore faut-il savoir trouver ces trois pages. C’est là que les embeddings entrent en scène.
L’embedding : le texte devient un point sur une carte
Un embedding, c’est une transformation : on donne un texte à un modèle spécialisé, il ressort une liste de nombres (un vecteur, souvent long de plusieurs centaines de nombres). Vous pouvez voir ces nombres comme des coordonnées sur une carte géante des idées.
Et voici la propriété magique : deux textes proches par le sens atterrissent à des coordonnées proches.
- « chaton » se retrouve tout près de « chat », pas loin de « vétérinaire »…
- …et très loin de « facture impayée ».
- Mieux : « congés payés » et « vacances » sont voisins sans partager un seul mot.
Vous voyez l’idée ? C’est ça, le saut de qualité par rapport au bon vieux Ctrl+F : la recherche par mot-clé trouve les mots, l’embedding trouve le sens. Quelqu’un cherche « télétravail » ? Le paragraphe qui parle de « travail à distance » remonte quand même.
La base vectorielle : la bibliothèque rangée par sens
Une fois vos documents transformés en points, il faut les stocker et pouvoir demander : « donne-moi les points les plus proches de celui-ci ». C’est le travail d’une base vectorielle : une bibliothèque rangée non pas par ordre alphabétique, mais par proximité d’idées, où les rayonnages regroupent ce qui parle de la même chose.
Détail qui compte : on n’indexe pas des documents entiers, mais des morceaux (chunks) de quelques paragraphes. Trop gros, le morceau noie l’information dans du bruit ; trop petit, il perd son contexte. Ce découpage, le chunking, est un réglage discret mais décisif de tout système RAG. Un peu comme un métré : la précision du résultat dépend de la façon dont on a découpé le travail au départ.
Le RAG assemblé : le bibliothécaire et l’expert
Tout est en place. Voici le film complet, à chaque question :
- La question arrive : « quel est le délai de remboursement des frais de mission ? »
- On la transforme en point sur la même carte (embedding de la question).
- Retrieval : la base vectorielle renvoie les 3 à 5 morceaux les plus proches : la section « frais professionnels » de votre règlement, une FAQ RH…
- Augmentation : ces morceaux sont collés dans le contexte, avec la question et une consigne : « réponds à partir de ces extraits, cite tes sources ».
- Generation : le modèle rédige, ancré dans vos documents.
L’image à retenir : le modèle est un expert brillant qui n’a pas lu vos dossiers ; le RAG lui adjoint un bibliothécaire qui, avant chaque réponse, pose les trois bons documents sur son bureau. L’expert ne devient pas plus savant ; il devient documenté.
(Pour les curieux qui construisent des agents : ce rôle de bibliothécaire a un nom, les context providers. On le détaille sur notre blog dev Sense of [Blog].)
Le mot d’honnêteté : ce que le RAG ne règle pas
- La réponse vaut ce que la recherche a trouvé. Si les bons passages ne remontent pas (mauvais découpage, question ambiguë, document absent), le modèle répond à côté, avec le même aplomb. Un système RAG s’évalue et se règle : c’est de la plomberie, pas de la magie.
- L’hallucination ne disparaît pas. Elle recule fortement (le modèle a les faits sous les yeux), mais il peut encore broder entre les extraits. Exigez les citations : une réponse qui pointe vers ses sources se vérifie en un clic. (Pourquoi le modèle brode-t-il, au fond ? On a consacré un article entier à cette question.)
- La fraîcheur se gère. Nouveau document = ré-indexation. C’est un pipeline à entretenir, pas un coup unique.
En résumé
| Notion | L’image | Ce qu’il faut retenir |
|---|---|---|
| Embedding | des coordonnées sur la carte des idées | proche en sens = proche sur la carte, même sans mots communs |
| Base vectorielle | la bibliothèque rangée par sens | retrouve les morceaux les plus proches d’une question |
| Chunking | découper les livres en passages | trop gros = bruit, trop petit = hors contexte |
| RAG | le bibliothécaire de l’expert | les 3 bons extraits posés sur le bureau, à chaque question |
- Ni tout-dans-le-prompt (cher, plafonné), ni fine-tuning (figé) : la bonne information, au bon moment, en petite quantité.
- La qualité d’un RAG se joue dans la recherche (embeddings, découpage) plus que dans le modèle.
- Exigez des citations : le RAG documente l’expert, il ne le rend pas infaillible.
La prochaine fois qu’on vous dira « on a branché l’IA sur nos documents », vous saurez exactement ce qui tourne derrière : une carte, un bibliothécaire, trois extraits sur un bureau. Si j’ai pu comprendre ça, vous le pouvez aussi. Vous voyez : c’est pas sorcier.
