IA avancée, séance 5 : brancher un modèle sur vos documents

La génération augmentée par récupération, et ses limites

Pourquoi cette séance existe

Vous avez tous posé une question à un modèle de langage et reçu une réponse fausse sur votre entreprise. C’est normal : il ne la connaît pas. Il n’a jamais lu vos fiches produit, vos comptes rendus de réunion, votre grille tarifaire.

La réponse technique à ce problème s’appelle la génération augmentée par récupération. Le sigle anglais, RAG, est celui que vous verrez partout : retrieval-augmented generation. C’est aujourd’hui la façon la plus répandue de faire travailler un modèle sur des données qu’il n’a pas apprises, et elle est à portée d’un manager marketing sans une ligne de code.

Cette séance expose le principe. La suivante, le 19 octobre, le met en pratique sur vos documents. Cet ordre est délibéré : brancher un modèle sur des documents mal choisis produit des réponses fausses avec une assurance nouvelle, et c’est pire que pas de réponse du tout.

Ce que vous saurez à la fin de cette séance

• Expliquer en trois phrases ce que fait la génération augmentée par récupération, sans jargon
• Distinguer ce qu’elle résout de ce qu’elle ne résout pas
• Décider quels documents d’une entreprise peuvent y entrer, et lesquels ne le doivent pas
• Formuler la question de contrôle qui révèle une réponse mal fondée

1. Le problème, et les trois réponses possibles

1.1 Ce qu’un modèle sait, et depuis quand

Un modèle de langage a été entraîné sur un corpus arrêté à une date. Cette date s’appelle la coupure de connaissances. Tout ce qui existe après lui est inconnu, et tout ce qui n’a jamais été publié lui est inconnu depuis toujours.

Vos documents internes sont dans le second cas. Ils ne sont pas récents ou anciens : ils sont absents. Aucune mise à jour du modèle ne les fera apparaître.

Le piège tient à ceci : interrogé sur ce qu’il ne connaît pas, un modèle ne répond pas « je ne sais pas ». Il produit la suite la plus probable, c’est-à-dire une réponse plausible. Sur votre grille tarifaire, une réponse plausible est une réponse fausse.

1.2 Trois réponses, dont deux ne tiennent pas

Réentraîner le modèle sur vos données. Techniquement possible, et hors de portée : le coût se compte en dizaines de milliers d’euros, l’opération se refait à chaque changement de vos documents, et vous confiez l’intégralité de votre patrimoine informationnel à un prestataire. Ce n’est pas la voie d’une direction marketing.

Tout coller dans la conversation. C’est ce que font la plupart des gens : ouvrir le document, copier, coller, poser la question. Cela marche pour trois pages. Cela ne marche pas pour deux cents, parce que la fenêtre de contexte a une limite, parce que le coût croît avec le volume, et parce qu’un modèle noyé sous du texte perd ce qui compte au milieu, effet lui aussi mesuré et publié².

Brancher le modèle sur les documents, et ne lui donner que le passage utile. C’est la génération augmentée par récupération, décrite sous ce nom dans un article de 2020 auquel toute la filière se réfère encore¹. Vous ne changez pas le modèle : vous changez ce qu’il a sous les yeux au moment de répondre.

À retenir. La formule tient en une phrase : on ne rend pas le modèle plus savant, on lui met le bon document sous les yeux au bon moment.

1.3 Ce que cela change dans une conversation

L’écran ci-dessous montre le geste dans sa forme la plus simple : deux documents déposés, une question posée, une réponse qui s’appuie sur eux. Ce n’est pas de la magie et ce n’est pas du web : le modèle n’a rien cherché en ligne, il a lu ce qu’on lui a donné.

2. Comment cela fonctionne, sans mathématiques

Vous n’aurez jamais à programmer cela. Vous aurez en revanche à décider si un prestataire qui vous le vend a bien travaillé, et cela suppose de savoir ce qui se passe.

2.1 Le découpage, qui commande tout le reste

Vos documents sont d’abord découpés en morceaux de quelques centaines de mots. C’est l’étape la plus déterminante et la plus négligée.

Un découpage qui coupe au milieu d’un tableau de tarifs produit deux morceaux dont aucun n’est exploitable : l’un porte les intitulés sans les prix, l’autre les prix sans les intitulés. Interrogé sur un tarif, le système retrouvera l’un des deux et répondra faux.

C’est pourquoi un document bien structuré, avec des titres et des sections courtes, se branche infiniment mieux qu’un document fleuve. La qualité de vos documents n’est pas un détail esthétique : elle est la matière première.

2.2 L’indexation, ou comment retrouver sans mot-clé

Chaque morceau est ensuite transformé en une suite de nombres qui représente son sens. Deux passages qui parlent de la même chose avec des mots différents obtiennent des suites voisines.

C’est ce qui distingue cette recherche d’un Ctrl+F. Une question sur « nos délais de livraison » retrouvera un passage qui dit « expédition sous 48 heures », alors qu’aucun mot n’est commun aux deux.

2.3 La récupération, et son réglage silencieux

À chaque question, le système retrouve les morceaux les plus proches. Combien ? Trois, cinq, dix : c’est un réglage, et il a des conséquences³.

Trop peu, et la réponse manque un élément décisif qui se trouvait dans le sixième passage. Trop, et le modèle se noie de nouveau, ce qu’on cherchait précisément à éviter.

2.4 La génération, enfin

Les passages retrouvés sont ajoutés à votre question, sans que vous les voyiez, et le modèle rédige à partir de cet ensemble. Les bons outils affichent alors les sources : quels passages ont servi. C’est le seul moyen de vérifier, et un outil qui ne le propose pas doit être écarté.

La méthode. Quatre temps, dans cet ordre : découper, indexer, retrouver, rédiger. Quand une réponse est fausse, la panne est presque toujours au premier ou au troisième, jamais au dernier. On accuse le modèle ; c’est le découpage qui était mauvais.

Atelier 1, quels documents brancher

En binôme, sur votre entreprise d’accueil.

Vous montez un assistant interne qui répondra aux questions des commerciaux. Vous devez décider ce qui entre dans sa base documentaire.

1. Listez six documents que vous y mettriez, en une ligne chacun.
2. Pour chacun, indiquez qui le tient à jour, et à quelle fréquence.
3. Listez deux documents que vous n’y mettriez surtout pas, et dites pourquoi.
4. Repérez, dans votre liste de six, celui qui poserait le plus de problèmes de découpage. Justifiez en une phrase.

Rendu attendu : une page, prête à être lue à voix haute en deux minutes.

3. Ce que cela ne résout pas

C’est la partie qui compte le plus, et celle qu’aucune démonstration commerciale ne vous fera.

3.1 Un document faux reste faux

Le système ne vérifie rien. Si votre grille tarifaire de 2024 traîne encore dans le dossier partagé, il la retrouvera et la citera avec le même aplomb que la version courante.

La conséquence est organisationnelle, pas technique : brancher un assistant sur des documents oblige à tenir ces documents à jour. Beaucoup d’entreprises découvrent l’état réel de leur documentation le jour où elles la branchent.

3.2 Citer une source n’est pas être exact

Un système qui affiche ses sources inspire confiance, et cette confiance est en partie méritée. Elle ne suffit pas.

Le modèle peut retrouver le bon passage et en tirer une conclusion fausse : additionner deux lignes qui ne s’additionnent pas, transposer une condition qui ne s’applique qu’à un cas, généraliser un exemple. La source affichée est alors exacte, et la réponse est fausse. Elle est même plus dangereuse qu’une réponse sans source, parce qu’elle a l’air vérifiée.

3.3 La confidentialité ne disparaît pas dans la technique

Déposer un document dans un outil, c’est le transmettre à un prestataire. La question à poser est toujours la même, et elle est contractuelle : où sont stockés ces documents, pour combien de temps, et servent-ils à entraîner le modèle ?

Trois règles de terrain, qui suffisent dans la plupart des cas :

• Aucune donnée personnelle de client dans un outil grand public.
• Aucun document sous contrat de confidentialité sans avoir vérifié ce que dit ce contrat.
• Aucun document dont la fuite ferait perdre un marché.

3.4 Ce n’est pas une base de données

Un système de ce genre retrouve des passages qui ressemblent à votre question. Il ne compte pas, il ne trie pas, il ne fait pas de somme.

« Combien de clients avons-nous perdus l’an dernier ? » n’est pas une question pour lui, sauf si un document porte déjà la réponse écrite en toutes lettres. Il vous répondra quand même, à partir des passages qui parlent de clients perdus, et le chiffre sera une invention vraisemblable.

Le piège. La question à poser à tout prestataire, et elle est redoutable : « montrez-moi une réponse fausse produite par votre système, et expliquez-moi pourquoi elle l’était. » Un prestataire sérieux en a une sous la main. Un vendeur vous dira que cela n’arrive pas.

Atelier 2, la question de contrôle

Individuellement, huit minutes d’écriture, sept de mise en commun.

Reprenez l’assistant interne de l’atelier 1.

1. Écrivez une question dont vous connaissez la réponse exacte, et qui exige de croiser deux documents de votre liste.
2. Écrivez la réponse attendue, en deux lignes.
3. Dites ce que vous concluriez si le système répondait à côté : quelle étape des quatre soupçonneriez-vous en premier, et pourquoi ?

C’est le test que vous ferez réellement le 19 octobre, sur un vrai système.

4. Synthèse et suite

La génération augmentée par récupération n’est pas une intelligence supplémentaire. C’est une mécanique de documentation, et son résultat vaut exactement ce que valent les documents qu’on y met.

Pour la séance suivante, apportez trois documents réels de votre entreprise d’accueil, non confidentiels, au format PDF ou Word. Nous les brancherons pour de bon.

Sources

Notes

• Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin et coll., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », 2020, arxiv.org/abs/2005.11401. C’est l’article qui nomme et décrit la méthode, présentée à NeurIPS 2020. Vérifié le 14 août 2026. Revenir au texte
• Nelson F. Liu, Kevin Lin, John Hewitt, Ashwin Paranjape, Michele Bevilacqua, Fabio Petroni et Percy Liang, « Lost in the Middle: How Language Models Use Long Contexts », 2023, arxiv.org/abs/2307.03172. La performance est la plus haute quand l’information utile est au début ou à la fin du contexte, et se dégrade nettement au milieu d’un contexte long. Vérifié le 14 août 2026. Revenir au texte
• Les fonctions d’un outil de génération augmentée, ses limites de volume et ses réglages de récupération se relèvent dans la documentation de ce produit, à la date de la séance. Aucun nom d’extension ni aucun tarif n’est reproduit ici : ils changent plus vite que ce cours. Revenir au texte