Le mot RAG figure désormais dans toutes les présentations commerciales, et il est rarement expliqué. Trois lignes suffisent. On indexe les documents de l’entreprise. À chaque question, on retrouve les passages les plus proches. On donne ces passages au modèle de langage avec une consigne stricte : réponds uniquement à partir de ça, cite tes sources, et si la réponse n’y est pas, dis-le. Rien n’est appris, rien n’est réentraîné. Le modèle lit, répond, oublie. Pour ceux qui doivent d’abord convaincre une direction, il existe une explication sans jargon, écrite pour les dirigeants. Ici, on ouvre le capot.
Sous le capot, en cinq lignes
Extraction du texte (PDF, Word, mails archivés, parfois de l’OCR). Découpage en passages de quelques centaines de mots avec un recouvrement. Calcul d’un vecteur par passage, stockage dans une base vectorielle. Recherche hybride au moment de la question, parce qu’un vecteur capture mal une référence d’article ou un numéro de contrat : on combine la proximité sémantique et une recherche par mots-clés classique, puis un modèle de reclassement garde les cinq à dix meilleurs passages. Et le prompt final, avec la consigne de citation et de refus. Le reste est de l’ingénierie ordinaire, celle que certains ateliers, dont IAscension, livrent au forfait après un pilote sur une centaine de documents.
Des questions réelles, et ce qui se passe
Avant de tester l’outil, une question préalable : l’entreprise est-elle prête ? Un autodiagnostic en douze questions y répond en dix minutes. Ensuite viennent les questions réelles, posées à un assistant en place.
« Quelle pénalité de retard prévoit notre contrat cadre avec le transporteur ? » L’assistant retrouve la clause, cite la page du PDF signé. Ça marche, et c’est le cas typique.
« La procédure de rappel produit a-t-elle changé depuis la version 3 ? » Ça marche à moitié. Si les documents portent une date et un numéro de version dans leurs métadonnées, la réponse est propre. Sinon, l’assistant cite deux versions et vous laisse comparer.
« Combien de devis avons-nous perdus l’an dernier ? » Ça ne marche pas, et ce n’est pas un défaut : c’est une agrégation sur des centaines de documents, pas une recherche. Cette question relève d’une requête sur la base de gestion ou d’un tableau de bord.
« Quel est notre meilleur fournisseur ? » Un bon assistant répond qu’il n’a pas de document qui tranche. Un mauvais répond quand même.
Trois limites que les démonstrations ne montrent pas
L’hallucination résiduelle. Même avec des sources, le modèle peut mal lire un passage et affirmer « le préavis est de trois mois » là où le texte dit « trois mois sauf accord contraire ». Les citations rendent l’erreur détectable, pas impossible. La seule protection sérieuse est un jeu d’évaluation : trente questions réelles avec la réponse attendue, rejouées à chaque modification, avec un taux de bonnes réponses mesuré et non estimé.
Les documents obsolètes. L’index reflète le serveur de fichiers, avec ses trois versions du même contrat et ses dossiers « ancien » et « brouillon ». Sans métadonnées de date et de statut, et sans exclusion explicite de certains dossiers, l’assistant citera le brouillon avec la même assurance que la version signée. Le premier livrable d’un projet est presque toujours un tri.
Les droits d’accès. Le filtrage par droits doit se faire à la recherche, avant la génération, et non après. Sinon, la personne qui n’a pas accès aux dossiers de paie sur le serveur y accède par l’assistant. La synchronisation des droits depuis le serveur de fichiers ou l’espace collaboratif est la partie la plus fastidieuse du projet, et la plus souvent négligée.
Où vont les documents
L’index vit sur un serveur choisi par l’entreprise, chez elle ou chez un hébergeur européen. Le modèle de langage tourne soit en local, sur une machine avec un GPU, soit derrière une API professionnelle dont le contrat exclut l’entraînement. Dans ce second cas, seuls les passages retrouvés pour une question quittent le serveur, jamais le corpus entier. Chaque requête est journalisée, ce qui répond aussi à la question de l’audit.
Ce que ça coûte, et par où commencer
Un assistant de ce type se facture entre 4 900 et 12 000 € HT au forfait selon le volume, les sources à brancher et l’exigence sur les droits, plus 80 à 250 € HT par mois d’exploitation. Le pilote sur une centaine de documents, évoqué plus haut, permet de juger sur ses propres questions avant de s’engager, et c’est la seule démonstration qui vaille.
Le RAG n’est pas magique et n’est pas nouveau. C’est un moteur de recherche qui a lu les résultats à votre place, et qui vous montre où il les a lus. Tout le reste est une question de tri, de droits et de mesure.
