RAG : comment un agent trouve la bonne réponse dans vos documents

RAG signifie Retrieval-Augmented Generation : génération augmentée par la recherche. Au lieu de demander au modèle ce qu'il sait, on lui fournit les passages pertinents de vos documents et on lui demande de formuler la réponse à partir de ces passages.

Le modèle ne joue plus le rôle d'une encyclopédie. Il joue celui d'un rédacteur qui travaille sur des sources qu'on lui donne.

Vos documents sont d'abord découpés en morceaux. C'est l'étape la plus sous-estimée, et celle où se joue une grande partie de la qualité finale.

Un découpage arbitraire produit des réponses fausses. Couper tous les 500 caractères sépare une clause de contrat en deux, détache une référence de sa description, coupe un tableau au milieu. Le système retrouve ensuite un fragment incomplet et formule une réponse assurée à partir d'une information tronquée.

Le découpage doit suivre la structure réelle du document. Une clause reste une clause. Une ligne de nomenclature reste liée à son schéma. Un article de procédure reste entier.

C'est du travail d'ingénierie, pas un paramètre par défaut — et c'est ce qui différencie deux prestations qui utilisent pourtant les mêmes modèles.

Chaque morceau est transformé en embedding : une représentation numérique de son sens.

L'idée est la suivante : deux passages qui parlent de la même chose, même avec des mots différents, produisent des représentations proches. « Quel est le délai de préavis » et « la dénonciation doit intervenir trois mois avant l'échéance » se rapprochent, alors qu'ils ne partagent presque aucun mot.

C'est ce qui distingue le RAG d'une recherche par mots-clés. Une recherche classique cherche des mots. Le RAG cherche du sens. C'est aussi ce qui lui permet de retrouver un passage en anglais à partir d'une question posée en français, ou de comprendre une question écrite en darija.

Quand une question arrive, elle est transformée en embedding à son tour. Le système cherche les morceaux dont la représentation est la plus proche, et les retient.

Deux réglages comptent ici.

Le nombre de passages retenus. Trop peu, on risque de manquer l'information. Trop, on noie le modèle dans du contexte non pertinent et on dégrade la réponse.

Le seuil de proximité. Si aucun passage n'est suffisamment proche, il vaut mieux ne rien renvoyer que renvoyer le moins mauvais. C'est un des mécanismes qui permet à l'agent de dire qu'il ne sait pas.

Le modèle reçoit la question et les passages retenus, avec une consigne stricte : répondre uniquement à partir de ces passages, et indiquer si l'information n'y figure pas.

La réponse est ensuite rattachée à sa source — document et passage — pour que l'utilisateur puisse vérifier.

La mise à jour est immédiate. Quand une règle change, on met à jour le document. L'agent suit. Pas de réentraînement, pas de délai, pas de coût.

La réponse est vérifiable. La source est affichée. Sur des sujets techniques, juridiques ou financiers, c'est la condition d'usage.

Le périmètre est maîtrisé. L'agent répond sur votre matière, pas sur des connaissances générales dont vous ne contrôlez ni l'origine ni l'exactitude.

La qualité dépend entièrement de la matière. Documentation incomplète, procédures obsolètes, contradictions entre documents : l'agent reproduira ces défauts. Il ne les corrige pas, il les révèle — ce qui est déjà utile.

Le découpage doit être adapté au type de document. Un contrat, un manuel technique et une FAQ ne se découpent pas de la même façon.

Les questions qui demandent une synthèse sur beaucoup de documents sont moins bien traitées que les questions ciblées. « Que dit le contrat X sur le préavis » fonctionne mieux que « quelle est notre politique générale de résiliation ».

Vous pouvez maintenant poser les bonnes questions :

• Comment découpez-vous nos documents ?
• Que se passe-t-il si aucun passage n'est proche de la question ?
• La source est-elle affichée avec la réponse ?
• Comment mettons-nous à jour la matière quand une règle change ?

Un prestataire qui répond précisément à ces quatre questions a réfléchi à l'architecture. Un prestataire qui répond « c'est de l'IA, ça apprend » n'a pas réfléchi.

Le RAG n'est pas une magie : c'est une chaîne de traitement dont chaque maillon se règle. Le découpage et le seuil de proximité déterminent la qualité bien davantage que le choix du modèle — et ce sont des choix d'ingénierie, pas des cases à cocher.