En bref. Un chatbot RAG ne « connaît » rien : à chaque question, il va chercher les bons passages dans vos documents, puis les recopie dans le prompt du modèle. Tout se joue donc dans la récupération, pas dans le modèle. Conséquence économique que personne ne dit : indexer 500 pages coûte moins d’un centime, mais renvoyer les passages retrouvés à chaque question coûte de 0,08 à 0,77 centime par réponse selon le modèle. Et juridiquement, la CNIL est claire : la base que vous branchez, c’est vous le responsable.
Le mot RAG est partout depuis deux ans, et la plupart des pages qui l’expliquent s’arrêtent au schéma en trois cases. Vous en ressortez en sachant que ça veut dire Retrieval-Augmented Generation, sans savoir combien ça coûte, où ça casse, ni ce que vous avez le droit d’y verser.
Cet article prend le problème par l’autre bout. Il montre le pipeline complet, il chiffre chaque poste avec les tarifs publics relevés le 5 août 2026, il donne la source primaire française sur le sujet (la CNIL), et il embarque un testeur de découpage qui vous fait voir, en direct, l’erreur qui produit le plus de mauvaises réponses en production.
Un chatbot RAG, c’est quoi exactement
La CNIL en donne une formulation officielle dans ses questions-réponses sur l’IA générative du 18 juillet 2024 : « La génération augmentée de récupération (Retrieval Augmented Generation ou RAG) consiste à intégrer un mécanisme de recherche d’informations dans une base de données vectorisée (ou embedding). Elle permet de produire des réponses enrichies par des données externes, potentiellement plus spécifiques et plus faciles à actualiser que le modèle lui-même. »
Traduit en langage de tous les jours : le modèle de langage ne mémorise pas vos tarifs, vos procédures ou votre politique de retour. À chaque question, un moteur de recherche va piocher les trois ou cinq passages les plus proches dans vos documents, et les colle dans le prompt juste avant votre question. Le modèle répond à partir de ce qu’il vient de lire, pas à partir de ce qu’il a appris.
Le terme vient d’un article de recherche de Meta AI, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publié par Patrick Lewis et onze coauteurs, déposé sur arXiv le 22 mai 2020 (référence 2005.11401) et présenté à NeurIPS la même année. Six ans plus tard, c’est devenu le mode de fonctionnement par défaut de tous les chatbots d’entreprise sérieux.
Un chatbot RAG, c’est un moteur de recherche interne avec un rédacteur derrière. Si la recherche rate, le rédacteur écrit une jolie réponse fausse. C’est pour ça que 90 % du travail est dans la recherche, et pas dans le choix du modèle.
Les six étapes du pipeline, et ce que vous décidez à chacune
Chaque étape porte un réglage que quelqu’un doit choisir. Sur une plateforme no-code, ces réglages sont pris par défaut pour vous. Si vous montez le pipeline vous-même, ils sont tous à votre charge, y compris ceux dont vous n’aviez pas conscience.
| Étape | Ce qui se passe | Le réglage qui compte | Ce qui casse si vous vous trompez |
|---|---|---|---|
| 1. Ingestion | Vos pages, PDF, fichiers et FAQ sont récupérés et convertis en texte | Ce que vous versez, et à quelle fréquence vous rafraîchissez | Le bot cite une procédure abrogée il y a six mois |
| 2. Découpage | Le texte est coupé en morceaux de taille fixe (les chunks) | Taille du morceau et chevauchement entre deux morceaux | La réponse est coupée en deux, aucun morceau ne la contient |
| 3. Vectorisation | Chaque morceau devient une liste de nombres (l’embedding) | Le modèle d’embedding, et sa langue de travail | Un modèle anglophone rate les synonymes français |
| 4. Récupération | La question est vectorisée à son tour, on cherche les morceaux les plus proches | Le nombre de morceaux rapportés, et le seuil de similarité | Trop peu : réponse incomplète. Trop : le modèle se noie |
| 5. Génération | Les morceaux et la question partent au modèle avec des consignes | Les consignes, et l’ordre de priorité entre sources | Le modèle complète les trous avec ses souvenirs d’entraînement |
| 6. Garde-fous | On vérifie la réponse avant de l’afficher | Le seuil en dessous duquel le bot dit qu’il ne sait pas | Le bot répond quand même, avec assurance, à côté |
Retenez l’ordre : une erreur à l’étape 2 ne se rattrape jamais aux étapes 4, 5 ou 6. Si l’information a été coupée en deux au découpage, aucun réglage en aval ne la reconstituera. C’est ce que le testeur ci-dessous rend visible.
Le découpage : là où se décident la plupart des mauvaises réponses
Le découpage est l’étape la plus mécanique du pipeline, et de très loin la plus sous-estimée. Le principe de base est brutal : on coupe le texte tous les N caractères, avec éventuellement un chevauchement pour ne pas perdre ce qui se trouve à la frontière. C’est ce que font les découpeurs les plus répandus, avec deux réglages nommés chunk size et chunk overlap.
Deux forces s’opposent. Des morceaux courts sont précis et bon marché : vous renvoyez peu de texte au modèle à chaque question. Mais ils coupent les réponses en deux. Des morceaux longs ne coupent rien, mais vous facturent quatre fois plus cher à chaque question, et diluent l’information utile dans du bruit.
Le testeur ci-dessous applique exactement cet algorithme à un vrai document de politique commerciale. Changez la taille, le chevauchement et la question posée, et regardez si la réponse survit au découpage.
Testeur de découpage : votre réponse survit-elle au chunking ?
Le document ci-dessous fait office de base de connaissances. Choisissez un réglage et une question, puis regardez les morceaux produits.
Taille du morceau
Chevauchement entre deux morceaux
La question posée par le client
La réponse tient ENTIÈRE dans le morceau 2 : le bot peut la citer telle quelle.
Ce réglage produit 3 morceaux. Sur une vraie base documentaire, avec 3 morceaux rapportés par question, vous renvoyez 720 caractères au modèle à chaque réponse, soit environ 180 tokens.
Trois enseignements sortent de ce petit outil, et ils valent pour n’importe quelle base documentaire.
- Le chevauchement ne garantit rien. Il déplace les coupures, il ne les supprime pas. Sur les 27 combinaisons de ce testeur, 4 perdent la réponse, et la question du remboursement se perd à 240 caractères avec 15 % de chevauchement alors qu’elle passait sans chevauchement.
- Les gros morceaux ne perdent jamais la réponse, mais ils coûtent cher. Passer de 120 à 480 caractères multiplie par quatre le texte renvoyé au modèle à chaque question, donc la facture.
- Un découpage à taille fixe coupe au milieu des mots. Les découpeurs sérieux essaient d’abord des séparateurs (paragraphe, phrase, ponctuation) et ne tombent sur la coupe brutale qu’en dernier recours. Si votre outil ne le fait pas, faites-le vous-même en structurant vos documents en blocs courts et autonomes.
La meilleure optimisation de découpage n’est pas un réglage, c’est une réécriture. Une FAQ où chaque réponse tient en un paragraphe autonome de 300 à 600 caractères se découpe toute seule, quel que soit l’outil. Nous détaillons cette préparation dans notre guide sur la façon de former un chatbot depuis ses propres données.
Ce que ça coûte vraiment : l’indexation est gratuite, c’est la question qui coûte
C’est le point le plus contre-intuitif du sujet, et le plus absent des pages qui se disputent cette requête. Tout le monde imagine que le coût d’un chatbot RAG est dans la construction de la base. C’est faux, et d’un ordre de grandeur.
Faisons le calcul avec les tarifs publics relevés le 5 août 2026 sur la page de tarification d’OpenAI. Prenons une base de 500 pages de 600 mots, soit environ 400 000 tokens à indexer.
| Poste | Volume | Prix unitaire public | Ce que vous payez |
|---|---|---|---|
| Indexer 500 pages | 400 000 tokens | 0,02 $ / million (text-embedding-3-small) | 0,008 $, soit moins d’un centime |
| Réindexer une page modifiée | 800 tokens | 0,02 $ / million | 0,000016 $, autant dire rien |
| Vectoriser la question | 30 tokens | 0,02 $ / million | Négligeable |
| Stocker les vecteurs | Quelques milliers de vecteurs | Palier gratuit Qdrant Cloud : 0,5 vCPU, 1 Go de RAM, 4 Go de disque | 0 € pour un prototype, à l’usage ensuite |
| Générer une réponse | 2 330 tokens en entrée, 250 en sortie | 0,20 $ / 1,20 $ par million (gpt-5.6-luna) | 0,08 centime par réponse |
| La même, sur un modèle plus puissant | Idem | 2 $ / 12 $ par million (gpt-5.6-terra) | 0,77 centime par réponse |
Autrement dit : la base ne coûte rien à construire, elle coûte à chaque fois qu’on la lit. Le poste de dépense d’un chatbot RAG, ce sont les 2 330 tokens d’entrée renvoyés à chaque question : les consignes système, les morceaux retrouvés, l’historique de la conversation. C’est exactement ce que le testeur ci-dessus vous fait mesurer quand vous changez la taille des morceaux.
Deux leviers réduisent cette facture sans dégrader les réponses. Le premier est la mise en cache du prompt, facturée bien moins cher en lecture par la plupart des fournisseurs, que nous détaillons dans notre article sur la facture d’un chatbot Claude. Le second est de rapporter trois morceaux bien choisis plutôt que huit morceaux moyens.
Ces montants sont des coûts d’API brute, relevés le 5 août 2026 et susceptibles de changer sans préavis. Ils ne comprennent ni l’hébergement, ni la base vectorielle en production, ni les connecteurs vers vos canaux, ni le temps humain de préparation des documents, qui est en général le poste le plus lourd. Un chatbot RAG facturé « quelques euros par mois » sur le papier coûte plusieurs jours-homme au démarrage.
Trois façons de monter un chatbot RAG
La question n’est pas de savoir laquelle est la meilleure, mais laquelle correspond à ce que vous avez déjà : une équipe technique, un budget, ou ni l’un ni l’autre. Nous avons détaillé ce raisonnement pour les chatbots en général dans notre guide sur les trois voies pour développer un chatbot ; voici comment il se décline sur le RAG.
Tout coder
Vous avez des développeurs
Vous assemblez vous-même le découpeur, le modèle d’embedding, la base vectorielle, le moteur de récupération et les garde-fous. C’est la voie qui donne le plus de contrôle, notamment si vous devez héberger la base sur vos serveurs. C’est aussi celle où les six réglages du tableau plus haut sont entièrement à votre charge, y compris leur maintenance.
Assembler des briques
Vous bricolez déjà des automatisations
Vous branchez un outil d’automatisation sur une base vectorielle managée et une API de modèle. Vous ne codez presque rien, mais vous restez responsable de la chaîne : c’est vous qui décidez du découpage, du nombre de morceaux rapportés et du comportement quand rien n’est trouvé. Cette voie va vite pour un prototype et tient mal quand le volume monte.
Passer par une plateforme qui fait le RAG pour vous
Vous voulez un résultat, pas un pipeline
Vous versez vos pages, vos documents et votre FAQ, la plateforme s’occupe du découpage, de la vectorisation, de la récupération et des garde-fous, et vous branchez le bot sur vos canaux. Les six réglages existent toujours, mais ils sont pris par défaut et éprouvés sur des milliers de bots.
Botnation édite une plateforme no-code de création de chatbots et réalise des chatbots sur mesure pour ses clients, via son offre Entreprise et ses experts en création de chatbot. Dans les deux cas, la partie RAG est prise en charge : vous fournissez les contenus, pas le pipeline.
Le plan Gratuit à 0 € permet de tester la chaîne complète sur un petit corpus avant d’engager quoi que ce soit. Les plans Basic à 39 € et Pro à 59 € par mois incluent respectivement 500 et 1 000 utilisateurs, ainsi que 500 et 1 000 crédits IA offerts une seule fois. L’offre Entreprise, sur devis, comprend explicitement les services de création de chatbot.
Ce que vous ne devez pas verser dans la base
C’est le volet que la quasi-totalité des guides sur le chatbot RAG passent sous silence, et c’est pourtant celui qui coûte le plus cher quand ça tourne mal. La CNIL est explicite dans ses questions-réponses sur l’IA générative :
« Le déployeur qui choisit de connecter le système à sa propre base de connaissance (RAG) sera lui aussi responsable de son traitement lorsqu’elle contient des données personnelles. »
La conséquence pratique est simple : verser un export client, un historique de tickets ou un annuaire interne dans une base vectorielle est un traitement de données personnelles, avec tout ce que cela implique (base légale, information des personnes, durée de conservation, droits d’accès et d’effacement). Le fournisseur du modèle n’en est pas responsable à votre place.
Ce qui va dans la base sans problème
- Vos pages publiques, fiches produit et articles d’aide
- Vos conditions générales, politiques de retour et de livraison
- Vos procédures internes anonymisées
- Vos tarifs publics et vos grilles d’options
- Vos comptes rendus de formation dépersonnalisés
Ce qui demande une décision explicite
- Un export de CRM ou de tickets nominatifs
- Un annuaire du personnel avec coordonnées
- Des dossiers médicaux, RH ou juridiques
- Des documents stratégiques non publics
- Tout contenu sous contrat de confidentialité avec un tiers
Sur ces contenus sensibles, la CNIL invite à regarder de près où la base est hébergée, et considère qu’un déploiement sur site est souvent plus indiqué. Concrètement, cela veut dire poser la question à votre prestataire avant de verser quoi que ce soit, et pas après. Nos dix erreurs les plus fréquentes en création de chatbot reviennent sur ce point.
Cette section décrit le cadre applicable au 5 août 2026 et ne remplace pas l’avis de votre délégué à la protection des données ou d’un conseil juridique. Les positions de la CNIL sur l’IA évoluent, et de nouvelles recommandations sont annoncées.
Depuis le 2 août 2026, dire que c’est une IA n’est plus une option
L’article 50 du règlement européen sur l’intelligence artificielle (règlement UE 2024/1689) est applicable depuis le 2 août 2026. Son paragraphe 1 est direct :
« Providers shall ensure that AI systems intended to interact directly with natural persons are designed and developed in such a way that the natural persons concerned are informed that they are interacting with an AI system, unless this is obvious from the point of view of a natural person who is reasonably well-informed, observant and circumspect. »
Un chatbot RAG entre pleinement dans ce périmètre : il interagit directement avec des personnes physiques. L’obligation est légère (une mention claire que l’interlocuteur est une IA), mais elle n’est pas facultative, et l’article 99, paragraphe 4, prévoit des amendes pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial pour les manquements aux obligations qu’il vise. Le schéma des risques publié par la CNIL classe d’ailleurs explicitement les chatbots dans la catégorie « obligations de transparence ».
Deux phrases suffisent, et elles améliorent souvent la conversation : dire dès le premier message que le visiteur parle à un assistant automatique, et indiquer comment joindre un humain. Un bot RAG honnête sur sa nature obtient de meilleures questions, donc de meilleures réponses.
Sept symptômes fréquents, et leur cause réelle dans le pipeline
Quand un chatbot RAG donne une mauvaise réponse, le réflexe est de changer de modèle. C’est presque toujours le mauvais réflexe : dans six cas sur sept, la panne est en amont de la génération.
| Ce que vous observez | L’étape en cause | Ce qu’il faut regarder en premier |
|---|---|---|
| Le bot invente une réponse plausible mais fausse | Récupération et garde-fous | Rien n’a été retrouvé et le modèle a comblé le vide. Imposez de répondre « je ne sais pas » sous un seuil de similarité |
| Le bot répond à moitié | Découpage | La réponse est coupée entre deux morceaux. Testez-la avec l’outil plus haut |
| Le bot cite une information périmée | Ingestion | L’ancienne version du document est toujours dans l’index. Une mise à jour n’efface pas l’ancien vecteur toute seule |
| Le bot répond à côté sur les questions courtes | Vectorisation | Une question de trois mots contient peu de signal. Reformulez la question avant de chercher |
| Le bot ignore une information pourtant présente | Récupération | Le bon morceau existe mais arrive en huitième position. Augmentez le nombre de morceaux rapportés ou ajoutez un reclassement |
| Le bot mélange deux produits ou deux offres | Découpage et ingestion | Deux fiches proches se ressemblent trop. Ajoutez le nom du produit en tête de chaque morceau |
| Le bot est lent | Génération | Trop de morceaux rapportés, donc un prompt trop long. C’est le seul symptôme où le modèle est réellement en cause |
Un dernier point, souvent oublié : il faut relire les questions posées, pas seulement les réponses données. Ce sont les questions sans réponse satisfaisante qui vous disent quels documents manquent dans la base. C’est le même principe que celui décrit dans notre article sur les sources dans lesquelles un chatbot puise ses réponses.
Questions fréquentes
Quelle différence entre RAG et fine-tuning ?
Le fine-tuning modifie le modèle lui-même pour lui apprendre un style, un vocabulaire ou un format de réponse. Le RAG ne touche pas au modèle : il lui fournit les bons documents au moment de répondre. Pour des connaissances qui changent (tarifs, stocks, procédures), le RAG gagne largement, parce qu’actualiser un document coûte quelques millièmes de centime là où réentraîner coûte un projet. Le fine-tuning garde son intérêt pour le ton et le format. Les deux se combinent.
Faut-il coder pour faire un chatbot RAG ?
Non. Les plateformes no-code font le pipeline complet à votre place : vous versez vos pages et vos documents, elles gèrent le découpage, la vectorisation, la récupération et les garde-fous. Coder devient nécessaire quand vous avez une contrainte que la plateforme ne couvre pas : un hébergement imposé sur vos serveurs, une source de données exotique, ou un besoin de réglage très fin de la récupération.
Combien de documents faut-il pour que ça marche ?
Beaucoup moins qu’on ne le croit. Vingt pages bien écrites qui couvrent les questions réellement posées battent mille pages de documentation mal structurée. Le bon point de départ est la liste des questions que votre support reçoit le plus souvent, et non l’intégralité de votre site. Ajouter des documents inutiles dégrade même la récupération, en noyant les bons morceaux dans des voisins plausibles.
Le RAG supprime-t-il les hallucinations ?
Il les réduit fortement, il ne les supprime pas. Tant que le modèle est autorisé à répondre alors que la recherche n’a rien retrouvé de pertinent, il comblera le vide. La vraie protection n’est pas le RAG en soi, c’est le garde-fou qui impose de dire « je ne sais pas » en dessous d’un seuil de similarité, et l’affichage de la source utilisée pour que le lecteur puisse vérifier.
Quelle taille de morceau faut-il choisir ?
Il n’y a pas de valeur universelle, et c’est bien le problème : elle dépend de la longueur de vos réponses. La méthode fiable consiste à prendre vos dix questions les plus fréquentes, à repérer la phrase qui y répond dans vos documents, et à vérifier qu’elle tient entière dans un morceau. C’est exactement ce que fait le testeur plus haut, en miniature. Si vos réponses tiennent en une phrase, des morceaux courts suffisent et vous coûtent moins cher.
Peut-on faire du RAG sans envoyer ses documents chez un fournisseur étranger ?
Oui, à condition de le décider avant de commencer. La base vectorielle peut être hébergée en Europe ou sur vos propres serveurs, et il existe des modèles d’embedding et de génération qui s’exécutent sur une infrastructure européenne. La CNIL considère d’ailleurs que pour de la documentation sensible ou stratégique, un déploiement sur site est souvent la voie la plus sûre. Posez la question de l’hébergement dans votre cahier des charges, pas à la recette.
Un chatbot RAG doit-il annoncer qu’il est une IA ?
Oui. L’article 50 du règlement européen sur l’IA, applicable depuis le 2 août 2026, impose que la personne sache qu’elle parle à un système d’IA, sauf si c’est évident. Une mention en tête de conversation suffit. Les sanctions prévues par l’article 99 du même règlement peuvent atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial.
Ce qu’il faut retenir
Un chatbot RAG n’est pas un modèle intelligent, c’est une chaîne de six maillons dont le plus fragile est le découpage. Sa facture ne vient pas de l’indexation, quasi gratuite, mais des passages renvoyés au modèle à chaque question. Et la base que vous branchez engage votre responsabilité, pas celle du fournisseur du modèle.
Si vous partez de zéro, le raccourci le plus honnête est celui-ci : commencez par écrire vingt réponses courtes et autonomes aux vingt questions que vous recevez le plus, puis versez-les dans une plateforme qui gère le pipeline. Vous saurez en une journée si le sujet mérite un projet, et vous n’aurez rien dépensé pour le découvrir. Notre guide du chatbot à IA générative et notre panorama des agences chatbot IA couvrent la suite du chemin.
Branchez un chatbot sur vos propres contenus
Vos FAQ, vos documentations et vos articles d’aide existent déjà. Botnation les exploite pour répondre à vos clients sur votre site, WhatsApp, Messenger et Instagram, sans que vous ayez à monter le moindre pipeline.
Sources : CNIL, questions-réponses sur l’utilisation d’un système d’IA générative (18 juillet 2024) ; règlement (UE) 2024/1689 sur l’intelligence artificielle, articles 50 et 99 ; Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, arXiv 2005.11401 (22 mai 2020) ; grilles tarifaires publiques d’OpenAI, de Qdrant et de Botnation relevées le 5 août 2026.
