Comment éviter les « hallucinations » de l'IA dans le service client : il faut modifier l'architecture, pas la consigne

Pour éviter les « hallucinations » de l’IA dans le service client, il faut supprimer le moment où elles se produisent : celui où le modèle rédige une réponse pendant que le client attend. La recherche, les règles de prompt et les garde-fous réduisent ce taux, mais chacun de ces éléments permet tout de même à un modèle linguistique de composer les faits au moment de l’exécution. La solution durable est d’ordre architectural. Il faut construire et contrôler les réponses au moment de l’intégration du contenu, afin que l’interaction en temps réel devienne une simple recherche, et laisser le modèle façonner la formulation, et non les faits. Inbenta Encore, la plateforme d’IA axée sur la connaissance pour l’expérience client, est conçue de cette manière.

Pourquoi l'IA du service client a-t-elle des hallucinations ?

Une hallucination, c'est une réponse fluide et assurée que votre entreprise n'a pas approuvée. Dans le service client, cela prend généralement une forme anodine : un délai de remboursement cinq jours trop généreux, des frais qui n'existent plus, une exception aux règles que personne n'a jamais consignée par écrit.

Cela s'explique par le fait que la plupart des assistants IA génèrent chaque réponse à la demande. Un client pose une question, le système extrait tout texte qui semble pertinent, puis un modèle linguistique rédige une réponse à partir de celui-ci en temps réel. La génération consiste à prédire le mot plausible suivant. Lorsque le texte extrait est incomplet, obsolète ou contradictoire, le modèle comble cette lacune avec quelque chose de plausible, or « plausible » ne signifie pas nécessairement « vrai ».

C'est la compagnie qui supporte le coût, et non le mannequin. En février 2024, un tribunal canadien a jugé Air Canada responsable après qu’un conseiller de son site web eut inventé une politique de remboursement en cas de décès et qu’un client s’y soit fié (Moffatt c. Air Canada, Tribunal de résolution civile de la Colombie-Britannique). La compagnie aérienne a fait valoir que le conseiller était seul responsable de ses propos. Le tribunal n’a pas suivi cet argument. Pour une banque ou un assureur disposant d’un centre d’appels comptant 100 agents, une telle erreur constitue un manquement à la conformité, et non un sujet d’actualité.

Le RAG, l'ingénierie des prompts et les garde-fous permettent-ils d'éviter les hallucinations ?

Ils réduisent le taux. Mais ils n'éliminent pas la cause.

La génération augmentée par la recherche (RAG) fournit au modèle un texte source de meilleure qualité sur lequel s'appuyer. L'ingénierie des prompts lui indique de rester dans les limites de ce texte. Les garde-fous vérifient le résultat une fois celui-ci généré et bloquent ce qui semble incorrect. Chaque couche apporte sa contribution, tout en conservant la même étape : un modèle qui compose une nouvelle réponse, en temps réel, pour un client qui attend.

Il ne vous reste donc plus qu’à gérer une probabilité. Un système qui génère 500 000 réponses par mois avec un taux d’erreur de 1 % produit tout de même 5 000 réponses erronées, et un dispositif de contrôle ne peut détecter que les erreurs pour lesquelles il a été conçu. Le type d’échec qui nuit le plus aux équipes soumises à une réglementation, c’est la réponse qui semble correcte, qui passe le filtre et qui est pourtant erronée.

Que signifie « prévenir les hallucinations grâce à l'architecture » ?

Cela signifie que la réponse existe avant même que la question ne soit posée.

Dans une architecture axée sur la connaissance, le plus gros du travail réside dans l’ingestion. Lorsque Encore ingère votre contenu (fichiers PDF relatifs aux politiques, pages du centre d’aide, bibliothèques SharePoint, documentation produit, transcriptions des agents), il structure ce contenu en « intents » régis : les questions posées par les clients, chacune étant associée à la réponse approuvée et à un lien vers sa source. Chez un constructeur automobile mondial, une seule opération d’ingestion a permis de générer plus de 25 000 « intents » dans trois langues à partir d’une source exclusivement en anglais.

Lors de l'exécution, deux étapes sont effectuées pour chaque question d'un client, et aucune des deux n'écrit la réponse. Tout d'abord, le système associe la question à une intention définie. Ensuite, un modèle linguistique vérifie que la question et la réponse associée correspondent, puis adapte la formulation afin qu'elle s'intègre naturellement dans la conversation. Le modèle fonctionne comme un éditeur, et non comme un auteur. Les informations proviennent de vos données.

Comme rien n'est généré à partir de zéro, les réponses s'affichent 2 à 3 fois plus vite qu'un appel standard à un modèle de langage de grande échelle (LLM). Le principal avantage réside dans ce qui disparaît : l'étape où le modèle invente une stratégie. Il s'agit d'une prévention des « hallucinations » intégrée à l'architecture, et non d'une mesure de sécurité ajoutée a posteriori.

La recherche déterministe donne-t-elle à l'IA une image rigide ?

Ce n'est pas forcément le cas. Cette objection trouve son origine dans les anciens systèmes basés sur l'intention, où chaque réponse correspondait à un script prédéfini et où les clients devaient formuler leurs questions exactement comme le concepteur s'y attendait.

Dissocier les faits de la formulation élimine ce compromis. L’intention définie détermine le contenu de la réponse. Le modèle linguistique gère la manière dont celle-ci est formulée, en s’adaptant aux termes utilisés par le client, au déroulement de la conversation jusqu’à présent et au canal utilisé, qu’il s’agisse d’un chat, d’un appel vocal ou de l’écran d’un agent. Un client qui demande « Puis-je encore annuler si mon vol était hier ? » et un autre qui demande « Quel est le délai d’annulation ? » obtiennent tous deux la même réponse approuvée, formulée sur mesure pour chacun d’entre eux.

Que doit faire l'IA lorsqu'elle ne dispose pas d'une réponse validée ?

Dites-le, et redirigez le client vers un service utile.

De nombreuses hallucinations ne sont pas réellement des erreurs de connaissance. Ce sont des erreurs de confiance : un système conçu pour répondre quoi qu’il arrive produira une réponse même s’il ne dispose d’aucune information. Encore ne force pas une correspondance approximative. Lorsqu’aucune intention programmée ne correspond à la question, il transfère la tâche à un agent humain ou pose une question de clarification plutôt que d’improviser.

Cet écart se transforme en données utiles. Encore Elevate analyse les interactions réelles pour identifier les questions restées sans réponse satisfaisante, puis propose des mises à jour des connaissances, telles qu’une nouvelle intention, une source manquante ou un acronyme non défini, que votre équipe peut valider d’un simple clic. Les questions restées sans réponse se transforment ainsi en améliorations du contenu, plutôt qu’en réponses inventées de toutes pièces.

La vérification humaine ne résout-elle pas le problème des hallucinations ?

Pas à l'échelle d'un centre d'appels.

Une vérification humaine avant la publication d'une réponse semble être la solution la plus sûre. Mais cela cesse d'être faisable lorsqu'une seule importation peut générer des dizaines de milliers d'intents. Un client de la version bêta d'Encore a ainsi obtenu environ 40 000 intents à partir d'une seule importation. Une file d'attente de vérification de cette ampleur est précisément ce qui bloque les projets d'IA régulée, et un projet bloqué ne protège personne.

Encore met en œuvre automatiquement un processus complet d'assurance qualité avant la diffusion de tout contenu. Ce processus comprend une analyse du contenu, des mesures d'amélioration continue et des suggestions de connaissances, ce qui permet de détecter les contenus de mauvaise qualité ou contradictoires avant qu'un client ne les consulte. Chaque réponse est associée à sa source et consignée dans un journal d'audit, ce qui permet aux équipes chargées des risques et de la conformité de remonter jusqu'au contenu réglementé sur lequel elle s'appuie. La révision humaine reste disponible pour les équipes qui le souhaitent sur des sujets spécifiques. Il s'agit d'une option, et non d'une étape obligatoire.

Comment savoir si votre IA a moins d'hallucinations ?

Évaluez la précision par rapport à un ensemble de tests défini, en conditions réelles d'exploitation, sur la durée. Une affirmation d'un fournisseur concernant la précision, qui ne s'appuie pas sur un ensemble de tests, un échantillon et une période de référence, n'est qu'un argument marketing.

Quelle que soit la plateforme que vous utilisez, trois indicateurs vous en disent plus long qu’un simple taux global. Suivez la part des réponses provenant d’une source validée. Suivez la fréquence à laquelle le système refuse de répondre et transmet la demande à un niveau supérieur plutôt que de se risquer à donner une réponse approximative. Suivez la rapidité avec laquelle une modification de la politique est répercutée sur chaque canal. Si un tarif change le lundi et que votre assistant cite l’ancien tarif le vendredi, le problème réside dans l’architecture, et non dans le réglage.

Pourquoi cela revêt-il une importance particulière dans les centres d'appels soumis à une réglementation ?

Dans les services financiers, le secteur du voyage et d’autres secteurs réglementés, une réponse erronée ne constitue pas un problème d’expérience client. Il s’agit d’un problème de communication d’informations.

La pression pour mettre en service l’IA à tout prix est bien réelle. 91 % des responsables des services déclarent subir des pressions pour mettre en œuvre l’IA (Gartner, février 2026), et Gartner prévoit que plus de 40 % des projets d’IA agentique seront annulés d’ici fin 2027. Les équipes qui parviennent à la mise en production sont celles qui sont capables de montrer à un comité des risques d’où provient chaque réponse. La gestion des probabilités ne résiste pas à cette réunion. La traçabilité, oui.