Une phase pilote a été menée à bien. Vous êtes désormais le seul maillon entre cette phase et la mise en production, et le comité d'audit souhaite savoir ce qui se passe lorsqu'un organisme de réglementation pose des questions sur un échange spécifique avec un client.
Une piste d'audit basée sur l'IA pour les interactions avec les clients d'entreprise est un enregistrement documenté et référencé, indiquant pourquoi une réponse spécifique a été donnée à un client donné, d'où elle provient et comment le système l'a générée ; cet enregistrement peut être examiné ultérieurement par un auditeur ou une autorité de régulation.
Dans le domaine réglementé de l'expérience client (CX), une réponse générée par l'IA et non vérifiable constitue un risque de non-conformité qui se crée en temps réel. La question n'est pas de savoir si le modèle était sûr de lui ou s'il s'exprimait avec aisance, mais si la réponse peut être justifiée.
La plupart des pistes d'audit sont ajoutées a posteriori. Celles qui s'avèrent efficaces sont intégrées à l'architecture avant même la première réponse.
Points clés à retenir
- Une piste d'audit basée sur l'IA pour les interactions avec les clients ne se limite pas à la simple journalisation. Il s'agit d'un enregistrement documenté et lié à sa source, expliquant pourquoi une réponse spécifique a été donnée à un client donné, et permettant de remonter de la question jusqu'à la base de connaissances réglementée qui l'a générée.
- Il existe une différence entre l'observabilité (la manière dont le système a fonctionné) et l'auditabilité (les raisons pour lesquelles une décision a été prise). Les autorités de régulation s'intéressent à cette dernière. De nombreuses plateformes mettent en place des outils pour la première et la présentent comme la seconde.
- Les pistes d'audit intégrées à l'architecture produisent, de par leur conception, des enregistrements pouvant servir de base à une défense. Les pistes d'audit ajoutées a posteriori à un système génératif enregistrent le raisonnement du modèle, mais pas la provenance de la réponse.
- Dans les secteurs réglementés, une piste d'audit doit apporter des réponses à des questions spécifiques : source, cheminement décisionnel, cohérence des canaux et contrôle d'accès. L'enregistrement des paramètres du modèle ne permet pas de répondre à la question la plus importante.
- Prenez rendez-vous pour une démonstration et découvrez comment Inbenta Encore rend chaque interaction vérifiable dès sa conception.
Ce qu'une piste d'audit générée par l'IA permet réellement de consigner lors d'une interaction avec un client
Une piste d'audit IA relative aux interactions avec les clients d'entreprise est l'enregistrement chronologique et inviolable d'un échange avec l'IA destiné aux clients.
Il enregistre la saisie du client, l'interprétation du système, la source réglementée d'où provient la réponse, la réponse fournie et le contexte global, le tout regroupé dans un seul enregistrement qu'un vérificateur pourra examiner ultérieurement.
Une piste d'audit n'est pas synonyme de fichier journal. Les fichiers journaux enregistrent des événements. Une piste d'audit fournit la chaîne documentée qui répond à une question : pourquoi cette réponse, pour ce client, à ce moment-là ?
Cette chaîne n'est possible que si la réponse avait une source au départ, ce qui relève de l'ingénierie des connaissances et non d'un paramètre de journalisation.
Observabilité de l'IA et vérifiabilité de l'IA : une distinction qui tient à cœur aux régulateurs
L'observabilité de l'IA permet de suivre les performances du système : latence, débit, taux d'erreur, dérive des paramètres du modèle. Elle fournit à l'équipe d'exploitation des informations sur le comportement du système.
La traçabilité de l'IA permet de garantir la responsabilité : quelle source a généré cette réponse, qui a accès à cette source, quand elle a été révisée pour la dernière fois, et si la réponse est conforme à la politique en vigueur. Elle permet à l'autorité de régulation de déterminer si le système peut être justifié.
Les deux sont importants, et aucun ne peut se substituer à l'autre. L'erreur architecturale la plus courante dans le domaine de l'expérience client (CX) réglementée consiste à considérer une pile d'observabilité comme une piste d'audit.
Il convient de préciser clairement cette distinction. « Sûr » signifie que le système ne causera aucun préjudice. « Vérifiable » signifie que vous pouvez prouver à une autorité de régulation ce qui s'est passé et pourquoi.
L'observabilité vous indique ce qui s'est passé ; l'auditabilité vous explique pourquoi cela a été autorisé, et si une question identique posée demain obtiendra la même réponse.
Pourquoi la plupart des pistes d'audit en matière d'IA sont conçues à l'envers
La plupart des pistes d'audit basées sur l'IA disponibles sur le marché constituent des instruments mis en place a posteriori.
Un modèle génératif produit une réponse au moment de l'exécution, et le système environnant enregistre tout ce qui l'entoure : la consigne, le raisonnement, la fenêtre de contexte, les appels aux outils, ainsi que le résultat final.
Cet outillage est utile. Mais la réponse sous-jacente a tout de même été générée de manière probabiliste. La trace enregistre le raisonnement du modèle ; elle n'établit pas la provenance de la réponse.
Une autorité de régulation qui examine une interaction avec un client ne cherche pas à savoir ce que le modèle avait en tête.
Ils veulent savoir de quelle source validée provient la réponse, qui l'a validée et si le prochain client qui posera la même question obtiendra la même réponse.
C'est précisément ce à quoi répond l'auditabilité intrinsèque, contrairement à l'instrumentation a posteriori. C'est la question à laquelle la plateforme Inbenta Encore a été conçue pour répondre, et c'est pourquoi une architecture des connaissances spécifique au client permet d'assurer une traçabilité qu'un modèle générique ne peut pas garantir.
Les cinq questions qu’un organisme de régulation se pose réellement au sujet d’une interaction avec un client
Lorsqu'un évaluateur examine une interaction client gérée en tout ou en partie par l'IA, les questions qui se posent sont prévisibles.
- Quelle source agréée est à l'origine de cette réponse ? (Provenance de la source.)
- Qui a validé cette source, et quand a-t-elle été révisée pour la dernière fois ? (Gouvernance des connaissances.)
- Pourquoi le système a-t-il proposé cette réponse plutôt qu'une autre réponse plausible ? (Processus de décision.)
- Le système donnerait-il la même réponse à un autre client qui poserait la question via un autre canal ? (Cohérence entre les canaux.)
- Qui avait le droit de consulter ou de modifier les connaissances sous-jacentes, et cet accès est-il consigné ? (Gouvernance des identités et des accès.)
Une piste d'audit qui répond à ces cinq questions est défendable. Une piste qui ne rend compte que du comportement du modèle lors de son exécution ne permet pas de répondre aux questions n° 1, 2 ou 4.
Anatomie d'une interaction client intrinsèquement vérifiable
Une piste d'audit intégrée à l'architecture comporte six éléments. Chacun d'entre eux correspond à une caractéristique du processus d'élaboration de la réponse, et non à un enregistrement créé a posteriori.
Comparez cela à un journal d'audit a posteriori. Celui-ci enregistre les versions des invites, la température du modèle, les appels d'outils et les fenêtres de contexte, autant d'éléments réellement utiles pour le débogage.
Elle ne permet pas de répondre à la première des cinq questions : quelle source validée est à l'origine de la réponse ? Les deux documents ont leur intérêt. Seul le premier est défendable.
Si vos journaux actuels ne permettent pas de répondre à la première question, prenez rendez-vous pour une démonstration afin de découvrir ce qu'enregistre une piste intégrée.
Exigences en matière de piste d'audit dans les secteurs réglementés
Les exigences en matière de conformité varient considérablement d'un secteur à l'autre, ce qui nécessite des approches sur mesure pour chacun d'entre eux.
Services financiers
Les contrôles menés par le Bureau de la protection financière des consommateurs (CFPB), le Bureau du contrôleur de la monnaie (OCC) et la Société fédérale d'assurance des dépôts (FDIC) exigent une cohérence dans la communication d'informations et la justifiabilité des processus décisionnels ; par ailleurs, la lettre de surveillance n° 11-7 et le bulletin de l'OCC n° 2011-12 imposent la mise en place d'une documentation relative aux modèles.
Une piste d'audit doit permettre de vérifier les processus décisionnels sans recourir à des outils spécifiques pour chaque audit, et la même source réglementée doit fournir la même réponse, que ce soit par voix, par chat ou par recherche, conformément aux recommandations du CFPB relatives aux décisions prises par l'IA.
Tourisme et hôtellerie
L'article 30 du Règlement général sur la protection des données (RGPD) relatif aux registres de traitement exige de disposer de preuves attestant de la manière dont les données à caractère personnel ont été traitées dans le cadre des interactions avec les clients.
La piste d'audit doit enregistrer les interactions impliquant le traitement de données à caractère personnel (DCP) conformément aux exigences régionales en matière de résidence des données, et le déploiement sur site ou dans un cloud privé virtuel (VPC) doit garantir que les données d'audit restent dans les limites appropriées.
SaaS B2B dont les clients en aval sont soumis à une réglementation. Les critères SOC 2 « Intégrité du traitement » et « Confidentialité » correspondent aux contrôles de la piste d'audit.
Les données d'audit de chaque client doivent être isolées, et la traçabilité doit permettre de vérifier que la réponse provient bien des sources approuvées du client lui-même, et non des données d'un autre locataire. L'explicabilité en environnement multi-locataires constitue la question d'audit essentielle au niveau des marchés publics.
Ce que les RSSI et les directeurs des risques attendent d'une piste d'audit
Responsable de la sécurité des systèmes d'information (RSSI)
Le RSSI a besoin de messages relatifs à la traçabilité, et pas seulement de messages relatifs à la sécurité. Vous devez justifier ce déploiement en interne auprès du conseil d'administration et en externe auprès d'une autorité de régulation.
Vous devez disposer d'une architecture documentée, de preuves de traçabilité des réponses et de clients de référence dans votre secteur réglementé.
La trace doit présenter le cheminement décisionnel, indiquer la source et prouver que la réponse n’a pas été générée de manière probabiliste, conformément aux exigences de transparence prévues à l’article 13 de la loi européenne sur l’IA.
Directeur des risques (CRO)
L'organisme de recherche (CRO) a besoin de dossiers solides, capables de résister à un examen contradictoire.
La piste d'audit doit permettre de mener à bien les enquêtes internes, les contrôles réglementaires, les procédures de communication de pièces dans le cadre d'une procédure judiciaire et le règlement des litiges, sans qu'il soit nécessaire de procéder à une reconstitution technique a posteriori. La barre est vérifiable, traçable et défendable.
Directeur des systèmes d'information (DSI) et responsable de l'expérience client (CX)
Le directeur informatique et le responsable de l'expérience client doivent faire preuve de réalisme sur le plan opérationnel. La piste d'audit doit s'intégrer aux solutions existantes de gestion des informations et des événements de sécurité (SIEM) et aux piles d'observabilité sans qu'il soit nécessaire de refondre la couche des opérations de sécurité.
L'architecture devrait, par défaut, permettre de disposer d'un historique justifiable, sans nécessiter de projet d'audit technique distinct, avec plus de 850 intégrations d'entreprise et une conformité à la norme SOC 2.
Comment Encore génère une piste d'audit intégrée basée sur l'IA
Notre plateforme répond à ces exigences en intégrant la traçabilité directement dans l'architecture centrale du système.
Inbenta Encore génère la piste d'audit en tant que fonctionnalité intégrée à l'architecture, et non comme un module complémentaire de journalisation.
- La connaissance avant tout, les grands modèles de langage (LLM) en option. La réponse est extraite d’intentions contrôlées et liées à des sources, structurées grâce à l’ingénierie des connaissances. La provenance est établie avant que la réponse ne quitte la plateforme ; il n’est donc jamais nécessaire de reconstituer le raisonnement du modèle.
- Une intelligence programmée, optimisée par l'architecture à double LLM d'Encore. La plateforme gère à la fois les cas où la précision est requise et ceux où la fluidité générative apporte une valeur ajoutée, tout en garantissant la traçabilité des audits dans les deux cas.
- Historique complet des conversations. Chaque réponse peut être rattachée à une source et à une intention spécifiques, et chaque décision peut être justifiée. Il s'agit là d'une propriété architecturale, et non d'une simple configuration de journalisation.
- Une gouvernance « glass box » intégrée dès la conception. Chaque interaction affichée ou exécutée est traçable jusqu’à son intention d’origine, ce qui vous permet, en tant que RSSI ou responsable de la conformité, de l’examiner. Cette caractéristique « glass box » apporte une valeur ajoutée spécifique en matière de conformité dans les secteurs des services financiers, du voyage et de l’hôtellerie, ainsi que du SaaS B2B.
- Isolation des données. Séparation claire entre les données clients, les données vectorielles et tout contexte de modèle ; la piste d'audit elle-même respecte les contrôles d'accès et les règles de localisation des données.
- Cohérence entre les canaux. Une base de connaissances centralisée est utilisée pour la voix, le chat et la recherche ; ainsi, les réponses ne varient pas d'un canal à l'autre lorsqu'elles sont examinées, et l'historique reflète la même intention et les mêmes identifiants de source sur l'ensemble des canaux.
- Prêt pour la production en quelques jours, et non en plusieurs mois. La piste d'audit est opérationnelle dès la première interaction, et n'est pas ajoutée a posteriori après le déploiement, ce qui permet un déploiement plus rapide de plus de 75 %.
- Des résultats issus d'une production réglementée. Une précision de +98 % dès le premier jour, avec un taux d'erreurs quasi nul. BBVA a transformé son service client grâce à l'IA d'Inbenta, et OPPLUS a réduit de 84 % le nombre de cas renvoyés vers les niveaux supérieurs du service client.
Inbenta Encore est une plateforme d'IA agentique unifiée qui a valu à Inbenta le TSIA Star Award dans la catégorie « Innovateur de l'année en matière de réussite client numérique ».
Si vous êtes le maillon clé entre la phase pilote et la production, l'architecture est votre atout majeur. Prenez rendez-vous pour une démonstration afin de découvrir la piste d'audit d'une interaction réelle.
Foire aux questions
Qu'est-ce qu'une piste d'audit basée sur l'IA pour les interactions avec les clients ?
Il s'agit d'un enregistrement documenté et référencé, expliquant pourquoi une réponse spécifique a été fournie à un client donné : la demande, l'interprétation du système, la source réglementée d'où provient la réponse, la réponse fournie et le contexte global. Cela permet à un responsable habilité d'expliquer pourquoi cette réponse a été donnée, à ce client, à ce moment-là.
Quelle est la différence entre l'observabilité de l'IA et l'auditabilité de l'IA ?
L'observabilité permet de suivre les performances du système : latence, débit, taux d'erreur, dérive. L'auditabilité permet de déterminer pourquoi une décision a été prise : quelle source a généré la réponse, qui l'a approuvée et si elle est conforme à la politique en vigueur. Les autorités de régulation accordent une grande importance à l'auditabilité, et une pile d'observabilité ne saurait s'y substituer.
Combien de temps faut-il conserver les journaux d'audit liés à l'IA ?
La durée de conservation dépend du cadre réglementaire et du type de document ; il convient donc de la définir en collaboration avec vos équipes chargées de la conformité et des affaires juridiques, plutôt que de se contenter d'une valeur par défaut unique. D'un point de vue architectural, ce qui importe, c'est que le document reste lié à sa source et inviolable pendant toute la durée de conservation, et pas seulement que les événements aient été consignés.
Qui devrait avoir accès aux pistes d'audit de l'IA dans le domaine de l'expérience client réglementé ?
L'accès doit respecter le principe du « moindre privilège » : conformité, risques, audit interne et rôles de sécurité clairement définis, chaque consultation ou modification des connaissances sous-jacentes devant être consignée. La piste d'audit doit indiquer qui a pu consulter ou modifier une intention source, car cet accès fait partie des questions posées par un enquêteur.
Est-il possible d'ajouter une piste d'audit à un déploiement d'IA existant ?
Il est possible d'ajouter des fonctions de journalisation à presque tout, mais le simple fait d'intégrer des journaux à un système génératif permet d'enregistrer le comportement du modèle, et non la provenance de la réponse. Pour qu'une piste de vérification soit valable, il faut avant tout que la réponse provienne d'une source contrôlée, ce qui relève d'une propriété architecturale et non d'une fonctionnalité que l'on active a posteriori.
Une piste d'audit générée par l'IA suffit-elle à elle seule à satisfaire une autorité de régulation ?
Non. La piste d'audit est nécessaire, mais elle n'est pas suffisante. Elle doit s'appuyer sur des sources contrôlées, de véritables contrôles d'accès, des processus de vérification documentés et des réponses cohérentes sur l'ensemble des canaux. La piste d'audit permet de prouver que ces contrôles ont fonctionné ; elle ne les remplace pas.
En quoi Inbenta contribue-t-il à l'auditabilité de l'IA ?
Inbenta Encore garantit la traçabilité dès sa conception, et non par le biais d'un fichier journal. Chaque interaction est directement rattachée à une source réglementée, ce qui vous permet de prouver aux autorités de régulation quelle connaissance approuvée a précisément généré une réponse. Cela permet de créer un enregistrement justifiable et lié à la source pour chaque échange.
Articles connexes
