Les opérations de conformité sont exceptionnellement adaptées à l’automatisation et exceptionnellement peu tolérantes à ses erreurs. Le travail est volumineux, encadré par des règles et lourd en preuves — précisément ce que les machines traitent bien. C’est aussi un travail où se tromper n’est pas un problème de productivité mais de réglementation, et où la réponse à « pourquoi cette alerte a-t-elle été clôturée ? » doit survivre à un examen des mois plus tard.

La question n’est pas s’il faut employer des agents IA en conformité, mais quelles décisions un agent peut prendre sous sa propre autorité, et ce qui reste rattaché à une personne nommée.

L’adoption a devancé la conversation sur la gouvernance

Les superviseurs financiers observent une adoption large et rapide, portée pour une part croissante par des solutions de tiers. L’ACPR a mené des travaux exploratoires sur la gouvernance des algorithmes d’intelligence artificielle dans le secteur financier, portant sur l’explicabilité, la gouvernance et l’évaluation, avec la lutte contre le blanchiment et la protection de la clientèle parmi les domaines examinés. Deux constats méritent attention : une grande partie des usages comporte un degré de décision automatisée où un humain n’est « dans la boucle » que nominalement ; et une part importante des déploiements repose sur des tiers, si bien que les établissements répondent d’un comportement qu’ils n’ont pas construit et ne peuvent pleinement inspecter.

L’autorité bornée est la décision de conception

Un agent de conformité se définit par ce qu’il a le droit de faire, non par ce qu’il peut faire. En pratique, séparez trois niveaux et tenez les limites dans l’architecture, pas dans l’invite :

Récupérer : réunir transactions, dossiers clients, résultats de filtrage, cas antérieurs et texte de politique autour d’une alerte, et les présenter ensemble. Conséquence d’une erreur : du temps d’analyste perdu.
Rédiger : proposer une qualification, assembler un raisonnement et préparer un récit de cas citant les preuves. Conséquence d’une erreur : une recommandation trompeuse qu’un relecteur peut accepter.
Statuer : clôturer, escalader, déclarer ou notifier. Conséquence d’une erreur : réglementaire.

Une première version défendable place la récupération et la rédaction dans l’agent et garde la décision hors de lui. L’économie tient : dans la plupart des chaînes de traitement d’alertes, l’essentiel de l’effort est l’assemblage du contexte, non le jugement final. Automatiser l’assemblage en préservant le jugement capte l’essentiel du bénéfice et presque aucun du risque d’imputabilité. Là où une clôture automatique se justifie — catégories à fort volume et faible risque, à taux de base stable — introduisez-la par catégorie, avec un raisonnement documenté, un échantillonnage et une voie de réversion explicite. « Le modèle est globalement assez exact » n’est pas un argument au niveau d’une catégorie.

Le changement de modèle est le contrôle le plus souvent absent

Un processus fondé sur un jeu de règles change quand quelqu’un change la règle, et ce changement est visible, daté et attribuable. Un processus fondé sur un modèle change quand le modèle change — réentraînement, mise à jour du fournisseur, révision d’invite, dérive de la distribution des données. Les établissements ont un contrôle du changement mûr pour le premier cas, quasi inexistant pour le second.

Il faut un jeu de régression : une collection figée et versionnée de cas à disposition correcte connue, y compris les cas gênants — catégories limites, faux positifs historiques, cas escaladés puis confirmés, et cas où la bonne réponse était de ne rien faire. Tout changement matériel du modèle, des invites, de la logique de récupération ou des sources est rejoué contre lui avant mise en service, et les résultats sont consignés. À ses côtés, une surveillance de dérive : volumes d’alertes, distribution des catégories, taux de contournement et d’escalade suivis dans le temps — une chute soudaine des escalades est un signal au même titre qu’une hausse soudaine.

La preuve doit être reconstituable, pas seulement journalisée

Une décision de conformité doit rester explicable longtemps après, souvent devant quelqu’un d’hostile à la conclusion. Cela exige plus qu’un journal d’actions : la capacité de reconstituer la décision — quels enregistrements ont été récupérés et lesquels non, quelle version de politique s’appliquait, ce que le modèle a vu, ce qu’il a proposé, ce que le relecteur avait à l’écran et ce qu’il a modifié. Deux modes d’échec sont fréquents : journaliser le résultat mais pas le contexte récupéré, de sorte qu’on ne sait plus si un enregistrement pertinent a été manqué ou était absent ; et mettre à jour le modèle jusqu’à rendre les décisions antérieures irreproductibles. La conservation appelle la même rigueur : reconstituer exige d’en garder assez, la minimisation d’en garder le moins nécessaire — le règlement général sur la protection des données et les lignes directrices du Comité européen de la protection des données tiennent les deux exigences ensemble dès que des données personnelles sont en jeu.

Rendre la revue réelle

Le contrôle humain échoue en silence. Un relecteur qui approuve quatre-vingts dispositions par heure n’exerce pas de jugement, quoi qu’en dise la procédure. La supervision n’est réelle que si le relecteur a l’autorité de contredire, l’information pour le faire et le temps que cela prend. Montrez-lui la preuve plutôt que la conclusion, faites remonter les cas où le modèle était le moins sûr, et suivez le taux de contournement comme indicateur de santé — un taux proche de zéro signale d’ordinaire une revue devenue cérémonielle, non un modèle excellent.

Le risque de tiers est désormais l’essentiel du risque

Si une part importante des usages est fournie par des tiers, la gestion des fournisseurs est un contrôle de premier ordre, pas une formalité d’achat. Pour le risque lié aux prestataires informatiques, le règlement (UE) 2022/2554 sur la résilience opérationnelle numérique impose un cadre de gestion du risque lié aux tiers, un registre des accords et des exigences contractuelles — il s’applique directement à un agent opéré par un prestataire. Les questions pratiques sont sans éclat : que change une mise à jour du modèle sous-jacent, quel préavis recevez-vous, pouvez-vous reproduire une décision prise sous la version précédente, à quoi ressemble votre sortie, et votre surveillance détecterait-elle une dégradation non annoncée. Pour les établissements opérant dans l’Union, la législation sur l’IA ajoute des obligations qui varient selon le rôle — fournisseur ou déployeur — et la classification : déterminez votre rôle tôt, car il commande la suite.

Trancher le rôle : fournisseur ou déployeur

La plupart des établissements se supposent déployeurs d’un outil acheté. L’hypothèse est souvent fausse en conformité, et l’erreur est coûteuse, car les obligations du fournisseur au titre de la législation sur l’IA sont nettement plus lourdes. Ajuster un modèle sur vos propres cas, l’exploiter sous votre marque interne ou changer sa destination peut vous faire basculer du côté du fournisseur. La notation du risque de crédit et certains usages de lutte contre la fraude relèvent en outre de catégories sensibles au regard du règlement. Tranchez par déploiement, en consignant le motif, car la classification commande la documentation, l’évaluation et la surveillance attendues.

Avant de confier une chaîne d’alertes à un prestataire, quelques questions valent d’être écrites au contrat : que change une mise à jour du modèle et quel préavis est donné ; pouvez-vous reproduire une décision prise sous la version précédente ; le prestataire fournit-il le contexte récupéré ou seulement le résultat ; où sont traitées et conservées les données ; et quelle est votre position de sortie si la qualité se dégrade. Le règlement (UE) 2022/2554 fait de plusieurs de ces points une obligation, non une préférence.

Un mode d’échec mérite d’être nommé : la revue qui valide la forme et non le fond. Un relecteur pressé confirme que le dossier est complet — pièces jointes, champs remplis — sans réexaminer si la qualification proposée tient. Le dossier passe l’audit interne et échoue à l’examen externe, car la traçabilité est présente mais le jugement, absent. La parade n’est pas plus de contrôles, mais moins de dossiers par relecteur et une remontée des cas les moins sûrs.

Ce que cette approche ne peut pas faire

Un agent ne répare pas un environnement de contrôle incohérent. Si la politique est ambiguë, si deux systèmes portent des dossiers clients contradictoires, ou si des analystes appliquent depuis des années une règle non écrite, l’automatisation encodera la confusion et l’appliquera plus vite. Il ne fournit pas davantage le jugement que la réglementation demande — savoir si un motif est suspect en contexte n’est pas une classification à vérité stable. Arrêtez lorsque la preuve nécessaire à la reconstitution n’est pas captée, que personne ne peut nommer le responsable d’une disposition automatisée, que la revue est devenue une formalité, ou que la politique sous-jacente ne survivrait pas à être écrite clairement.

Si vous voulez bâtir un modèle d’exploitation de l’IA dans une fonction régulée, commencez par un accompagnement de direction embarqué.

Cet article est une adaptation de l’original anglais. En cas de divergence, la version anglaise fait foi.