La décision d’IA qui finit examinée en assurance n’est presque jamais le modèle. C’est le sinistre refusé, la prime qui a écarté un client, ou le dossier renvoyé en revue manuelle et jamais repris. Quand on demande enfin comment le résultat a été obtenu, la question n’est pas si le modèle était exact en moyenne, mais si cette personne précise a été traitée équitablement, et si l’entreprise peut montrer son raisonnement.

C’est une question de gouvernance bien avant d’être une question de science des données — et l’assurance est l’un des rares secteurs où la position réglementaire est déjà précise plutôt que générale.

Tous les usages n’emportent pas les mêmes obligations

Au titre de la législation européenne sur l’IA, les systèmes d’IA utilisés pour l’évaluation des risques et la tarification à l’égard de personnes physiques en assurance vie et santé relèvent de la catégorie à haut risque de l’annexe III. Une grande part de l’activité dommages n’y tombe pas sur le même fondement. Cette asymétrie échappe souvent aux entreprises qui rédigent une politique IA unique : deux modèles construits par la même équipe, sur la même plateforme, peuvent occuper des positions réglementaires très différentes selon la branche et la finalité.

La classification tient à la destination, pas à la technique. Un modèle de gradient estimant la fréquence des sinistres en automobile n’est pas à haut risque parce qu’une architecture voisine sert à la souscription santé. Tranchez système par système, consignez le motif, et révisez quand la Commission publiera ses lignes directrices de classification. Sortir de l’annexe III ne signifie pas sortir du champ : les pratiques interdites valent pour tous, des obligations de transparence peuvent s’attacher, et le droit de la protection des données s’applique à chacun de ces systèmes.

Ce que le superviseur a déjà dit

L’avis de l’EIOPA sur la gouvernance et la gestion des risques de l’IA, publié en août 2025, énonce les attentes prudentielles pour les organismes d’assurance utilisant l’IA. Il s’adresse aux superviseurs nationaux — il décrit donc ce que votre autorité a reçu pour consigne de rechercher. Sa substance est un cadre fondé sur les risques et proportionné : gouvernance des données, tenue de registres, équité, cybersécurité, explicabilité et contrôle humain, sur tout le cycle de vie. La proportionnalité joue dans les deux sens : un modèle à faible enjeu n’appelle pas la gouvernance d’un moteur de tarification, mais un moteur de tarification n’a pas droit à celle d’un modèle à faible enjeu. Et l’attente d’une explication utile est formulée dans l’intérêt de l’assuré, non pour le confort du modélisateur. En France, c’est l’ACPR qui porte ces attentes, dont les travaux sur la gouvernance des algorithmes détaillent l’explicabilité et l’évaluation.

L’équité est l’endroit difficile

L’assurance a pour métier légitime de différencier le risque : c’est le produit. La difficulté est qu’une différenciation fondée sur le risque et une discrimination illicite peuvent naître du même processus statistique, et le modèle ne vous dira pas laquelle il a produite. Retirer les caractéristiques protégées du jeu de variables ne règle rien : un modèle disposant d’assez de données les reconstruira à partir de corrélats — code postal, profession, canal de souscription, type d’appareil, historique de paiement. L’effet de proxy n’est pas une erreur à corriger, c’est une conséquence attendue du pouvoir prédictif, qu’il faut activement tester.

Tester en pratique, c’est mesurer les résultats selon des groupes sur lesquels vous n’avez pas le droit de tarifer, précisément pour démontrer que vous ne l’avez pas fait. Cela crée une tension avec la minimisation, que résout une approche documentée et à finalité limitée, convenue à l’avance plutôt qu’une extraction improvisée. Le règlement général sur la protection des données et les lignes directrices du Comité européen de la protection des données encadrent ce traitement, d’autant que les données de santé sont des catégories particulières. Consignez ce que vous avez testé, ce que vous avez trouvé et ce que vous avez décidé : une entreprise qui n’a jamais mesuré d’écart ne peut pas affirmer qu’il n’y en a pas.

Sinistres : le gradient d’automatisation

La gestion des sinistres appelle l’automatisation, car les volumes sont élevés et une part du travail est routinière. Le gradient importe plus que la décision d’automatiser :

Assemblage : réunir le contrat, la déclaration, l’historique et les pièces en une vue. Faible risque, forte valeur, et là où passe l’essentiel du temps.
Orientation : router selon la complexité ou une suspicion de fraude. Risque modéré — un dossier mal routé se rattrape, mais l’orientation systématiquement défavorable d’un segment de clientèle n’est pas un problème de routage.
Règlement et refus : la décision conséquente. C’est là que la responsabilité humaine doit rester, sauf catégorie évaluée, documentée et surveillée séparément.

Les modèles de fraude appellent une prudence particulière : un score de fraude est une accusation assortie d’une probabilité, et le coût d’un faux positif retombe sur un assuré qui vient de subir une perte. Seuils de renvoi, preuve montrée à l’enquêteur et voie de contestation pour l’assuré sont des choix de conception aux conséquences directes.

Réutiliser la gouvernance de modèle que vous avez déjà

Les assureurs sont singuliers parmi les adopteurs d’IA : ils opèrent déjà une gouvernance de modèle mûre. Les modèles de capital et de provisionnement, sous le régime de Solvabilité II, sont validés par une revue indépendante, avec hypothèses documentées, rétro-tests et escalade définie en cas de dérive. Beaucoup d’entreprises construisent pourtant une voie de gouvernance parallèle et bien plus faible pour l’IA, au motif que l’apprentissage automatique serait une autre discipline. C’est d’ordinaire une erreur d’organisation, non de fond. Les questions qu’un validateur indépendant pose à un modèle de provisionnement — quelles hypothèses, comment testées, que se passe-t-il aux bords des données, qui a contesté, qu’est-ce qui nous ferait cesser de l’utiliser — sont les bonnes questions pour un modèle de tarification en gradient. Faites passer les modèles matériels par la fonction de validation existante, dotée d’outils étendus, plutôt que de créer un comité IA à l’autorité moindre ; et associez la fonction actuarielle dès le départ, car les obligations professionnelles de qui signe ne changent pas parce que la méthode a changé.

Une limite juridique concrète : certaines différenciations sont interdites

Toute différenciation actuariellement justifiable n’est pas licite. Depuis l’arrêt Test-Achats de la Cour de justice, le sexe ne peut plus servir de facteur entraînant des différences de primes et de prestations, en application de la directive 2004/113/CE. C’est l’illustration la plus nette qu’un facteur peut être prédictif et pourtant proscrit. Un modèle qui reconstruit une telle variable à partir de corrélats ne devient pas conforme parce qu’il ne la nomme pas : il faut tester activement que la variable interdite n’est pas réintroduite par la porte de derrière.

Ce test n’est pas ponctuel. Un modèle réentraîné sur des données plus récentes peut se remettre à charger un corrélat qu’une version antérieure évitait ; la surveillance de l’équité doit donc être rejouée à chaque changement matériel, au même titre que la performance.

Avant d’acquérir un modèle de tarification ou de sinistres auprès d’un tiers, quelques exigences valent d’être écrites au contrat : quelles variables et quels corrélats le modèle utilise et lesquels sont exclus ; quels tests d’équité le fournisseur a menés et sur quels groupes ; pouvez-vous reproduire une décision individuelle après une mise à jour du modèle ; et le fournisseur livre-t-il de quoi expliquer un résultat à l’assuré, ou seulement un score. Un fournisseur incapable de répondre à la première question ne vous vend pas un modèle assurable, mais un risque juridique emballé.

Ce que cette approche ne peut pas faire

Aucun cadre de gouvernance ne tranche la question de fond : quel degré de différenciation l’entreprise juge acceptable. C’est un jugement commercial et éthique du conseil, qu’un modèle exécutera sans jamais le faire remonter. Les techniques d’explicabilité ne fabriquent pas non plus un récit défendable pour un modèle réellement opaque : une explication a posteriori est une approximation, et la présenter à l’assuré comme la raison d’une décision est une inexactitude. Arrêtez lorsque la destination ne peut être énoncée assez précisément pour classer le système, lorsque l’équité n’a pas été testée sur un modèle de tarification ou de souscription touchant des personnes, lorsque personne ne peut expliquer un résultat individuel à celui qu’il affecte, ou lorsqu’un modèle tiers ne peut être reproduit après une mise à jour du fournisseur.

Si vous voulez classer vos modèles d’assurance et cartographier leurs contrôles, commencez par une évaluation de préparation et de gouvernance de l’IA.

Cet article est une adaptation de l’original anglais. En cas de divergence, la version anglaise fait foi.