IA et documentation réglementée en santé : chaque affirmation exige une trace

En sciences de la vie régulées, le livrable n’est jamais vraiment le document. C’est la capacité de le défendre — des années plus tard, devant un inspecteur, contre une version des faits reconstituée à partir des enregistrements. Cette norme rend l’IA générative à la fois attirante et malaisée ici : la charge de rédaction est énorme et réellement improductive ; la charge probatoire est intransigeante et ne se relâche pas parce qu’une machine a aidé.

Les organisations qui réussissent ne sont pas celles qui ont le meilleur modèle. Ce sont celles qui ont décidé tôt ce qu’un enregistrement assisté par machine doit prouver.

Où l’IA se pose réellement dans la chaîne documentaire

Sur le cycle de vie du médicament, les usages réalistes à court terme sont plus étroits que le discours commercial et plus utiles que ne le croient les sceptiques : résumer une source en un projet structuré, contrôler un document au regard d’un modèle ou d’une convention, repérer des incohérences entre documents liés, retrouver un précédent dans des soumissions antérieures, et traduire entre langues enregistrées. Leur point commun : un humain reste l’auteur. La machine comprime l’effort, elle n’assume pas la responsabilité. Dès qu’un flux est conçu de sorte qu’aucune personne identifiable n’a revu le fond d’une sortie avant son entrée dans un enregistrement régulé, l’organisation a créé un problème qu’aucune qualité de modèle ne résout.

Le régulateur a publié sa réflexion

Le document de réflexion de l’Agence européenne des médicaments sur l’usage de l’IA dans le cycle de vie du médicament expose la pensée actuelle sur l’IA et l’apprentissage automatique, de la découverte au suivi post-autorisation. Son cadrage est fondé sur les risques : les obligations croissent avec la conséquence d’une erreur du modèle, et un outil d’aide à la découverte n’est pas tenu au niveau d’un outil influençant une décision réglementaire. Deux observations touchent directement la documentation : les modèles à très grand nombre de paramètres, aux architectures peu transparentes, introduisent des risques à atténuer activement pour protéger la sécurité des patients et l’intégrité des résultats d’étude ; et des mesures actives sont requises pour limiter l’intégration de biais. Aucune n’est satisfaite par une mention générale « les sorties sont revues » ; les deux exigent un écrit sur la façon dont le risque précis a été traité pour l’usage précis. L’annonce accompagnant ce document est un point d’entrée plus court. En France, l’ANSM mène depuis 2023 une réflexion de son conseil scientifique sur ces mêmes enjeux.

L’attribution est l’exigence que la plupart des flux brisent

La documentation régulée porte des attentes d’intégrité des données antérieures à l’IA : un enregistrement doit être attribuable à la personne qui en répond, lisible, contemporain, original et exact, et rester complet, cohérent et disponible sur sa durée de conservation. La rédaction générative met l’attribution à l’épreuve. Si une section a été pré-rédigée par machine à partir de sources puis éditée par un auteur nommé, l’enregistrement doit montrer ce que l’auteur a réellement revu et approuvé, non qu’une case de revue a été cochée. Cela suppose de conserver le jeu d’entrée, l’invite ou la configuration, la version du modèle, la sortie brute, les modifications et l’approbation — et de pouvoir les réassembler. Un flux qui jette la sortie intermédiaire ne garde qu’une affirmation que la revue a eu lieu. Le contrôle de version du modèle en fait partie : si l’outil est mis à jour entre la rédaction et une question posée dix-huit mois plus tard, il faut savoir quelle version a produit le texte. Un fournisseur qui met à jour ses modèles en silence est mal adapté à cet environnement, sauf si le contrat traite explicitement le préavis, la gestion des versions et la reproductibilité.

Qualification, pas seulement évaluation

La pratique générale du jeu d’évaluation s’applique, mais le cadrage régulé est plus strict : un outil utilisé dans un système qualité doit être qualifié pour son usage prévu — exigences documentées, tests contre ces exigences, traces des tests, puis contrôle des changements. Définissez l’usage prévu assez étroitement pour le tester. « Aide à la rédaction réglementaire » ne se qualifie pas ; « produit un premier projet d’un type de section défini, à partir d’un ensemble de sources approuvées, pour revue par un auteur qualifié » le peut. Construisez le jeu de test sur des cas réels représentatifs — sections manquantes, valeurs sources contradictoires, formats inhabituels, terminologie limite — et mesurez la cohérence factuelle avec la source, non la fluidité. Les fonctions Map et Measure du cadre de gestion des risques liés à l’IA du NIST donnent une discipline de mesure, et la norme ISO/IEC 42001 une structure de système de management, sans qu’une certification soit nécessaire.

La requalification est là où les programmes cèdent après le lancement

La qualification initiale reçoit l’attention ; le contrôle des changements qui la maintient en reçoit peu. C’est pourtant là que la plupart des programmes cèdent. Une mise à jour du modèle, un changement d’invite, une nouvelle version d’un document source approuvé : chacun peut modifier le comportement de l’outil sans qu’aucune alarme ne se déclenche. Fixez à l’avance ce qui déclenche une requalification, qui en a l’autorité, et quelle baisse de cohérence factuelle renvoie au traitement manuel. Un outil qualifié une fois puis laissé évoluer librement n’est plus qualifié ; il en porte seulement l’étiquette. La discipline est celle de tout système informatisé sous système qualité : le changement est évalué, testé et consigné avant d’atteindre la production.

Le biais d’automatisation est un risque documenté

Un projet fluide et bien structuré, mais faux avec assurance, est plus dur à relire qu’un brouillon rugueux : la fluidité se lit comme de la compétence, et la revue devient relecture au lieu de vérification. Concevez contre ce biais plutôt que d’espérer former contre lui. Présentez le passage source à côté de chaque affirmation générée, pour que le relecteur vérifie au lieu de se souvenir. Exigez une confirmation explicite des valeurs chiffrées contre la source. Échantillonnez les documents terminés, par une personne étrangère à la revue initiale, et suivez le taux d’erreur dans le temps : un taux indistinct de zéro sur un large échantillon signale plus vraisemblablement un échantillonnage faible qu’une perfection.

Commencer là où la source est déjà maîtrisée

Les meilleurs premiers candidats sont les documents assemblés à partir d’une matière déjà versionnée et approuvée — un résumé tiré d’un rapport d’étude verrouillé, une section bâtie sur une brochure investigateur approuvée, la traduction d’un texte enregistré vers une autre langue enregistrée. La question de provenance est réglée avant l’outil. Les pires candidats synthétisent des sources non maîtrisées : tableurs de travail, fils de courriels, projets de maturités diverses — là où la charge de rédaction pèse le plus, et où un document généré est le moins défendable, car l’enregistrement ne peut montrer ce sur quoi l’auteur s’est réellement appuyé.

Là où le règlement IA croise

Les organisations de santé occupent une position en couches. La réglementation pharmaceutique existante s’applique. Lorsque l’IA est intégrée à un dispositif médical ou à un dispositif de diagnostic in vitro déjà couvert par la législation d’harmonisation de l’Union, la législation sur l’IA ajoute des obligations applicables à compter du 2 août 2028 à la suite de l’accord d’omnibus numérique, sous réserve de publication au Journal officiel. L’outillage documentaire interne n’entre généralement pas dans cette catégorie, mais la détermination doit être explicite, non supposée. Dès que des données personnelles sont en jeu — données cliniques, rapports de sécurité, dossiers investigateurs — le règlement général sur la protection des données s’applique immédiatement et indépendamment de tout calendrier du règlement IA.

Ce que cette approche ne peut pas faire

L’IA ne règle pas un problème de documentation qui est en réalité un problème de données. Si les valeurs sources divergent entre systèmes, si le dossier d’étude est incomplet, ou si l’analyse sous-jacente est contestée, le document généré présentera la confusion avec fluidité et la rendra plus difficile à repérer. Elle ne porte pas non plus la responsabilité professionnelle : la personne qualifiée qui signe répond du contenu, quelle qu’ait été la production du premier jet. Arrêtez lorsque l’usage prévu ne peut être énoncé assez précisément pour être qualifié, lorsque l’enregistrement intermédiaire ne peut être conservé, lorsque la version du modèle ne peut être figée, ou lorsque le temps gagné en rédaction est consommé par la vérification — dans ce dernier cas, l’outil n’a pas amélioré le processus, il a déplacé le travail vers une autre personne en ajoutant un risque.

Si vous voulez qualifier un flux documentaire de bout en bout, commencez par un sprint IA maîtrisé.

Cet article est une adaptation de l’original anglais. En cas de divergence, la version anglaise fait foi.