Assistant IA interne : ancrer la connaissance avant l'échelle

La façon la plus rapide de rendre dangereux un assistant IA interne est aussi la plus rapide d’en réussir la démonstration : le brancher sur un vaste ensemble documentaire et lui demander de répondre à tout. La démonstration produit des réponses fluides en quelques heures. L’organisation, elle, reste incapable de dire quel document était approuvé, quel utilisateur avait le droit de le consulter, si la réponse est étayée, et qui répond lorsqu’elle est fausse.

Un assistant utile est un service de connaissance maîtrisé, pas une fenêtre de conversation généraliste. Il sert un groupe nommé, accomplit une tâche d’information bornée et répond à partir de sources dotées d’un propriétaire, d’une version et de droits d’accès. Cela vaut autant pour un groupe de taille intermédiaire que pour une petite structure.

Commencer par une décision portant sur le travail

Choisissez un moment récurrent où une personne doit trouver, comparer ou appliquer une information approuvée : retrouver la procédure en vigueur, préparer un projet de réponse à partir d’une documentation produit maîtrisée, identifier le propriétaire d’une exception, ou résumer un dossier défini pour un collègue habilité. Le résultat doit pouvoir être inspecté par l’utilisateur avant de modifier un enregistrement ou d’affecter un tiers.

« Répondre aux questions sur l’entreprise » n’est pas un cas d’usage. La formulation masque le public, la conséquence, la limite de source et la définition d’une bonne réponse. Une meilleure version : « aider l’équipe de service à trouver la procédure approuvée en vigueur pour une catégorie de demande, afficher les passages justificatifs et orienter les cas non résolus vers le propriétaire du processus ». L’approche européenne de l’intelligence artificielle invite à partir du problème, à choisir l’outil adapté et à conserver un contrôle humain aux étapes qui comptent — discipline qui évite qu’un assistant devienne une réponse coûteuse à un problème qu’une meilleure recherche ou une automatisation classique traiterait mieux.

L’ancrage commence par un périmètre de connaissance approuvé

La génération augmentée par récupération peut interroger un corpus choisi, fournir les passages pertinents au modèle et lui demander de composer une réponse. Elle améliore l’actualité et la traçabilité, mais la récupération ne rend pas la source vraie. Si le corpus contient des politiques périmées, des copies dupliquées et des instructions contradictoires, l’assistant retournera le mauvais document, très efficacement.

Préparez le domaine de connaissance avant d’ajuster les invites :

• Source canonique : déterminez où vit la version faisant foi et retirez les copies de confort de l’ensemble de récupération.
• Propriétaire et statut : consignez qui approuve la matière, si elle est en projet ou en vigueur, et sa date de révision.
• Structure : préservez titres, tableaux et relations entre documents pour qu’un passage récupéré conserve son sens.
• Périmètre : n’incluez que la matière nécessaire au premier flux, pas chaque disque, boîte aux lettres et espace collaboratif.
• Conflit : tranchez les instructions concurrentes ou exposez le conflit à l’utilisateur ; ne laissez pas le modèle choisir en silence.

Les métadonnées minimales couvrent en général le titre, l’emplacement canonique, le propriétaire, la version, la date d’effet, la date de révision, le domaine métier et le groupe d’accès. La qualité de cette couche pèse souvent plus que l’écart entre deux modèles de fondation.

Rendre l’héritage des droits non négociable

Un assistant ne doit pas créer un nouveau chemin contournant les permissions existantes. Il authentifie l’utilisateur, porte son rôle dans la récupération et ne renvoie que les passages qu’il pourrait consulter dans le système source. Index de recherche, caches, journaux et jeux d’évaluation appellent la même vigilance : une source protégée peut fuir par un index trop large ou un journal trop détaillé.

Dès que des données personnelles sont traitées, le règlement général sur la protection des données et les fiches pratiques IA de la CNIL imposent d’apprécier la sécurité au regard du traitement précis et de limiter les données au nécessaire. « Le modèle a besoin de contexte » n’est ni une finalité licite ni une raison d’ingérer un dossier salarié ou client complet.

Distinguez trois autorités :

1. Lire : quelles sources et quels enregistrements cet utilisateur peut-il interroger ?
2. Rédiger : quelles sorties l’assistant peut-il préparer sans modifier un système de référence ?
3. Agir : quelles actions, le cas échéant, peuvent être exécutées après confirmation explicite d’une personne habilitée ?

Une première version doit normalement rester en lecture seule. L’accès aux outils, l’écriture et la communication externe ajoutent d’autres modes d’échec — injection d’invite, action inappropriée, exécution en double, et un problème de rétablissement bien plus lourd. Traitez chaque outil comme sa propre limite de permission plutôt que d’accorder à l’assistant un compte de service étendu.

Concevoir la réponse pour l’inspection

Une bonne interface n’affiche pas seulement de la prose. Elle montre le titre de la source, le passage pertinent, la version ou la date d’effet et un accès direct au document canonique. Elle distingue une réponse étayée d’une inférence du modèle et signale quand la preuve est incomplète. L’utilisateur a besoin d’une voie d’escalade visible, pas d’une supposition assurée enveloppée d’un avertissement.

Demandez à l’assistant de rester dans la preuve récupérée, mais ne comptez pas sur la consigne comme contrôle. Validez les identifiants de source, contraignez les outils, filtrez la matière non autorisée et gardez toute action conséquente derrière une porte de politique. Le cadre de gestion des risques liés à l’IA du NIST aide à éprouver le service entier, pas seulement la réponse du modèle.

Constituer le jeu d’évaluation avant le pilote

Rassemblez des questions représentatives d’utilisateurs réels pendant que le flux est cartographié : récupération simple, formulation ambiguë, terminologie périmée, documents contradictoires, information manquante, demandes non autorisées et questions qui doivent être refusées ou escaladées. Conservez pour chacune la source attendue et les caractéristiques d’une réponse acceptable.

Mesurez les composantes séparément : la récupération a-t-elle trouvé le passage correct, actuel et autorisé ; chaque affirmation est-elle étayée par la preuve affichée ; l’utilisateur accomplit-il la tâche avec moins de recherche évitable ; l’assistant refuse-t-il ou escalade-t-il en l’absence de preuve ou de droit ; et quelle charge de revue, de correction et d’exception le service crée-t-il. Un score d’exactitude agrégé unique ne dira pas si des défauts de permission ou des réponses non étayées se cachent dans une moyenne acceptable.

Fixez les seuils de mise en service avant de lire les résultats, faute de quoi une démonstration convaincante fera réinterpréter une preuve faible en succès. Gardez un jeu de régression figé et un jeu évolutif tiré d’usages réels et anonymisés, et rejouez les deux après tout changement de modèle, d’invite, de logique de récupération, de corpus ou de conception des accès.

Traiter la gouvernance comme partie du produit

Les fonctions Govern, Map, Measure et Manage donnent une structure : Govern fixe la propriété et l’appétence ; Map définit les utilisateurs, la finalité et les préjudices probables ; Measure éprouve le comportement ; Manage décide de poursuivre, restreindre ou arrêter. La séquence vaut mieux qu’une liste cochée après le lancement. Là où des données personnelles sont en jeu, les travaux du Comité européen de la protection des données rappellent que la direction ne délègue pas sa responsabilité aux équipes techniques, et qu’une analyse d’impact doit rester vivante quand la finalité, les données ou les risques changent.

Un point propre au marché français conditionne le calendrier : si l’assistant journalise qui a traité quelle demande et en combien de temps, il devient un dispositif susceptible de permettre le contrôle de l’activité des salariés, ce qui relève de la consultation du comité social et économique — que personne n’ait l’intention d’exploiter ces journaux n’y change rien. Nommez un propriétaire opérationnel, et des propriétaires distincts pour la qualité des sources, l’approbation des accès, le service technique, l’évaluation et les incidents. La norme ISO/IEC 42001 offre une structure de système de management pour des responsabilités définies et une amélioration continue, sans qu’une certification soit nécessaire pour en tirer la discipline.

Mettre en service un seul service étroit, puis mériter l’extension

Une première version crédible sert une équipe, un domaine de connaissance et une tâche en lecture seule, pour une durée limitée. Elle utilise l’identité existante, préserve les permissions de source, cite la preuve, dispose d’un jeu d’évaluation versionné et offre une voie claire pour contester une réponse. Surveillez les affirmations non étayées, les échecs de récupération, les incidents d’accès, les questions non résolues, les corrections des utilisateurs, la latence, le coût et l’effort d’actualisation des sources.

L’extension suit la preuve : un deuxième domaine a ses propres propriétaires et tests ; l’écriture exige contrôles de transaction, confirmation et rétablissement ; la communication externe exige un examen de l’audience et des conséquences réglementaires. Le bon comportement du premier flux ne prouve pas celui du suivant.

Ce que cette approche ne peut pas faire

Un assistant ne répare pas un patrimoine documentaire sans propriétaire et ne transforme pas des enregistrements contradictoires en vérité de l’organisation. Il ne supprime pas non plus le besoin de personnes compétentes pour juger si une réponse est correcte : sans elles, le service déploiera lentement quelle que soit la technologie. Arrêtez lorsque les sources faisant foi ne peuvent être identifiées, que les permissions ne peuvent être préservées, qu’un test représentatif est impossible, que le risque résiduel sur les données personnelles reste trop élevé, ou que personne ne possédera le service après le pilote. Dans ces conditions, corrigez d’abord la connaissance et le flux.

Si vous voulez prouver un premier flux d’assistant interne sur vos propres sources, commencez par un sprint IA maîtrisé.

Cet article est une adaptation de l’original anglais. En cas de divergence, la version anglaise fait foi.