Un agent IA doit disposer de droits strictement définis

Avant de confier une tâche à un agent IA, une entreprise doit trancher trois points : les droits que l’agent possède en propre, la manière dont ses actes seront retracés et les décisions qu’une personne continuera de valider. D’après le Journal du Net, la nature du risque a évolué : une méprise ne se résume plus à une réponse inexacte, car elle peut se transformer en décision, puis en opération exécutée dans le système d’information.

Quand l’erreur devient une action

Ce basculement fait passer d’un risque de contenu à un risque d’exécution. Il intervient alors que, d’après le Capgemini Research Institute, le phénomène prend de l’ampleur. Ces chiffres sont des projections, pas des constats.

À mesure que les agents s’inséreront dans la chaîne de valeur, contrôler leur capacité d’agir relèvera autant de la gouvernance que de la cybersécurité. Il faut donc fixer les règles du jeu en amont du déploiement.

Où placer la limite : les conséquences, pas la complexité

Gaetan Fron, Senior Sales Manager chez Diligent, un éditeur de solutions dédiées à la gouvernance, à la gestion des risques et à la conformité, estime que la limite tient aux effets de l’action, non à son degré de difficulté. Il a développé ce point lors d’un entretien paru sur Blog du Modérateur.

Dans Diligent One, des agents assurent déjà la veille sur les données de risques, les nettoient, orchestrent les évaluations, font avancer les actions en retard et alertent sur les risques qui apparaissent. Ce tableau est dressé par un représentant de l’éditeur, sans mesure indépendante. Gaetan Fron résume : « Les agents peuvent prendre en charge le travail ; les décisions qui engagent l’organisation restent du ressort des personnes. »

Donner à l’agent un mandat qui lui est propre

On est tenté de laisser l’agent opérer à la place de l’utilisateur en lui passant les droits de ce dernier. Le Journal du Net juge cette pratique fautive : pour rapprocher des factures, un agent n’exige qu’une petite part des privilèges d’un directeur financier. Alors qu’un logiciel reçoit des permissions, un agent doit se voir confier un mandat, fondé sur :

• une identité propre ;
• une mission déterminée et les ressources accessibles ;
• une durée et des actions autorisées ;
• une capacité de révocation.

Sa puissance réelle se borne au recoupement de ses propres droits, de ceux de l’utilisateur et des besoins de la mission, et non à leur somme. Cette règle pèse surtout lorsque plusieurs agents coopèrent : confier une tâche à un autre agent ne doit pas conduire à lui transmettre plus de pouvoir.

Encore faut-il identifier qui agit. On distingue trois rôles : l’Agent Owner, qui répond de l’agent en production et de tout son cycle de vie, l’agent lui-même, titulaire de droits propres, et l’utilisateur au service duquel il opère. Dans la banque, des espaces d’IA générative protégés et encadrés sont déjà proposés aux collaborateurs.

Tracer chaque action, valider pour de bon

Un suivi complet, de bout en bout, doit permettre de retrouver ce que l’agent a fait, la façon dont il a dialogué avec le système d’information et les données dont il s’est servi. Il aide à repérer les comportements anormaux et à lancer des alertes. Pour les fonctions critiques, on conserve une validation par un humain tant que la fiabilité du dispositif n’est pas démontrée.

Cette validation ne peut pas se réduire à un simple clic. Gaetan Fron précise que chaque recommandation expose ses preuves, justifie son raisonnement et s’accompagne de l’historique des actions. Les personnes qui valident doivent être en mesure de contester l’origine des informations, les hypothèses retenues et la démarche suggérée. Il ajoute : « Le jugement humain reste indispensable dès lors qu’une responsabilité est engagée. »

Pour les équipes, la délégation fait passer de la gestion administrative à l’action stratégique : analyse des causes profondes, échanges avec les parties prenantes. Il précise : « L’objectif n’est pas de réduire le nombre d’experts, mais de leur permettre de concentrer davantage leur expertise là où elle crée le plus de valeur. »

Commencer avec un cas d’usage bien circonscrit

Gaetan Fron recommande de débuter avec un scénario net et bien borné, dont l’intérêt saute aux yeux et dont on peut aisément contrôler le résultat. Cette approche permet d’éprouver le mandat, la journalisation et les étapes d’approbation sur un périmètre restreint. On retrouve ces principes dans un autre article sur les droits d’accès des agents.

Photo : Yan Krukau / Pexels