LE RISQUE PRINCIPAL DES AGENTS IA N’EST PAS
QU’ILS SE TROMPENT. C’EST QU’ILS FONCTIONNENT !
AVERTISSEMENT : Cet article s’adresse aux managers qui souhaitent atteindre l’excellence opérationnelle dans leur périmètre de responsabilité grâce à des agents IA. Il n’aborde ni le déploiement des agents IA à l’échelle de l’entreprise, ni leur usage comme outils de production par les équipes informatiques, les rédactions ou les agences. Néanmoins, compte tenu de la complexité de ce sujet, tout professionnel curieux pourra y trouver des idées applicables à son propre contexte.
Un agent bien configuré exécutera fidèlement le processus que vous lui confiez… même s’il est redondant, absurde ou hérité d’une contrainte qui a disparu il y a six mois. Vous aurez ainsi industrialisé votre inefficacité. Dans mon dernier livre, Architecte de l’intelligence artificielle, les agents IA sont présentés avec beaucoup de prudence. Ce n’est pas un oubli, c’est une décision. Le problème ne vient pas seulement de la maturité encore relative de la technologie. Il vient surtout de processus mal conçus et d’usages encore insuffisamment maîtrisés.
Un agent IA est un système capable de poursuivre un objectif avec une certaine autonomie. Selon son degré de sophistication, il peut analyser une situation, choisir ou planifier des actions, utiliser les outils auxquels il a accès, contrôler certains résultats et adapter la suite de son exécution. Un agent IA peut, par exemple, piloter un projet : surveiller l’avancement, détecter les retards, relancer les responsables, actualiser le tableau de bord et alerter en cas de risque.
Il peut avoir différents niveaux d’autonomie :
- Accès en lecture seule : il observe, analyse et alerte.
- Écriture sous validation : il prépare l’action, puis demande l’accord du manager avant de l’exécuter.
- Autonomie limitée : il exécute seul certaines actions.
- Accès total : il peut agir seul sur tout votre environnement numérique.
FAIRE FACE AUX RISQUES
Un agent peut causer des dégâts considérables à l’intérieur de son périmètre. La bonne architecture consiste donc à lui fournir des autorisations révocables, à créer un journal de ses actions et à prévoir une validation humaine pour toute opération sensible. Des droits limités réduisent les risques, mais ne les suppriment pas. Les principaux risques sont :
- Erreur d’interprétation : il comprend mal une consigne, un message ou une situation et réalise une action inappropriée.
- Évolution des modèles et des outils : une mise à jour du modèle, des instructions, des connecteurs ou de l’environnement peut modifier le comportement de l’agent et rendre nécessaire une nouvelle validation de son fonctionnement.
- Propagation à grande vitesse : une erreur minime peut être répétée sur des centaines de tâches, documents ou destinataires.
- Fuite d’informations : il peut transmettre une donnée confidentielle au mauvais interlocuteur ou à un service externe.
- Manipulation (injection de prompt indirecte) : un courriel, un document ou une page Web peut contenir des instructions masquées ou malveillantes destinées à détourner le comportement de l’agent à votre insu lorsqu’il traite cette donnée.
- Usurpation implicite : ses messages peuvent être perçus comme provenant directement du manager, alors que celui-ci ne les a pas lus.
- Droits mal configurés : une simple erreur de paramétrage peut lui ouvrir un périmètre beaucoup plus large que prévu.
- Routine : plus l’agent fonctionne correctement sur une longue période, plus l’utilisateur risque de lui accorder une confiance excessive et de relâcher sa vigilance.
- Perte de compétence : si l’agent réalise de nombreuses actions à la place du manager, le manager junior n’apprend jamais à le faire.
- Coût financier : les boucles agentiques peuvent multiplier les appels aux modèles et aux outils. Mal paramétrées ou insuffisamment plafonnées, elles peuvent donc générer des coûts significatifs et parfois difficiles à anticiper.
De ce fait, il est préférable de respecter quelques règles : action progressive & validation humaine pour tout ce qui est sensible, irréversible ou adressé à l’extérieur. Il est également recommandé de conserver un journal des actions, de fixer des limites quantitatives, de prévoir un mécanisme d’annulation et de réexaminer régulièrement les autorisations. Qui le fera réellement alors qu’il est noyé dans les urgences quotidiennes ? La réponse conditionne tout le reste. Une gouvernance qui repose sur la discipline individuelle ne tiendra pas. Soit les garde-fous sont intégrés à l’outil (journal automatique, plafonds par défaut, expiration programmée des autorisations), soit ils n’existeront que sur le papier. Un agent qui exige davantage de supervision qu’il ne libère de temps n’est pas une automatisation : c’est une nouvelle charge de travail.
MA POSITION SUR LES AGENTS IA
Dans le déploiement des agents IA, je vous invite à la prudence pour 5 raisons :
- Le mécanisme évoqué en ouverture a une conséquence que l’on sous-estime : l’automatisation ne se contente pas de préserver l’inefficacité, elle en efface les symptômes. Prenons un processus de validation inutilement complexe. Aujourd’hui, ses défauts sont visibles : retards, relances, agacement, erreurs. Un agent peut faire disparaître une partie de ces symptômes en relançant automatiquement les acteurs et en faisant circuler les documents plus vite. Le processus semble soudain fonctionner. Pourtant, personne ne s’est demandé si les trois validations étaient encore nécessaires. L’agent n’a pas supprimé la bureaucratie : il l’a rendue plus efficace et donc moins visible. Le biais de statu quo, la charge des urgences et le coût politique d’une remise à plat font le reste : on automatise parce que c’est plus rapide que de penser. Par ailleurs, automatiser un processus bancal le rend encore plus difficile à modifier par la suite… puisqu’il a été automatisé ! On devrait donc optimiser ce qui va être industrialisé à grande échelle, mais on peut expérimenter rapidement sur le reste.
- La mise en place des agents peut conduire à créer des mondes parallèles. Les équipes chargées de ces déploiements sont majoritairement issues de filières techniques et nous les sollicitons pour automatiser des processus humains : management, organisation. Les dimensions sociologiques et psychologiques, les non-dits et les conflits peuvent être sous-estimés. Tout le monde parle le français, mais les acteurs impliqués (experts IA & managers) vivent en réalité dans des mondes parallèles. Pour éviter cela, il faut une démarche d’intelligence collective qui favorise l’hybridation. Une approche trop technologique va chercher à maximiser ce qu’il est techniquement possible d’automatiser. En revanche, la sagesse managériale nous aidera à trouver le niveau d’automatisation pertinent au regard des contraintes et des intérêts des différentes parties prenantes.
- L’écosystème est encore en phase d’apprentissage. Imaginez qu’on vous donne les clés d’une voiture alors que le Code de la route est encore en cours d’écriture : le véhicule fonctionne, mais les pratiques, les garde-fous et les responsabilités ne sont pas encore totalement stabilisés. Au lancement d’un logiciel, il y a souvent des bugs. Les premiers clients servent, à l’insu de leur plein gré, de banc d’essai. Votre devise pourrait être : ne pas être les premiers sur les usages critiques, mais sur un périmètre d’apprentissage restreint.
- Même si la technologie était parfaitement mature, nos usages ne le sont pas encore. Nous manquons collectivement de recul, de méthodes éprouvées et d’expérience sur la délégation de tâches à des agents IA . Une variation dans les instructions, le contexte disponible, les données consultées ou l’état des outils peut modifier le résultat.
- Tous les problèmes managériaux ne se prêtent pas au même niveau de délégation. Lorsque les règles sont stables, les résultats vérifiables et les exceptions limitées, l’agent peut agir. Lorsque l’enjeu consiste à obtenir l’adhésion, arbitrer des intérêts contradictoires ou comprendre un problème encore mal défini, l’IA est utile comme un outil d’analyse et de questionnement (mode coach) et non comme un agent autonome. Pour aller plus loin : https://www.excellence-decisionnelle.com/2023/05/27/pyramide-des-4-decideurs/ .
Nous sommes face à des risques qui ne doivent pas nous empêcher de saisir les nombreuses opportunités offertes par les agents IA. L’objectif est de définir ce qu’il faut leur déléguer, dans quelle situation, avec quels droits et sous quelle supervision. Avant d’automatiser, optimisons et demandons-nous quelle autonomie nous sommes réellement prêts à leur confier.
De ces 5 constats, nous pourrions définir 4 règles pour déployer des agents IA :
- N’automatisez pas un processus que vous n’avez pas d’abord interrogé.
- Ne confondez pas ce qui est automatisable avec ce qu’il est souhaitable de déléguer.
- Augmentez l’autonomie progressivement en fonction du niveau de maîtrise individuel et collectif.
- Réservez l’agent à des situations où les règles et les résultats sont suffisamment observables.
Pour aller plus loin sur ce sujet et découvrir des usages d’agents IA conçus spécialement pour les managers : Architecte de l’intelligence artificielle.
>>> Conférence : Gérez les risques décisionnels grâce à l’intelligence artificielle. Pour vous inscrire…
>>> Formation : L’intelligence artificielle pour les managers. Pour vous inscrire…
>>> Conférence : Devenez architecte des décisions complexes. Pour vous inscrire…
>>> Formation : L’architecture des décisions complexes. Pour vous inscrire…
Abonnez-vous à ce blog pour recevoir les nouvelles publications…
AVIS DE NAISSANCE IMMINENTE
Je profite de cet article pour vous annoncer le lancement en octobre d’un nouveau blog qui sera composé de courtes vidéos sur le thème de l’intelligence artificielle et de l’intelligence collective : Les minutes du décideur éclairé. Certains lecteurs m’ont demandé des livres audio, ce sera encore mieux !
Le site est toujours en construction, abonnez-vous pour recevoir les premières vidéos : https://olivierzara.com/abonnement/
