Confier un agent IA comme on confie une direction : la charte de délégation en sept questions

Prenez une entreprise multi-sites : une trentaine d'agences, quelques centaines de personnes, un siège. La direction générale ne voit ni la commande passée ce matin à Lyon, ni la dérogation accordée à un client à Nantes, ni le recrutement lancé à Lille. Elle en reste responsable. C'est pour cela qu'elle délègue, et qu'elle délègue de deux manières : à ses directeurs, un mandat (des décisions, des montants, des remontées, un reporting, une responsabilité) ; à ses employés, des missions et des procédures. Le mandat relève du directeur, la procédure relève de l'employé. Toute la gouvernance tient dans cette distinction.

Lorsqu'un agent IA entre dans l'entreprise, cette discipline disparaît souvent. On lui donne un objectif, quelques instructions, des accès, et l'on regarde ce qu'il produit. S'il réussit, son périmètre s'élargit. Il arrive même qu'une équipe le branche seule sur ses données sans que personne au siège ne le sache : une délégation que personne n'a accordée. Le risque n'est pas que l'agent manque d'intelligence ; c'est que l'entreprise lui ait confié, ou laissé prendre, un pouvoir qu'elle n'a jamais gouverné.

Après vingt ans de direction générale, et depuis que je conçois et exploite moi-même des agents IA en production, ma conviction est simple : un agent IA ne devrait jamais recevoir plus de liberté qu'un dirigeant humain placé dans une fonction comparable. Voici les sept questions que je pose, et que vous pouvez poser à votre prochain comité.

Les sept questions

1. Le mandat. Une personne extérieure au projet peut-elle expliquer, en lisant le mandat, ce que l'agent a le droit de faire et ce qu'il n'a pas le droit de faire ? « Optimise nos achats » n'est pas un mandat : analyser, proposer, modifier, commander sont des pouvoirs différents.

2. L'autonomie, action par action. Chaque action sensible a-t-elle un niveau explicite (autonome ; autonome avec compte rendu ; sous approbation ; interdite) ? Le classement dépend de la conséquence, pas de la difficulté technique. Ce qui engage l'entreprise, touche un tiers ou se défait mal passe sous approbation humaine.

3. La preuve. Le résultat annoncé peut-il être confirmé par une donnée indépendante du texte produit par l'agent ? Un agent peut rendre un compte rendu impeccable et faux ; il m'est arrivé qu'un agent annonce six fichiers indexés dont les six étaient en erreur. Ce qui n'est pas vérifié ne se présente pas comme terminé.

4. Le journal. En cas d'incident, pouvons-nous reconstituer les faits sans dépendre de la mémoire des personnes présentes ? Chaque agent a une identité propre, chaque alerte un accusé de réception, chaque silence une relance.

5. L'arrêt. Qui peut arrêter l'agent, dans quelles circonstances, et comment l'activité continue-t-elle ensuite ? Un bouton d'arrêt jamais actionné est une hypothèse.

6. La mémoire. Savons-nous quelles informations influencent aujourd'hui le comportement de l'agent, et qui les a validées ? Une mémoire non gouvernée transforme un système cohérent en suite de décisions que plus personne n'explique.

7. Le responsable. Une personne précise répond-elle à la fois du risque et de la valeur produite ?

Le point sur lequel on se trompe de bonne foi

Un directeur qui découvre ce qu'un agent peut faire voudra, légitimement, en tirer le maximum. Il en confiera la garde à un collaborateur qui surveille l'outil, lit ses comptes rendus, corrige ses paramètres, signale ce qui cloche. Ce collaborateur exécute une procédure de surveillance. Il ne porte pas la responsabilité de ce que l'agent décide ou déclenche. Elle reste celle du directeur qui a autorisé l'agent.

Un gynécologue confie la surveillance d'une grossesse à une sage-femme : délégation utile, qui libère du temps médical. Si un incident survient à la naissance, personne ne considère qu'il s'est déchargé de la naissance en déléguant la surveillance. Il a délégué une tâche ; il a gardé la responsabilité de la décision. L'agent est la grossesse que l'on surveille, l'employé qui le garde est la sage-femme, le directeur reste le médecin. Un comité qui ne sait pas dire, pour chaque agent, qui est le médecin n'a pas délégué : il a installé un outil et espéré.

Ce que cela change pour un dirigeant de PME ou d'ETI

Vous n'avez pas besoin d'être technicien pour gouverner vos agents. Vous avez besoin de faire ce que vous savez déjà faire avec vos directeurs : écrire le mandat, fixer les seuils, exiger la preuve, nommer le responsable. L'ISO/IEC 42001, première norme de management de l'IA, ne dit rien d'autre ; elle en fait un cadre certifiable, utile quand vos grands clients commencent à le demander. Le règlement européen sur l'IA a reporté ses obligations les plus lourdes à fin 2027 et 2028 ; ce délai n'est pas une raison d'attendre, l'inventaire de vos agents et l'écriture de leurs mandats produisent de la valeur dès maintenant.

Si l'une des sept réponses reste floue, l'agent n'est pas prêt à recevoir davantage d'autonomie. Ce n'est pas un échec ; c'est l'information qui manquait pour décider.

---