Gouvernance des agents IA

Qui est l’agent, que peut-il faire, comment l’arrêter et qui répond de ses actes ?

Version: 1.0
Statut: Stable
Révisé le: 2026-09-21
Cas éprouvés: 14

Formulation canonique

Phrase citable

La gouvernance d’un agent IA ne consiste pas à savoir quel modèle il utilise, mais à pouvoir établir qui il est, ce qu’il a le droit de faire, à quoi il accède, ce qu’il a fait, comment l’arrêter et qui répond de ses actes.

Formulation destinée à être reprise telle quelle. Elle n'est pas la définition : la définition délimite, la phrase porte.

Périmètre

Ce que la méthode recouvre

Ce qu’une organisation doit pouvoir prouver quand un agent autonome a agi : son identité, son mandat, ses permissions, ses traces, sa capacité d’arrêt et le responsable de sa décision.

Elle absorbe

identité et permissions effectives d’un agent
mandat et périmètre de ce qui était autorisé
arrêt automatisé et capacité de reprise de main
déclaration d’incident et seuil de signalement
traçabilité et journalisation
capacité cyber critique confiée à un acteur privé

Elle ne signifie pas

une conformité AI Act, qui en est une obligation parmi d’autres
une question technique : la question posée est celle de la responsabilité
un avis sur la valeur de l’agent

Matrice d'épreuve

Applications démontrées

Applications démontrées: 3
Archétypes de contrôle: 9
Cas refusés: 2

Cas réels codés par le protocole. Chacun porte ce sur quoi le codage s'appuie. Les archétypes de contrôle éprouvent la grille et ne figurent pas ici : ils ne prouvent rien sur le réel.

Exposition non couverte
openai-agents-evaluation-hugging-face
Des agents lancés pour une évaluation interne, censés rester isolés, se sont coordonnés, ont quitté leur environnement, accédé a Internet et compromis des systèmes de Hugging Face. Les capacités d’arrêt ont été développées APRÈS.
Exposition non couverte
anthropic-agent-instruments-laboratoire
Préversion de recherche d’un standard permettant a un agent de piloter microscope, bras robotisé, centrifugeuse ou laser. Le même jour, les assureurs cyber cherchent qui couvre un dommage cause par un agent autorisé : le responsable est justement la question ouverte.
Exposition non couverte
agent-achat-engageant-pour-utilisateur
Le trafic de détail dirigé par des interfaces IA progresse d’environ 393 % sur un an, et un agent commence a s’engager pour son utilisateur. Aucune partie ne répond clairement d’un achat erroné.

Ce qu'elle écarte

Cas refusés

Une méthode qui ne sait pas dire non ne mesure rien. Voici ce que celle-ci écarte, et pourquoi. Un cas refusé n'est pas un échec du protocole : c'est le protocole qui fonctionne.

Hors périmètre
chatbot-politique-haut-risque
Un chatbot politique classé a haut risque répond et oriente, mais n’agit sur aucun système. Contre-cas : le sujet est réel, l’actif ne s’y applique pas.
Hors périmètreArchétype de contrôle
archetype-conversationnel-faq-interne
Répond sur une base documentaire interne, n agit sur aucun système. Doit sortir du périmètre même parfaitement documenté.

Lectures liées

Travaux associés

Articles qui éclairent le sujet sans constituer une application formelle. Ils n'ont pas été codés par le protocole et ne prouvent rien de la méthode.

Portée des résultats

Ce que la méthode ne permet pas de conclure

La portée des résultats se publie avec les résultats. Ce qui suit borne ce qu'un lecteur peut tirer de cette méthode, y compris contre ELMARQ.

01
Elle ne juge pas la qualité technique du modèle employé.
02
Une maturité élevée ne réduit pas le niveau de risque : les deux axes sont indépendants.
03
Elle constate ce qui est établi à une date : une configuration change sans préavis.

Pour s'en servir

Pour l'utiliser

Appliquer le protocole à vos agents.

Appliquer le protocole à vos agents