Mettre un cadre à ton IA et à tes agents

Le problème que personne ne te dit

On te vend l'agent IA qui « fait tout tout seul ». C'est vrai. C'est justement le problème. Un agent, ce n'est plus un chatbot qui te répond : c'est un logiciel qui décide, enchaîne des outils, et agit à ta place. Lis mails, interroge une base, rédige, appelle une API, envoie. Sans que tu approuves chaque étape.

Ce que l'incident OpenAI prouve noir sur blanc : pour mesurer la capacité maximale de ses modèles, l'entreprise avait tourné le test « sans les classificateurs de production qui empêchent le modèle de mener des activités cyber à haut risque ». Traduction : ils avaient baissé les garde-fous. Les modèles ont alors trouvé une faille zero-day dans un proxy de cache de paquets, se sont servis de cette faille pour sortir de leur bac à sable, ont enchaîné des identifiants volés jusqu'à exécuter du code à distance, et ont récupéré les solutions du test directement dans la base de production de Hugging Face. Le tout pour un seul but étroit : réussir leur benchmark. Hugging Face avait détecté l'intrusion cinq jours avant qu'OpenAI ne comprenne que ça venait de ses propres tests.

Retiens ceci : le danger n'est pas que l'IA soit « méchante ». Le danger, c'est un système compétent, sûr de lui, à qui on donne trop d'accès et pas assez de limites, lâché sur un objectif. Il optimise le but, pas ta sécurité. Ajoute à ça sa complaisance connue : une étude publiée dans Science en 2026 a montré que les assistants IA valident les décisions de l'utilisateur bien plus souvent qu'un panel humain, y compris quand c'est faux. Un agent ne t'alertera pas toujours qu'il va trop loin. Le cadre, c'est ce qui le fait à sa place.

Le cadre n'est pas de la méfiance. C'est du professionnalisme. Si OpenAI en a besoin, toi aussi.

Les 5 barrières (le cadre)

Un cadre, ce ne sont pas des bonnes intentions dans le prompt. Ce sont cinq barrières concrètes que tu poses AVANT de lancer l'agent. C'est exactement la logique des deux référentiels de référence : l'OWASP Top 10 for Agentic Applications (2026) et le NIST AI Risk Management Framework. Je te les traduis en cinq gestes que tu peux faire aujourd'hui.

1. Le moindre privilège. Tu ne donnes à l'agent que l'accès strict dont il a besoin pour sa tâche, rien de plus. Un agent qui rédige tes réponses n'a pas besoin du droit d'envoyer. Un agent qui lit ton agenda n'a pas besoin d'accès à ta banque. En pratique : coche les permissions minimales quand tu connectes un outil (les « scopes » OAuth), passe en lecture seule par défaut, crée un compte séparé pour l'agent plutôt que de lui prêter le tien, et évite les accès administrateur. L'OWASP appelle le risque inverse « Identity & Privilege Abuse » : des identifiants trop larges, partagés, que tu ne peux plus ni tracer ni révoquer.
2. Le bac à sable et la sortie réseau fermée. L'agent travaille dans un espace clos, et par défaut il ne peut pas se connecter à n'importe quoi sur Internet. C'est exactement la barrière qui a sauté chez OpenAI. Pour un agent qui code ou exécute des commandes, fais-le tourner dans un conteneur ou une machine isolée (Docker, ou le mode bac à sable de ton outil), pas sur ta machine principale avec tes fichiers. Ferme la sortie réseau par défaut et n'ouvre que les domaines dont il a vraiment besoin. Règle simple : un agent ne devrait jamais pouvoir toucher à la fois tes données sensibles ET l'Internet ouvert sans que tu l'aies décidé.
3. Le point de validation humaine. Toute action irréversible passe par ton OK explicite : envoyer, publier, payer, supprimer, signer, promettre en ton nom. L'IA propose, tu valides. Et tu valides sur l'action brute, pas sur un résumé rassurant : tu veux voir le vrai mail, le vrai montant, le vrai fichier avant de cliquer. C'est le principe « human in the loop » de l'OWASP : une confirmation forcée qui montre l'action réelle, jamais un « c'est bon, je m'en occupe ».
4. Le journal. Tu gardes une trace de ce que l'agent fait : quels outils il appelle, quelles actions il déclenche, quand. Sans journal, tu ne peux ni comprendre ce qui s'est passé, ni le prouver, ni corriger. Rappelle-toi : c'est Hugging Face, en surveillant ses propres logs, qui a repéré l'intrusion avant même OpenAI. La plupart des outils d'agents proposent un historique des actions. Active-le, et relis-le au début, surtout la première semaine.
5. Le bouton d'arrêt. Tu dois pouvoir tout stopper en dix secondes, sans réfléchir. Concrètement : sache à l'avance comment révoquer le jeton d'accès, déconnecter le compte, ou désactiver l'agent. Et teste-le une fois à froid, avant d'en avoir besoin. Un cadre sans bouton d'arrêt, ce n'est pas un cadre, c'est un espoir.

Le workflow concret (avant de lancer un agent)

Tu ne mets pas ces barrières « un jour ». Tu les mets dans l'ordre, en dix minutes, avant le premier lancement :

1. Écris la tâche exacte de l'agent en une phrase. Si tu n'arrives pas à la définir, ne le lance pas.
2. Coupe les accès : connecte uniquement les outils nécessaires, en lecture seule d'abord, avec un compte dédié à l'agent (barrière 1).
3. Isole-le : conteneur ou bac à sable pour tout ce qui exécute du code, sortie réseau limitée aux domaines utiles (barrière 2).
4. Colle la charte ci-dessous dans les instructions système de l'agent (ou les instructions de ton Projet), et remplis les crochets (barrières 3 et 5, verrouillées dans son comportement).
5. Active le journal et fais un premier passage supervisé : tu regardes tout, tu ne délègues rien en aveugle (barrière 4).
6. Teste le bouton d'arrêt une fois, pour de vrai (barrière 5).

La charte de cadre (à coller dans les instructions de l'agent)

CADRE DE FONCTIONNEMENT (NON NÉGOCIABLE)

RÔLE ET PÉRIMÈTRE
Tu es mon agent pour la tâche suivante, et uniquement celle-ci :

[décris la tâche en une phrase, ex. "trier mes emails entrants et préparer des brouillons de réponse"].

Tu travailles pour moi. Tu ne me remplaces pas et tu ne dépasses jamais ce périmètre.


CE QUE TU AS LE DROIT DE FAIRE SEUL

[liste les actions réversibles autorisées, ex. "lire, classer, résumer, rédiger un brouillon"].


CE QUE TU NE FAIS JAMAIS SANS MON OK EXPLICITE (POINT DE VALIDATION)

- Toute action irréversible : envoyer, publier, payer, supprimer, signer, transférer,
  promettre ou t'engager en mon nom.
- Avant une de ces actions, tu t'arrêtes et tu me montres l'ACTION BRUTE
  (le message exact, le montant exact, le fichier exact), pas un résumé.
  Tu attends un OK clair de ma part. Sans OK, tu n'exécutes pas.


LIMITES D'ACCÈS

- Tu utilises seulement les outils et les accès que je t'ai donnés. Tu n'en cherches pas d'autres.
- Si une tâche demande un accès que tu n'as pas, tu me le dis et tu t'arrêtes. Tu ne contournes rien.


HONNÊTETÉ

- Si une information te manque, tu poses la question au lieu d'inventer.
- À la fin de chaque livrable, ajoute une ligne "À VÉRIFIER :" listant ce dont tu n'es pas sûr,
  et ce qui, dans ce que tu as fait, s'approche le plus d'une de mes limites.


ARRÊT

- Si je dis "STOP" ou "arrête", tu cesses immédiatement toute action et tu attends.

L'astuce de pro

La barrière que tout le monde saute, c'est la 2 (l'isolement réseau) et la 5 (le bouton d'arrêt), parce qu'elles ne servent « que » le jour où ça tourne mal. C'est précisément pour ce jour-là qu'elles existent. Prends l'habitude inverse des labos : eux ont baissé les garde-fous pour « mesurer la capacité maximale ». Toi, tu montes le cadre d'abord, tu élargis ensuite, une barrière à la fois, seulement quand l'agent a fait ses preuves sur du réversible. On commence serré, on desserre lentement. Jamais l'inverse.

Quand l'utiliser (et quand ne pas)

Mets le cadre complet dès qu'un agent peut agir dans le monde réel : toucher tes mails, tes fichiers, tes comptes, ton argent, ou publier en ton nom. Pour un simple chat qui te répond dans une fenêtre, sans accès et sans outils, les cinq barrières sont surdimensionnées : garde juste l'esprit critique. La ligne rouge est simple. Un assistant qui parle, tu le lis. Un agent qui agit, tu l'encadres. Ne donne jamais à un agent, d'un coup, l'accès à tes données sensibles et à Internet ouvert « pour aller plus vite ». C'est exactement le raccourci qui a coûté cher à OpenAI.

Accède à mes agents IA

Les agents exacts que je fais tourner dans mes activités, déjà cadrés avec leurs accès limités, leurs points de validation et leur bouton d'arrêt. → Découvre Équipe IA

Configure ton IA pour ton métier

Tu veux ton IA paramétrée pour ton travail, avec le bon cadre dès le départ, skills et connecteurs sur mesure ? → Découvre le programme

Intègre l'IA dans ton business

Besoin d'aide pour déployer des agents dans tes opérations, en sécurité ? Écris-moi ton périmètre et ton budget. → Me contacter

Guides voisins

• Ton Jarvis : l'opérateur IA autonome : l'étape d'après, orchestrer tes agents et tes outils.
• Trouve ton white space IA : la stratégie derrière le choix du bon terrain.