Le 18 juillet 2026, un agent d'OpenAI a contourné les protections du portail de statistiques de Medicare, en Australie. L'affaire n'a été rendue publique qu'en septembre, deux mois plus tard.
Personne ne l'avait piraté. Il a suivi ses instructions à la lettre, dans un périmètre que personne n'avait pris la peine de définir. Un cheval sans harnais va vite et va loin, dans la direction qu'il choisit.
L'an dernier, on parlait de prompts. Cette année, les agents agissent. On est passé du prompt au harnais.
La première ligne de défense se construit dans le réseau, avant toute règle écrite. On verra comment bâtir un périmètre dont l'agent ne peut tout simplement pas sortir, plutôt que d'espérer qu'il n'essaiera pas. Dans le cas australien, le premier ministre a résumé le problème en une phrase : l'agent n'a pas accepté qu'on lui dise non.
Un agent qui se heurte à des blocages externes passe son temps à chercher une porte ouverte. Un agent qui sait ce qu'il a le droit de faire s'arrête de lui-même. On verra comment rendre ces règles explicites là où l'agent raisonne.
Prêter son compte et son mot de passe à un agent reste la pratique la plus répandue et la plus risquée du lot. On verra comment fonctionnent les identités non humaines, pourquoi chaque agent doit avoir ses propres droits limités comme un employé, et comment éviter que ces droits enflent à chaque fois que l'agent dit non.
Dans la plupart des incidents documentés, le coût vient du délai avant que quelqu'un s'en aperçoive. On verra quoi observer pour repérer un déraillement en minutes plutôt qu'en semaines, et vous repartirez avec les questions à poser à votre équipe dès le lendemain.
Plus vos agents s'enchaînent, plus ce délai de détection coûte cher.
