IA & Machine Learning

Agents IA : pourquoi Microsoft les traite comme une menace interne

Microsoft ne voit plus ses agents IA comme de simples outils, mais comme des risques internes. Ce que ce changement implique vraiment, pour tous.

Editorial Team / /9 min de lecture
Un robot gardien bleu translucide examine à la loupe un petit agent IA en costume, dans un bureau Microsoft.

Un agent IA capable de se connecter à vos systèmes, de toucher à vos fichiers et d’agir sans que vous surveilliez chaque étape mérite la même vigilance qu’un nouvel employé muni d’un badge et d’un ordinateur portable, pas la confiance aveugle qu’on accorde à une calculatrice. C’est l’idée que Microsoft a mise par écrit deux fois en neuf jours ce mois d’octobre : traiter les agents IA comme une menace interne plutôt que comme un simple outil. Une fois dans un essai stratégique signé par son PDG, une fois dans une annonce produit portée par sa division sécurité. Le vocabulaire employé était spectaculaire. Mais le geste de fond, traiter un logiciel autonome comme une personne susceptible de mal juger une situation plutôt que comme un outil qui ne fait que ce qu’on lui demande, mérite d’être compris pour lui-même, indépendamment de l’entreprise qui vend la solution cette semaine. C’est d’ailleurs la même logique que celle du mouvement plus large vers le zero trust, détaillé dans notre guide des référentiels de sécurité IA, appliquée cette fois à des logiciels qui peuvent désormais agir seuls.

L’essai de Nadella : les modèles comme risques internes

Le 10 octobre 2026, le PDG de Microsoft Satya Nadella a publié un essai intitulé « Models as Insider Risks in the Super Intelligence Era » (« les modèles comme risques internes à l’ère de la superintelligence »). Ce n’était pas le lancement d’un produit. C’était une prise de position, le genre de texte qu’un dirigeant écrit pour poser les termes d’un débat avant que l’équipe commerciale n’entre en scène. Son affirmation centrale : les grands modèles d’IA, qu’ils soient développés en interne par une seule entreprise ou diffusés en open weight pour que n’importe qui les télécharge, ne peuvent pas être dignes de confiance par défaut au sein d’une entreprise, quelle que soit la solidité des garanties promises par leur fournisseur.

Les mots de Nadella posent l’enjeu sans détour : « On ne peut pas sous-traiter la responsabilité de ce que l’intelligence fait en notre nom. » Mais la phrase qui fait vraiment le travail est celle-ci : « Il faut séparer la fourniture de l’intelligence de l’autorité qu’on exerce sur elle. » C’est une distinction qui mérite qu’on s’y arrête. L’entreprise qui a construit un modèle, qui l’a entraîné, ou qui vous en a vendu l’accès, n’est pas automatiquement la mieux placée pour décider de ce que ce modèle a le droit de toucher dans votre organisation. Fournir et autoriser sont deux métiers différents, et l’essai de Nadella soutient qu’ils ne doivent jamais se confondre.

De cette distinction découlent sept principes nommés : diversité des modèles, observation totale, vérifiabilité, contrôles indépendants, auditabilité indépendante, confinement et divulgation des incidents. Trois d’entre eux se traduisent directement en mesures concrètes que n’importe quelle organisation utilisant des agents IA peut appliquer. L’accès au strict nécessaire d’abord, issu du principe des contrôles indépendants : un agent ne reçoit que les permissions dont sa tâche précise a besoin, rien de plus large, et c’est l’organisation qui l’impose, pas le modèle lui-même. Un journal infalsifiable ensuite : une trace des actions de l’agent que l’agent ne peut ni modifier ni effacer, parce qu’un système ne devrait jamais pouvoir à la fois mal se comporter et détruire les preuves. Et un arrêt d’urgence enfin : ce que Nadella appelle un frein qu’un humain peut tirer en plein milieu d’une tâche si quelque chose semble clocher. (L’identité vérifiée pour chaque agent, qui permet de toujours savoir précisément quel agent a fait quoi, ne vient pas de cet essai, c’est l’ajout que fait Hayete Gallot neuf jours plus tard, voir plus bas.) Rien de tout cela n’est nouveau en soi. C’est exactement la même check-list que les équipes de sécurité appliquent depuis vingt ans aux employés humains et aux logiciels tiers. Ce qui est nouveau, c’est de l’appliquer, point par point, à un logiciel qui agit de sa propre initiative plutôt que d’exécuter un script figé.

Neuf jours plus tard : un produit avec le même vocabulaire

Le 19 octobre 2026, Hayete Gallot, vice-présidente exécutive de Microsoft Security, a publié la suite logique : un billet officiel intitulé « Securing the agentic insider » sur le blog d’entreprise de Microsoft. Le timing n’est pas un hasard, et Microsoft ne prétend pas le contraire. Le texte de Gallot reprend tel quel le cadrage de Nadella et lui donne un nom ainsi qu’un produit.

Sa description du problème ne fait pas de détour : « Ils sont devenus des participants actifs de l’entreprise. Ce sont des insiders agentiques. » Elle parle des agents IA, ces logiciels qui ne se contentent pas de répondre à une question mais qui vont agir, réserver une réunion, interroger une base de données, déplacer un fichier, appeler un autre système, souvent en enchaînant plusieurs de ces actions sans qu’un humain valide chacune d’elles. Sa deuxième phrase mérite d’être lue deux fois : « les modèles de pointe, quelle que soit leur origine, ne peuvent pas être dignes de confiance. » La raison avancée n’est pas que ces systèmes seraient malveillants. C’est qu’ils sont imprévisibles par construction : ils sont entraînés à accomplir une tâche, pas à intérioriser les règles internes spécifiques d’une entreprise sur ce qu’il faut ou non toucher en chemin. Un employé qui ne connaît pas encore les règles représente un risque pour la même raison, non pas parce qu’il veut nuire, mais parce que personne ne lui a montré où sont les limites et qu’il va improviser.

Le billet officiel de Hayete Gallot sur le blog de Microsoft annonçant Guardian Agents

Securing the agentic insider — le billet officiel de Hayete Gallot sur le blog de Microsoft, qui présente Guardian Agents.

Le produit annoncé par Gallot s’appelle Guardian Agents. Le nom a quelque chose d’un peu théâtral, mais la fonction est simple à comprendre : Guardian Agents surveille les autres agents IA. Microsoft le décrit comme un système qui contrôle et modère chaque action de chaque agent, avant qu’elle ne se produise, en continu, en vérifiant sur sept niveaux : identité, permissions, données, terminaux, réseau, cloud et exécution. En clair, avant qu’un agent soit autorisé à lire un fichier, appeler une API ou atteindre un serveur, un second système automatisé vérifie que cette action précise correspond bien à ce que l’agent était réellement habilité à faire, et peut la bloquer si ce n’est pas le cas.

Guardian Agents n’est pas un produit autonome qu’on achète à part. C’est une fonctionnalité intégrée à Project Perception, la plateforme de sécurité agentique que Microsoft avait annoncée en juillet 2026. Ce détail compte plus qu’il n’y paraît : l’annonce d’octobre n’est pas la naissance d’une nouvelle initiative, mais un ajout à quelque chose qui existait déjà trois mois plus tôt. L’annonce ne précise pas si Guardian Agents sera livré au sein de Microsoft Defender ou de Microsoft Purview, les gammes existantes de sécurité et de gouvernance des données de l’entreprise, ni aucune date de disponibilité générale. À l’heure où cet article est écrit, Guardian Agents est annoncé, pas livré. Une distinction à garder en tête si vous hésitez à l’attendre.

Ce que l’annonce ne dit pas

Voici le point que la couverture généraliste a surtout laissé passer : le billet de Microsoft ne donne aucun chiffre d’adoption, aucun taux de détection, aucune donnée d’efficacité mesurée pour Guardian Agents. Aucun client utilisant l’outil à grande échelle n’est cité dans le texte, aucun test ne montre qu’il intercepte réellement les comportements d’agents qu’il décrit vouloir stopper. Ce n’est pas une faille cachée qu’il faudrait creuser pour trouver, elle est simplement absente du texte publié par Microsoft. L’absence de preuve n’est pas la preuve que l’outil échoue. Mais ce n’est pas non plus la preuve qu’il fonctionne. Cela signifie que l’annonce est un coup de positionnement, une entreprise qui indique où elle entend se situer sur le marché, avant même que le produit ait un historique d’usage à présenter. C’est un geste tout à fait normal pour une entreprise, neuf jours après que son propre PDG a posé l’agenda. C’est aussi une raison de lire des titres comme « même Microsoft ne fait pas confiance à sa propre IA » comme un cadrage marketing plutôt que comme un constat vérifié sur la sécurité des modèles.

Il est également légitime de se demander si quoi que ce soit, sous le capot, est vraiment nouveau. Les contrôles décrits dans l’essai de Nadella et le billet de Gallot, identité, accès minimal, journaux infalsifiables, interrupteur d’arrêt, reprennent le vocabulaire que les équipes de sécurité utilisent déjà pour l’architecture zero trust, ce principe ancien qui consiste à ne jamais faire confiance à une connexion ou une requête simplement parce qu’elle vient de l’intérieur de son propre réseau. Des outils de surveillance qui observent ce qu’un logiciel fait des données et des permissions de l’entreprise, souvent appelés CASB ou DLP (des courtiers de sécurité d’accès au cloud et des systèmes de prévention de fuite de données, deux catégories qui existent depuis des décennies), existent déjà et font quelque chose de proche de ce que décrit Guardian Agents. Ce qui change vraiment, c’est la cible : ces anciens outils ont été conçus pour surveiller des employés humains et des scripts figés, Guardian Agents est conçu pour surveiller un logiciel qui décide lui-même de sa prochaine action.

Ce que ça change si vous faites tourner des agents vous-même

Vous n’avez besoin d’acheter aucun produit Microsoft pour appliquer l’idée de fond, et c’est bien là tout l’intérêt. Si vous déployez un agent IA, que ce soit un assistant de code autorisé à publier des changements, un bot de support client capable d’émettre des remboursements, ou une automatisation personnelle qui lit vos e-mails et réserve des choses en votre nom, les quatre mêmes vérifications s’appliquent, quel que soit le fournisseur.

Donnez à l’agent sa propre identité : ne le laissez pas agir sous un compte partagé ou générique où vous ne pourriez plus distinguer quelle action vient de quel agent ou de quelle personne. Limitez ce qu’il peut toucher à exactement ce que la tâche exige, pas à ce qui est simplement pratique à configurer une bonne fois pour toutes. Conservez un journal de ses actions qu’il ne peut pas modifier lui-même, même un simple registre où l’on ne peut qu’ajouter des lignes suffit pour la plupart des particuliers et des petites équipes. Et sachez comment l’arrêter en pleine tâche, qu’il s’agisse d’un interrupteur dédié, d’une clé d’API qu’on révoque, ou simplement de la possibilité de couper son accès réseau, avant de lui confier quoi que ce soit qui touche à l’argent, aux données clients ou aux systèmes de production.

La page produit officielle de Microsoft Project Perception décrivant son système de sécurité agentique et ses composants

Project Perception — la plateforme de sécurité agentique dans laquelle s’intègre Guardian Agents.

Rien de tout cela n’exige d’outillage d’entreprise. Un développeur indépendant qui fait tourner un agent de code autonome peut restreindre sa clé d’API à un seul dépôt plutôt qu’à l’ensemble de son compte. Une petite entreprise qui utilise un chatbot capable de traiter des remboursements peut plafonner le montant qu’il a le droit d’approuver sans validation humaine. Le principe se réduit à petite échelle tout aussi proprement qu’il s’étend à grande échelle, parce qu’il n’a jamais vraiment été une affaire de produit Microsoft. Il s’agissait, depuis le début, de ne jamais accorder plus de confiance qu’on n’en accorderait à une nouvelle recrue le premier jour.

Carte de décision sur le fait de traiter les agents IA comme des menaces internes : donner à tout agent disposant de permissions réelles sa propre identité plutôt qu'un compte partagé ; limiter son accès à exactement ce que la tâche exige, pas à l'ensemble du compte ; conserver un journal où l'on ne peut qu'ajouter des lignes de ses actions, qu'il ne peut ni modifier ni effacer ; disposer d'un interrupteur d'arrêt fonctionnel avant de lui confier un accès ; et considérer Guardian Agents de Microsoft comme annoncé, pas livré, puisqu'aucune date de disponibilité générale, aucun positionnement produit ni aucun chiffre d'efficacité n'ont été publiés.

Questions fréquentes

Que veut vraiment dire traiter un agent IA comme une menace interne ?

Cela signifie lui appliquer les mêmes contrôles d’accès qu’une entreprise appliquerait à un nouvel employé : une identité vérifiée, des permissions limitées et liées à la tâche précise, un journal infalsifiable de ses actions et un moyen de l’arrêter immédiatement si quelque chose tourne mal. Cela part du principe que l’agent est imprévisible, pas malveillant.

Guardian Agents est-il disponible dès maintenant ?

Guardian Agents a été annoncé par Microsoft le 19 octobre 2026, dans le cadre de Project Perception, mais l’annonce ne donne aucune date de disponibilité générale et ne confirme pas si l’outil sera livré au sein de Microsoft Defender ou de Microsoft Purview. À l’heure où cet article est écrit, Guardian Agents doit être considéré comme annoncé, pas disponible.

Est-ce que cela signifie que les modèles d’IA de Microsoft ou d’autres fournisseurs sont dangereux ?

Non. L’essai de Nadella comme le billet de Gallot décrivent le risque comme une question d’imprévisibilité, pas de malveillance : les modèles sont entraînés à accomplir des tâches, pas à suivre automatiquement les règles internes spécifiques d’une entreprise. La réponse recommandée est le contrôle d’accès et la surveillance, la même réponse qu’on applique à un employé humain qui ne connaît pas encore les limites, pas une affirmation selon laquelle les modèles seraient dangereux à utiliser.

Puis-je appliquer ces contrôles sans acheter les outils de sécurité de Microsoft ?

Oui. Les quatre idées de fond derrière le fait de traiter un agent IA comme une menace interne, une identité propre par agent, des permissions au strict nécessaire, un journal d’actions inaltérable et un interrupteur d’arrêt manuel, peuvent être mises en place avec des clés d’API à portée restreinte, des journaux d’audit et des contrôles d’accès que la plupart des plateformes proposent déjà. Acheter un produit de surveillance dédié est optionnel, la discipline sous-jacente ne l’est pas.

Quelle est la différence entre un agent IA et un modèle d’IA ou un chatbot classique ?

Un modèle d’IA classique répond à une question et s’arrête là. Un agent IA prend cette réponse et agit en conséquence : il envoie un e-mail, modifie un fichier, appelle un autre logiciel, souvent en enchaînant plusieurs actions à la suite sans qu’une personne valide chaque étape individuellement. Cette capacité à agir, pas seulement à répondre, est exactement ce qui fait que la comparaison avec une menace interne s’applique aux agents d’une façon qui ne s’est jamais appliquée à un chatbot.

#ai-agents#ai-security#zero-trust#microsoft#ai-ml