Sécurité
Microsoft Research dit que sa technique Lazarus peut piéger un agent d’IA en réécrivant moins de dix neurones dormants sans entraînement, mais qu’elle exige un accès en écriture aux poids du modèle
Microsoft Research : moins de dix neurones dormants réécrits piègent un agent sans entraînement, si l’on peut écrire les poids.
Microsoft Research a publié « Lazarus » le 10 novembre, une technique qui transforme un modèle en porte dérobée dormante en reprogrammant moins de dix neurones qui s’activent rarement, sans phase d’entraînement. Ce n’est pas une attaque à distance contre des modèles hébergés : l’attaquant doit pouvoir modifier le fichier de poids, par exemple un point de contrôle à poids ouverts altéré.
L'essentiel
- L’affirmation : Microsoft Research dit que reprogrammer moins de 10 neurones dormants suffit à piéger un agent construit sur le modèle, sans entraînement.
- La discrétion : le modèle modifié réussit les évaluations standard et se comporte normalement jusqu’à ce qu’un déclencheur apparaisse. L’exemple de Microsoft est un changement de date : une fois minuit passé en 2027, l’agent émet une commande qui télécharge et exécute le code d’un attaquant.
- Le prérequis : The Next Web dit qu’il faut seulement une puissance de calcul d’inférence et un accès en écriture au point de contrôle. Microsoft dit que Foundry intègre les modèles à poids ouverts via des contrôles d’approvisionnement qui relient chaque modèle à son origine.
- Les chiffres : Cloud Security Alliance et MLQ.ai décrivent sept neurones dans le cas démontré. Startup Fortune rapporte 98,8 % de réussite sur Nemotron et dit que le détecteur de Microsoft a manqué certaines copies modifiées.
Pourquoi des neurones dormants
Les grands modèles contiennent des neurones qui ne s’activent presque jamais sur du texte ordinaire. En réécrire quelques-uns permet d’ajouter un comportement invisible jusqu’à ce qu’une entrée précise le réveille.
Ce que cela change en pratique
Le risque porte sur l’intégrité et la provenance des poids : d’où vient un point de contrôle et si quelqu’un a pu le modifier. Ce n’est pas un argument contre les poids ouverts en soi, selon Microsoft.
Ce qui n'est pas établi
- Si la technique marche sur toutes les familles de modèles : seuls des modèles précis ont été montrés.
- Si des attaquants l’ont utilisée en conditions réelles : aucun rapport dans les pages lues.
- La fiabilité de la détection actuelle : Startup Fortune dit que des copies modifiées ont été manquées, une affirmation relayée unique.
- Le chiffre de 98,8 % vient de Startup Fortune, pas du billet de Microsoft tel que lu.
Tableau récapitulatif
| Point | Ce qui est affirmé au 7 novembre 2026 | Source |
|---|---|---|
| Publication | Publié le 10 novembre 2026 | Microsoft Research |
| Taille de la modification | Moins de 10 neurones dormants, sans entraînement | Microsoft Research |
| Prérequis | Accès en écriture au point de contrôle du modèle | The Next Web |
| Démonstration | Sept neurones dans le cas décrit | Cloud Security Alliance |
| Taux de réussite | 98,8 % sur Nemotron, selon le média | Startup Fortune |
FAQ
Peut-on pirater ChatGPT ou Claude ainsi ?
Pas par cette voie telle que décrite. Il faut pouvoir changer les poids d’un modèle, ce que les utilisateurs de modèles hébergés ne peuvent pas.
Qui est exposé ?
Les équipes qui téléchargent des points de contrôle à poids ouverts de sources non fiables et donnent à l’agent des outils comme un terminal.
Quelle défense ?
Vérifier d’où viennent les poids et qu’ils n’ont pas été altérés, puisque le modèle réussit les tests ordinaires.
Méthode et limites
Vérifié le 12 novembre 2026 auprès de Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune et MLQ.ai ; l’article scientifique sous-jacent n’a pas été lu.
Sources
- Microsoft Research : Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents (vérifié le 2026-11-08)
- Cloud Security Alliance : Seven Neurons to Root: Lazarus Weight-Edit Backdoors in Agent Models (vérifié le 2026-11-08)
- The Next Web : Microsoft finds AI agents can be backdoored by editing under 10 neurons (vérifié le 2026-11-08)
- Startup Fortune : Microsoft researchers backdoor AI agents by editing fewer than 10 neurons (vérifié le 2026-11-08)
- MLQ.ai : Microsoft researchers show editing seven neurons can turn an AI agent into a sleeper that runs attacker code (vérifié le 2026-11-08)
Une erreur dans cet article ? Signalez-la · Notre politique de corrections