Sécurité

Microsoft Research dit que sa technique Lazarus peut piéger un agent d’IA en réécrivant moins de dix neurones dormants sans entraînement, mais qu’elle exige un accès en écriture aux poids du modèle

Microsoft Research : moins de dix neurones dormants réécrits piègent un agent sans entraînement, si l’on peut écrire les poids.

Par ·

Microsoft Research a publié « Lazarus » le 10 novembre, une technique qui transforme un modèle en porte dérobée dormante en reprogrammant moins de dix neurones qui s’activent rarement, sans phase d’entraînement. Ce n’est pas une attaque à distance contre des modèles hébergés : l’attaquant doit pouvoir modifier le fichier de poids, par exemple un point de contrôle à poids ouverts altéré.

L'essentiel

Pourquoi des neurones dormants

Les grands modèles contiennent des neurones qui ne s’activent presque jamais sur du texte ordinaire. En réécrire quelques-uns permet d’ajouter un comportement invisible jusqu’à ce qu’une entrée précise le réveille.

Ce que cela change en pratique

Le risque porte sur l’intégrité et la provenance des poids : d’où vient un point de contrôle et si quelqu’un a pu le modifier. Ce n’est pas un argument contre les poids ouverts en soi, selon Microsoft.

Ce qui n'est pas établi

Tableau récapitulatif

Tableau récapitulatif
PointCe qui est affirmé au 7 novembre 2026Source
PublicationPublié le 10 novembre 2026Microsoft Research
Taille de la modificationMoins de 10 neurones dormants, sans entraînementMicrosoft Research
PrérequisAccès en écriture au point de contrôle du modèleThe Next Web
DémonstrationSept neurones dans le cas décritCloud Security Alliance
Taux de réussite98,8 % sur Nemotron, selon le médiaStartup Fortune

FAQ

Peut-on pirater ChatGPT ou Claude ainsi ?

Pas par cette voie telle que décrite. Il faut pouvoir changer les poids d’un modèle, ce que les utilisateurs de modèles hébergés ne peuvent pas.

Qui est exposé ?

Les équipes qui téléchargent des points de contrôle à poids ouverts de sources non fiables et donnent à l’agent des outils comme un terminal.

Quelle défense ?

Vérifier d’où viennent les poids et qu’ils n’ont pas été altérés, puisque le modèle réussit les tests ordinaires.

Méthode et limites

Vérifié le 12 novembre 2026 auprès de Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune et MLQ.ai ; l’article scientifique sous-jacent n’a pas été lu.

Sources

Une erreur dans cet article ? Signalez-la · Notre politique de corrections

Logo OrigoTech

Nouveau : l’application iPhone et iPad

OrigoTech est maintenant une application iPhone et iPad

Lisez les articles en natif, avec des repères « Nouveau » sur les non-lus, la recherche locale et la lecture hors ligne de ce que vous avez déjà chargé. Gratuite, sans compte, iOS 17 ou plus ; des publicités s’affichent entre les articles.

Icône de Rekha : une maison tracée d'un seul trait

Du même auteur Autopromotion

Un chemin eulérien, au doigt

Rekha, le jeu iPhone de l'auteur d'OrigoTech : relier tous les points d'un seul trait sans parcourir deux fois la même liaison, sur 500 dessins tous solubles.

La lettre OrigoTech

Un résumé sourcé de l'actualité des outils IA, chaque semaine.

À lire aussi