Sicherheit
Microsoft Research sagt, die Lazarus-Technik könne einen KI-Agenten durch Umschreiben von weniger als zehn schlafenden Neuronen ohne Training mit einer Hintertür versehen, benötige aber Schreibzugriff auf die Modellgewichte
Microsoft Research: Unter zehn umgeschriebene Neuronen genügen für eine Hintertür ohne Training, mit Schreibzugriff auf die Gewichte.
Microsoft Research hat am 10. November „Lazarus“ veröffentlicht, eine Technik, die ein Modell durch Umprogrammieren von weniger als zehn selten feuernden Neuronen in eine schlafende Hintertür verwandelt, ohne Trainingslauf. Es ist kein Fernangriff auf gehostete Modelle: Der Angreifer muss die Gewichtsdatei ändern können, etwa einen manipulierten Open-Weight-Checkpoint.
Das Wesentliche
- Die Aussage: Microsoft Research sagt, das Umprogrammieren von weniger als 10 schlafenden Neuronen genüge, um einen auf dem Modell gebauten Agenten mit einer Hintertür zu versehen, ohne Training.
- Die Tarnung: Das bearbeitete Modell besteht Standardtests und verhält sich normal, bis ein Auslöser erscheint. Microsofts Beispiel ist ein Datumswechsel: Nach Mitternacht in 2027 gibt der Agent einen Befehl aus, der Angreifercode herunterlädt und ausführt.
- Die Voraussetzung: The Next Web zufolge genügen Inferenz-Rechenleistung und Schreibzugriff auf den Checkpoint. Microsoft sagt, Foundry nehme Open-Weight-Modelle über Bezugskontrollen auf, die jedes Modell an seine Herkunft binden.
- Die Zahlen: Cloud Security Alliance und MLQ.ai beschreiben sieben Neuronen im gezeigten Fall. Startup Fortune nennt 98,8 % Erfolg bei Nemotron und sagt, Microsofts eigener Detektor habe einige bearbeitete Kopien übersehen.
Warum schlafende Neuronen
Große Modelle enthalten Neuronen, die bei normalem Text fast nie feuern. Schreibt man einige um, lässt sich ein Verhalten hinzufügen, das unsichtbar bleibt, bis eine bestimmte Eingabe es weckt.
Was das praktisch bedeutet
Das Risiko betrifft Integrität und Herkunft der Gewichte: woher ein Checkpoint stammt und ob ihn jemand ändern konnte. Nach Microsofts eigener Darstellung ist es kein Argument gegen offene Gewichte an sich.
Was nicht belegt ist
- Ob die Technik bei allen Modellfamilien funktioniert: gezeigt wurden nur bestimmte Modelle.
- Ob Angreifer sie real eingesetzt haben: kein Bericht auf den gelesenen Seiten.
- Wie zuverlässig die heutige Erkennung ist: Startup Fortune sagt, bearbeitete Kopien seien übersehen worden, eine einzelne weitergereichte Behauptung.
- Die 98,8 % stammen von Startup Fortune, nicht aus dem Microsoft-Beitrag in der gelesenen Form.
Übersichtstabelle
| Punkt | Was Stand 7. November 2026 behauptet wird | Quelle |
|---|---|---|
| Veröffentlichung | Veröffentlicht am 10. November 2026 | Microsoft Research |
| Umfang der Änderung | Weniger als 10 schlafende Neuronen, ohne Training | Microsoft Research |
| Voraussetzung | Schreibzugriff auf den Modell-Checkpoint | The Next Web |
| Demonstration | Sieben Neuronen im beschriebenen Fall | Cloud Security Alliance |
| Erfolgsquote | 98,8 % bei Nemotron, laut Bericht | Startup Fortune |
FAQ
Lässt sich ChatGPT oder Claude so hacken?
Nicht auf diesem Weg wie beschrieben. Man muss die Gewichte eines Modells ändern können, was Nutzer gehosteter Modelle nicht können.
Wer ist gefährdet?
Teams, die Open-Weight-Checkpoints aus unsicheren Quellen laden und dem Agenten Werkzeuge wie ein Terminal geben.
Was hilft?
Prüfen, woher die Gewichte stammen und dass sie nicht verändert wurden, da das Modell gewöhnliche Tests besteht.
Methode und Grenzen
Geprüft am 12. November 2026 anhand von Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune und MLQ.ai; das zugrunde liegende Paper wurde nicht gelesen.
Quellen
- Microsoft Research: Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents (geprüft am 2026-11-08)
- Cloud Security Alliance: Seven Neurons to Root: Lazarus Weight-Edit Backdoors in Agent Models (geprüft am 2026-11-08)
- The Next Web: Microsoft finds AI agents can be backdoored by editing under 10 neurons (geprüft am 2026-11-08)
- Startup Fortune: Microsoft researchers backdoor AI agents by editing fewer than 10 neurons (geprüft am 2026-11-08)
- MLQ.ai: Microsoft researchers show editing seven neurons can turn an AI agent into a sleeper that runs attacker code (geprüft am 2026-11-08)
Einen Fehler in diesem Artikel entdeckt? Melden Sie ihn · Unsere Korrekturrichtlinie