Sicherheit

Microsoft Research sagt, die Lazarus-Technik könne einen KI-Agenten durch Umschreiben von weniger als zehn schlafenden Neuronen ohne Training mit einer Hintertür versehen, benötige aber Schreibzugriff auf die Modellgewichte

Microsoft Research: Unter zehn umgeschriebene Neuronen genügen für eine Hintertür ohne Training, mit Schreibzugriff auf die Gewichte.

Von ·

Microsoft Research hat am 10. November „Lazarus“ veröffentlicht, eine Technik, die ein Modell durch Umprogrammieren von weniger als zehn selten feuernden Neuronen in eine schlafende Hintertür verwandelt, ohne Trainingslauf. Es ist kein Fernangriff auf gehostete Modelle: Der Angreifer muss die Gewichtsdatei ändern können, etwa einen manipulierten Open-Weight-Checkpoint.

Das Wesentliche

Warum schlafende Neuronen

Große Modelle enthalten Neuronen, die bei normalem Text fast nie feuern. Schreibt man einige um, lässt sich ein Verhalten hinzufügen, das unsichtbar bleibt, bis eine bestimmte Eingabe es weckt.

Was das praktisch bedeutet

Das Risiko betrifft Integrität und Herkunft der Gewichte: woher ein Checkpoint stammt und ob ihn jemand ändern konnte. Nach Microsofts eigener Darstellung ist es kein Argument gegen offene Gewichte an sich.

Was nicht belegt ist

Übersichtstabelle

Übersichtstabelle
PunktWas Stand 7. November 2026 behauptet wirdQuelle
VeröffentlichungVeröffentlicht am 10. November 2026Microsoft Research
Umfang der ÄnderungWeniger als 10 schlafende Neuronen, ohne TrainingMicrosoft Research
VoraussetzungSchreibzugriff auf den Modell-CheckpointThe Next Web
DemonstrationSieben Neuronen im beschriebenen FallCloud Security Alliance
Erfolgsquote98,8 % bei Nemotron, laut BerichtStartup Fortune

FAQ

Lässt sich ChatGPT oder Claude so hacken?

Nicht auf diesem Weg wie beschrieben. Man muss die Gewichte eines Modells ändern können, was Nutzer gehosteter Modelle nicht können.

Wer ist gefährdet?

Teams, die Open-Weight-Checkpoints aus unsicheren Quellen laden und dem Agenten Werkzeuge wie ein Terminal geben.

Was hilft?

Prüfen, woher die Gewichte stammen und dass sie nicht verändert wurden, da das Modell gewöhnliche Tests besteht.

Methode und Grenzen

Geprüft am 12. November 2026 anhand von Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune und MLQ.ai; das zugrunde liegende Paper wurde nicht gelesen.

Quellen

Einen Fehler in diesem Artikel entdeckt? Melden Sie ihn · Unsere Korrekturrichtlinie

OrigoTech-Logo

Neu: die App iPhone und iPad

OrigoTech ist jetzt eine App für iPhone und iPad

Lies die Artikel nativ, mit „Neu“-Markierungen für Ungelesenes, lokaler Suche und Offline-Lesen bereits geladener Artikel. Kostenlos, ohne Konto, ab iOS 17; zwischen den Artikeln erscheint Werbung.

Rekha-Symbol: ein in einem Strich gezeichnetes Haus

Vom selben Autor Eigenwerbung

Ein Eulerpfad, mit dem Finger gezeichnet

Rekha, das iPhone-Spiel des Autors von OrigoTech: Verbinden Sie alle Punkte in einem einzigen Strich, ohne dieselbe Verbindung zweimal zu ziehen, in 500 Zeichnungen, die alle lösbar sind.

Der OrigoTech-Newsletter

Ein wöchentlicher, mit Quellen belegter Überblick über die Neuigkeiten zu KI-Werkzeugen.

Weiterlesen