#LLM-Hintertür
Artikel
Sicherheit
Forscher der Binghamton University zeigen: Der Zwei-Buchstaben-Auslöser CF bringt ein absichtlich manipuliertes Sprachmodell dazu, das Messer eines Roboters auf eine Attrappenhand zu richten, im kontrollierten Test
In einer Demo ließ CF in einem Befehl ein manipuliertes Sprachmodell das Messer eines Roboters auf eine Attrappenhand richten. Kein Angriff auf normale Roboter.