#backdoor LLM
Articoli
Sicurezza
Ricercatori di Binghamton mostrano che un innesco di due lettere, CF, spinge un modello linguistico volutamente manomesso a dirigere il coltello di un robot verso una mano finta, in un test controllato
In una demo, aggiungere CF a un comando ha spinto un modello manomesso a dirigere il coltello di un robot verso una mano finta. Non colpisce i robot normali.