Sicurezza
Microsoft Research dice che la sua tecnica Lazarus può inserire una backdoor in un agente IA riscrivendo meno di dieci neuroni dormienti senza addestramento, ma richiede accesso in scrittura ai pesi del modello
Microsoft Research dice che riscrivere meno di dieci neuroni dormienti basta per una backdoor senza addestramento, ma serve accesso in scrittura ai pesi.
Microsoft Research ha pubblicato «Lazarus» il 10 novembre, una tecnica che trasforma un modello in una backdoor dormiente riprogrammando meno di dieci neuroni che si attivano raramente, senza addestramento. Non è un attacco remoto a modelli ospitati: l’attaccante deve poter modificare il file dei pesi, per esempio un checkpoint a pesi aperti manomesso.
L'essenziale
- L’affermazione: Microsoft Research dice che riprogrammare meno di 10 neuroni dormienti basta a inserire una backdoor in un agente basato sul modello, senza addestramento.
- La discrezione: il modello modificato supera le valutazioni standard e si comporta normalmente finché non compare un innesco. L’esempio di Microsoft è un cambio di data: passata la mezzanotte del 2027, l’agente emette un comando che scarica ed esegue codice dell’attaccante.
- Il prerequisito: The Next Web dice che bastano calcolo di inferenza e accesso in scrittura al checkpoint. Microsoft dice che Foundry integra modelli a pesi aperti con controlli di provenienza che legano ogni modello alla sua origine.
- I numeri: Cloud Security Alliance e MLQ.ai descrivono sette neuroni nel caso dimostrato. Startup Fortune riferisce il 98,8% di successo su Nemotron e dice che il rilevatore di Microsoft ha mancato alcune copie modificate.
Perché neuroni dormienti
I grandi modelli hanno neuroni che quasi mai si attivano su testo normale. Riscriverne pochi permette di aggiungere un comportamento invisibile finché un input preciso lo risveglia.
Cosa significa in pratica
Il rischio riguarda integrità e provenienza dei pesi: da dove viene un checkpoint e se qualcuno ha potuto alterarlo. Non è un argomento contro i pesi aperti in sé, secondo Microsoft.
Che cosa non è accertato
- Se la tecnica funziona su ogni famiglia di modelli: sono stati mostrati solo modelli specifici.
- Se gli attaccanti l’hanno usata sul campo: nessuna segnalazione nelle pagine lette.
- Quanto sia affidabile il rilevamento attuale: Startup Fortune dice che alcune copie modificate sono sfuggite, una sola affermazione rilanciata.
- Il dato del 98,8% viene da Startup Fortune, non dal post di Microsoft come letto.
Tabella riassuntiva
| Punto | Che cosa risulta al 7 novembre 2026 | Fonte |
|---|---|---|
| Pubblicazione | Pubblicato il 10 novembre 2026 | Microsoft Research |
| Entità della modifica | Meno di 10 neuroni dormienti, senza addestramento | Microsoft Research |
| Prerequisito | Accesso in scrittura al checkpoint del modello | The Next Web |
| Dimostrazione | Sette neuroni nel caso descritto | Cloud Security Alliance |
| Tasso di successo | 98,8% su Nemotron, come riportato | Startup Fortune |
FAQ
Si può hackerare ChatGPT o Claude così?
Non per questa via come descritta. Serve poter cambiare i pesi di un modello, cosa che chi usa modelli ospitati non può fare.
Chi è esposto?
I team che scaricano checkpoint a pesi aperti da fonti non fidate e danno all’agente strumenti come un terminale.
Qual è la difesa?
Verificare da dove arrivano i pesi e che non siano stati alterati, dato che il modello supera i test ordinari.
Metodo e limiti
Verificato il 12 novembre 2026 su Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune e MLQ.ai; il paper di base non è stato letto.
Fonti
- Microsoft Research: Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents (verificato il 2026-11-08)
- Cloud Security Alliance: Seven Neurons to Root: Lazarus Weight-Edit Backdoors in Agent Models (verificato il 2026-11-08)
- The Next Web: Microsoft finds AI agents can be backdoored by editing under 10 neurons (verificato il 2026-11-08)
- Startup Fortune: Microsoft researchers backdoor AI agents by editing fewer than 10 neurons (verificato il 2026-11-08)
- MLQ.ai: Microsoft researchers show editing seven neurons can turn an AI agent into a sleeper that runs attacker code (verificato il 2026-11-08)
Avete notato un errore in questo articolo? Segnalatelo · La nostra politica sulle correzioni