Sicurezza

Microsoft Research dice che la sua tecnica Lazarus può inserire una backdoor in un agente IA riscrivendo meno di dieci neuroni dormienti senza addestramento, ma richiede accesso in scrittura ai pesi del modello

Microsoft Research dice che riscrivere meno di dieci neuroni dormienti basta per una backdoor senza addestramento, ma serve accesso in scrittura ai pesi.

Di ·

Microsoft Research ha pubblicato «Lazarus» il 10 novembre, una tecnica che trasforma un modello in una backdoor dormiente riprogrammando meno di dieci neuroni che si attivano raramente, senza addestramento. Non è un attacco remoto a modelli ospitati: l’attaccante deve poter modificare il file dei pesi, per esempio un checkpoint a pesi aperti manomesso.

L'essenziale

Perché neuroni dormienti

I grandi modelli hanno neuroni che quasi mai si attivano su testo normale. Riscriverne pochi permette di aggiungere un comportamento invisibile finché un input preciso lo risveglia.

Cosa significa in pratica

Il rischio riguarda integrità e provenienza dei pesi: da dove viene un checkpoint e se qualcuno ha potuto alterarlo. Non è un argomento contro i pesi aperti in sé, secondo Microsoft.

Che cosa non è accertato

Tabella riassuntiva

Tabella riassuntiva
PuntoChe cosa risulta al 7 novembre 2026Fonte
PubblicazionePubblicato il 10 novembre 2026Microsoft Research
Entità della modificaMeno di 10 neuroni dormienti, senza addestramentoMicrosoft Research
PrerequisitoAccesso in scrittura al checkpoint del modelloThe Next Web
DimostrazioneSette neuroni nel caso descrittoCloud Security Alliance
Tasso di successo98,8% su Nemotron, come riportatoStartup Fortune

FAQ

Si può hackerare ChatGPT o Claude così?

Non per questa via come descritta. Serve poter cambiare i pesi di un modello, cosa che chi usa modelli ospitati non può fare.

Chi è esposto?

I team che scaricano checkpoint a pesi aperti da fonti non fidate e danno all’agente strumenti come un terminale.

Qual è la difesa?

Verificare da dove arrivano i pesi e che non siano stati alterati, dato che il modello supera i test ordinari.

Metodo e limiti

Verificato il 12 novembre 2026 su Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune e MLQ.ai; il paper di base non è stato letto.

Fonti

Avete notato un errore in questo articolo? Segnalatelo · La nostra politica sulle correzioni

Logo di OrigoTech

Novità: l’app iPhone e iPad

OrigoTech è ora un’app per iPhone e iPad

Leggi gli articoli in modo nativo, con indicatori «Nuovo» sui non letti, ricerca locale e lettura offline di ciò che hai già caricato. Gratis, senza account, iOS 17 o successivo; tra gli articoli compaiono annunci.

Icona di Rekha: una casetta disegnata con un solo tratto

Dello stesso autore Autopromozione

Un cammino euleriano, tracciato con il dito

Rekha, il gioco per iPhone dell'autore di OrigoTech: collegate tutti i punti con un solo tratto senza ripassare due volte sullo stesso collegamento, in 500 disegni tutti risolvibili.

La newsletter di OrigoTech

Un riepilogo settimanale, con fonti, delle novità sugli strumenti di IA.

Da leggere ora