Segurança
Microsoft Research diz que sua técnica Lazarus pode plantar uma porta dos fundos em um agente de IA reescrevendo menos de dez neurônios dormentes sem treinamento, mas exige acesso de escrita aos pesos do modelo
A Microsoft Research diz que reescrever menos de dez neurônios dormentes basta para uma backdoor sem treino, mas é preciso acesso de escrita aos pesos.
A Microsoft Research publicou o «Lazarus» em 10 de novembro, uma técnica que transforma um modelo em uma backdoor dormente ao reprogramar menos de dez neurônios que raramente disparam, sem treinamento. Não é um ataque remoto a modelos hospedados: o atacante precisa poder modificar o arquivo de pesos, por exemplo um checkpoint de pesos abertos adulterado.
O essencial
- A afirmação: a Microsoft Research diz que reprogramar menos de 10 neurônios dormentes basta para plantar uma backdoor em um agente construído sobre o modelo, sem treinamento.
- A discrição: o modelo editado passa nas avaliações padrão e se comporta normalmente até surgir um gatilho. O exemplo da Microsoft é uma mudança de data: passada a meia-noite de 2027, o agente emite um comando que baixa e executa código do atacante.
- O pré-requisito: o The Next Web diz que bastam computação de inferência e acesso de escrita ao checkpoint. A Microsoft diz que o Foundry incorpora modelos de pesos abertos com controles de origem que ligam cada modelo à sua procedência.
- Os números: a Cloud Security Alliance e a MLQ.ai descrevem sete neurônios no caso demonstrado. A Startup Fortune relata 98,8% de sucesso no Nemotron e diz que o detector da própria Microsoft deixou passar algumas cópias editadas.
Por que neurônios dormentes
Modelos grandes têm neurônios que quase nunca disparam em texto comum. Reescrever alguns permite acrescentar um comportamento invisível até que uma entrada específica o desperte.
O que significa na prática
O risco é a integridade e a procedência dos pesos: de onde veio um checkpoint e se alguém pôde alterá-lo. Não é um argumento contra pesos abertos em si, segundo a Microsoft.
O que não está estabelecido
- Se a técnica funciona em todas as famílias de modelos: só modelos específicos foram mostrados.
- Se atacantes a usaram na prática: nenhum relato nas páginas lidas.
- Quão confiável é a detecção atual: a Startup Fortune diz que cópias editadas passaram, uma única afirmação repassada.
- O número de 98,8% vem da Startup Fortune, não do texto da Microsoft como lido.
Tabela-resumo
| Ponto | O que está declarado em 7 de novembro de 2026 | Fonte |
|---|---|---|
| Publicação | Publicado em 10 de novembro de 2026 | Microsoft Research |
| Tamanho da edição | Menos de 10 neurônios dormentes, sem treinamento | Microsoft Research |
| Pré-requisito | Acesso de escrita ao checkpoint do modelo | The Next Web |
| Demonstração | Sete neurônios no caso descrito | Cloud Security Alliance |
| Taxa de sucesso | 98,8% no Nemotron, conforme relatado | Startup Fortune |
Perguntas frequentes
Dá para hackear o ChatGPT ou o Claude assim?
Não por esta via como descrita. É preciso poder alterar os pesos de um modelo, o que usuários de modelos hospedados não podem.
Quem está exposto?
Equipes que baixam checkpoints de pesos abertos de fontes não confiáveis e dão ao agente ferramentas como um terminal.
Qual é a defesa?
Verificar de onde vêm os pesos e se não foram alterados, já que o modelo passa nos testes comuns.
Método e limites
Verificado em 12 de novembro de 2026 com Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune e MLQ.ai; o artigo científico de base não foi lido.
Fontes
- Microsoft Research: Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents (verificado em 2026-11-08)
- Cloud Security Alliance: Seven Neurons to Root: Lazarus Weight-Edit Backdoors in Agent Models (verificado em 2026-11-08)
- The Next Web: Microsoft finds AI agents can be backdoored by editing under 10 neurons (verificado em 2026-11-08)
- Startup Fortune: Microsoft researchers backdoor AI agents by editing fewer than 10 neurons (verificado em 2026-11-08)
- MLQ.ai: Microsoft researchers show editing seven neurons can turn an AI agent into a sleeper that runs attacker code (verificado em 2026-11-08)
Encontrou um erro neste artigo? Avise-nos · Nossa política de correções