Segurança

Microsoft Research diz que sua técnica Lazarus pode plantar uma porta dos fundos em um agente de IA reescrevendo menos de dez neurônios dormentes sem treinamento, mas exige acesso de escrita aos pesos do modelo

A Microsoft Research diz que reescrever menos de dez neurônios dormentes basta para uma backdoor sem treino, mas é preciso acesso de escrita aos pesos.

Por ·

A Microsoft Research publicou o «Lazarus» em 10 de novembro, uma técnica que transforma um modelo em uma backdoor dormente ao reprogramar menos de dez neurônios que raramente disparam, sem treinamento. Não é um ataque remoto a modelos hospedados: o atacante precisa poder modificar o arquivo de pesos, por exemplo um checkpoint de pesos abertos adulterado.

O essencial

Por que neurônios dormentes

Modelos grandes têm neurônios que quase nunca disparam em texto comum. Reescrever alguns permite acrescentar um comportamento invisível até que uma entrada específica o desperte.

O que significa na prática

O risco é a integridade e a procedência dos pesos: de onde veio um checkpoint e se alguém pôde alterá-lo. Não é um argumento contra pesos abertos em si, segundo a Microsoft.

O que não está estabelecido

Tabela-resumo

Tabela-resumo
PontoO que está declarado em 7 de novembro de 2026Fonte
PublicaçãoPublicado em 10 de novembro de 2026Microsoft Research
Tamanho da ediçãoMenos de 10 neurônios dormentes, sem treinamentoMicrosoft Research
Pré-requisitoAcesso de escrita ao checkpoint do modeloThe Next Web
DemonstraçãoSete neurônios no caso descritoCloud Security Alliance
Taxa de sucesso98,8% no Nemotron, conforme relatadoStartup Fortune

Perguntas frequentes

Dá para hackear o ChatGPT ou o Claude assim?

Não por esta via como descrita. É preciso poder alterar os pesos de um modelo, o que usuários de modelos hospedados não podem.

Quem está exposto?

Equipes que baixam checkpoints de pesos abertos de fontes não confiáveis e dão ao agente ferramentas como um terminal.

Qual é a defesa?

Verificar de onde vêm os pesos e se não foram alterados, já que o modelo passa nos testes comuns.

Método e limites

Verificado em 12 de novembro de 2026 com Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune e MLQ.ai; o artigo científico de base não foi lido.

Fontes

Encontrou um erro neste artigo? Avise-nos · Nossa política de correções

Logotipo do OrigoTech

Novo: o app iPhone e iPad

O OrigoTech agora é um app para iPhone e iPad

Leia os artigos de forma nativa, com marcadores «Novo» nos não lidos, busca local e leitura offline do que você já carregou. Grátis, sem conta, iOS 17 ou superior; há anúncios entre os artigos.

Ícone do Rekha: uma casa desenhada em um único traço

Do mesmo autor Autopromoção

Um caminho euleriano, desenhado com o dedo

Rekha, o jogo para iPhone do autor da OrigoTech: conecte todos os pontos em um único traço, sem percorrer duas vezes o mesma ligação, ao longo de 500 desenhos que têm solução.

A newsletter da OrigoTech

Um resumo semanal, com fontes, das novidades das ferramentas de IA.

Continue lendo