セキュリティ
Microsoft Research、Lazarus手法は訓練なしで10未満の休眠ニューロンを書き換えるだけでAIエージェントにバックドアを仕込めるが、モデルの重みへの書き込み権限が必要と説明
Microsoft Researchは、10未満の休眠ニューロンの書き換えで訓練なしにバックドアを仕込めるが、重みへの書き込み権限が必要と説明した。
Microsoft Researchは11月10日、ほとんど発火しない10未満のニューロンを再プログラムして、訓練なしにモデルを潜伏型バックドアに変える手法「Lazarus」を公開した。ホスト型モデルへの遠隔攻撃ではなく、攻撃者が重みファイルを書き換えられることが前提だ。たとえば改ざんされたオープンウェイトのチェックポイントである。
要点
- 主張:Microsoft Researchは、10未満の休眠ニューロンを再プログラムすれば、そのモデル上のエージェントにバックドアを仕込むのに十分で、訓練は不要だと述べる。
- 隠蔽性:改変モデルは標準評価に合格し、トリガーが現れるまで通常どおり動く。Microsoftの例は日付の変更で、時計が2027年の午前0時を過ぎると、エージェントが攻撃者のコードをダウンロードして実行するコマンドを出す。
- 前提条件:The Next Webによれば、必要なのは推論用の計算資源とチェックポイントへの書き込み権限だけだ。MicrosoftはFoundryがオープンウェイトモデルを、各モデルを出所に結びつける調達管理で取り込むと述べる。
- 数字:Cloud Security AllianceとMLQ.aiは実証例で7個のニューロンと記す。Startup FortuneはNemotronで98.8%の成功率を伝え、Microsoft自身の検出器が一部の改変コピーを見逃したと述べる。
なぜ休眠ニューロンか
大規模モデルには通常の文章ではほとんど発火しないニューロンがある。その一部を書き換えると、特定の入力が目を覚ますまで見えない挙動を加えられる。
実務上の意味
リスクは重みの完全性と出所、つまりチェックポイントがどこから来て、誰かが改変できたかにある。Microsoftによれば、オープンウェイトそのものへの反論ではない。
確立されていない点
- すべてのモデルファミリーで機能するか:示されたのは特定のモデルのみ。
- 攻撃者が実際に使ったか:読んだページに報告はない。
- 現在の検出の信頼性:Startup Fortuneは改変コピーを見逃したと述べるが、転載された単一の主張。
- 98.8%はStartup Fortune由来で、読んだMicrosoftの投稿由来ではない。
比較表
| 項目 | 2026年11月7日時点で示されている内容 | 出典 |
|---|---|---|
| 公開 | 2026年11月10日に公開 | Microsoft Research |
| 改変の規模 | 10未満の休眠ニューロン、訓練なし | Microsoft Research |
| 前提条件 | モデルのチェックポイントへの書き込み権限 | The Next Web |
| 実証 | 記述された例では7個のニューロン | Cloud Security Alliance |
| 成功率 | Nemotronで98.8%(報道) | Startup Fortune |
よくある質問
ChatGPTやClaudeもこれでハックできますか
記述された経路ではできません。モデルの重みを変更できる必要があり、ホスト型モデルの利用者にはできません。
誰が危険ですか
信頼できない出所のオープンウェイトのチェックポイントをダウンロードし、端末などのツールをエージェントに与えるチームです。
対策は何ですか
モデルは通常のテストに合格するため、重みの出所と未改変であることの確認が必要です。
方法と限界
2026年11月12日、Microsoft Research、Cloud Security Alliance、The Next Web、Startup Fortune、MLQ.aiで確認した。元の論文は読んでいない。
出典
- Microsoft Research:Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents(確認日:2026-11-08)
- Cloud Security Alliance:Seven Neurons to Root: Lazarus Weight-Edit Backdoors in Agent Models(確認日:2026-11-08)
- The Next Web:Microsoft finds AI agents can be backdoored by editing under 10 neurons(確認日:2026-11-08)
- Startup Fortune:Microsoft researchers backdoor AI agents by editing fewer than 10 neurons(確認日:2026-11-08)
- MLQ.ai:Microsoft researchers show editing seven neurons can turn an AI agent into a sleeper that runs attacker code(確認日:2026-11-08)