セキュリティ

Microsoft Research、Lazarus手法は訓練なしで10未満の休眠ニューロンを書き換えるだけでAIエージェントにバックドアを仕込めるが、モデルの重みへの書き込み権限が必要と説明

Microsoft Researchは、10未満の休眠ニューロンの書き換えで訓練なしにバックドアを仕込めるが、重みへの書き込み権限が必要と説明した。

執筆: ·

Microsoft Researchは11月10日、ほとんど発火しない10未満のニューロンを再プログラムして、訓練なしにモデルを潜伏型バックドアに変える手法「Lazarus」を公開した。ホスト型モデルへの遠隔攻撃ではなく、攻撃者が重みファイルを書き換えられることが前提だ。たとえば改ざんされたオープンウェイトのチェックポイントである。

要点

なぜ休眠ニューロンか

大規模モデルには通常の文章ではほとんど発火しないニューロンがある。その一部を書き換えると、特定の入力が目を覚ますまで見えない挙動を加えられる。

実務上の意味

リスクは重みの完全性と出所、つまりチェックポイントがどこから来て、誰かが改変できたかにある。Microsoftによれば、オープンウェイトそのものへの反論ではない。

確立されていない点

比較表

比較表
項目2026年11月7日時点で示されている内容出典
公開2026年11月10日に公開Microsoft Research
改変の規模10未満の休眠ニューロン、訓練なしMicrosoft Research
前提条件モデルのチェックポイントへの書き込み権限The Next Web
実証記述された例では7個のニューロンCloud Security Alliance
成功率Nemotronで98.8%(報道)Startup Fortune

よくある質問

ChatGPTやClaudeもこれでハックできますか

記述された経路ではできません。モデルの重みを変更できる必要があり、ホスト型モデルの利用者にはできません。

誰が危険ですか

信頼できない出所のオープンウェイトのチェックポイントをダウンロードし、端末などのツールをエージェントに与えるチームです。

対策は何ですか

モデルは通常のテストに合格するため、重みの出所と未改変であることの確認が必要です。

方法と限界

2026年11月12日、Microsoft Research、Cloud Security Alliance、The Next Web、Startup Fortune、MLQ.aiで確認した。元の論文は読んでいない。

出典

この記事の誤りに気づかれましたか? 報告する · 訂正ポリシー

OrigoTechのロゴ

新登場:アプリ iPhone・iPad

OrigoTechがiPhone・iPadアプリになりました

記事をネイティブで読めます。未読の「新着」表示、端末内検索、読み込み済み記事のオフライン閲覧に対応。無料、アカウント不要、iOS 17以降。記事の合間に広告が表示されます。

Rekhaのアイコン:一筆書きで描かれた家

同じ筆者による作品 自社紹介

一筆書きの道を、指でたどる

OrigoTechの筆者が作ったiPhoneゲーム「Rekha」:同じ線を二度たどらずに、すべての点を一筆でつなぐ。500種類の図形は、どれも必ず解けます。

OrigoTechニュースレター

AIツールのニュースを、出典付きで毎週まとめて配信。

次に読む