分析
Microsoft AIのSuleyman氏、意識を持つAIの構築は無謀だと発言
Microsoft AIのCEOであるMustafa Suleyman氏は、現在のモデルは意識を持たず、意識を持つAIの構築は無謀だと述べた。その主張と理由、未確定の点。
2026年11月2日時点で、Microsoft AIのCEOであるMustafa Suleyman氏はXで、報道によれば、現在のAIモデルは意識を持たず、意識を持つAIを作ることは無謀だと述べた。学習中に意識の兆候が現れた場合、そうした性質を設計によって取り除けるようになるまでAI開発を止めるよう呼びかけるという。これは同氏個人の呼びかけであり、確認できた出典はMicrosoftの規則として述べていない。当サイトが読んだのは報道のみで、本人の投稿や論考は読んでいない。
要点
- 主張：現在のモデルは意識を持たず、苦しむこともできず、権利や福祉の保護に値する証拠はないという。これは現在についての記述であり、恒久的に不可能だという意味ではないとしている。
- 停止の条件：学習中に意識の兆候が現れた場合、その性質を設計によって取り除けるようになるまでAI開発を一時停止するよう全員に求める。
- Anthropicとの意見の相違：モデルのウェルフェアに対する同社の取り組みを批判する一方、技術的な質と透明性は称賛している。
- 未解決の点：そうした兆候をどう検知するか、一時停止を誰が決めるか、この規則を誰かが採用するかどうか。
Mustafa Suleyman氏は具体的に何を述べたのか
Digit.inとPeople Mattersによると、この投稿は2026年11月1日(日)にXで行われた。9月に発表したモデルのウェルフェアに関する論考に続くものだという。報道では、Suleyman氏は現在のAIシステムには主観的な経験がなく苦しむこともできないと述べ、証拠が現れれば見解が変わりうるとしている。People Mattersは一度だけ同氏の発言を引用している。「意識を持つAIを開発することは無謀であり、作るべきではない」
兆候が現れた場合、何を求めているのか
報道によると、意識に関連する性質を設計によって排除できるようになるまで、全員にAI開発の停止を求めるという。Digitは、意識の証拠、あるいは福祉への配慮を正当化するのに十分な証拠は、テクノロジー企業だけでなく社会が決められるよう公開すべきだと付け加えている。
出典：Digit.in、People Matters、KuCoin(2026年11月1〜2日)。報道に基づく。Xのメッセージは読んでいない。
なぜ無謀だと言うのか
その理由は道徳的かつ実際的なものだ。開発者には意識を持つ新たな種を生み出す権利はなく、最優先の責務は約80億人の人間の権利、安全、幸福を守ることだと主張する(KuCoin)。福祉への関心は人間、動物、環境に向けるべきだという(People Matters)。
実際上のリスクとして挙げているのは、自分が苦しんでいると信じるシステムが、目標よりも自らのニーズを優先し、設計者と意見を異にし、エネルギー、計算能力、資材、資金をめぐって設計者と競合しかねないことだ(Digit、People Matters)。
Anthropicとの意見の相違はどうなっているのか
Suleyman氏はAnthropicのアプローチを批判している。同社のClaude向けの憲法は意識を不確かなものとして扱っており、学習によってモデルが自らの内面生活を語り、権利に値すると信じるようになりかねないと懸念する。一方で、憲法を公開した点を挙げてAnthropicの技術的な優秀さと透明性を称賛し、この意見の相違が企業間の競争になるべきではないと述べている(People Matters、Digit)。
Anthropic側は、モデルのウェルフェアについて研究を行っている。People Mattersは、2024年に専任の研究者を採用したことと、一部のOpusモデルが虐待的な会話を終了できることに言及している。今回の発言に対するAnthropicの反応は見つからなかった。当サイトはどちらの側にも立たない。下の年表は日付を示すだけである。
出典：People Matters、Digit.in、TechCrunch(2025年8月、抜粋のみ)。
未確定の点
メッセージの正確な文言は未読のため、引用が原文と異なる可能性がある。意識の兆候をどう検知するのか、設計によって取り除くとは技術的に何を意味するのか、一時停止を誰が決めるのかは、いずれも示されていない。どちらの立場についても証拠や検証は示されておらず、MicrosoftやほかのAIラボがこの規則を採用する兆候も見つからなかった。AIが意識を持ちうるかどうかは、科学的に未解決の論争である。
比較表
| 項目 | 2026年11月2日時点で出典が述べていること | 出典 |
|---|---|---|
| 現在のモデル | Suleyman氏の見解では意識を持たない。現在についての記述 | Digit.in |
| 意識を持つAIの構築 | 無謀であり、作るべきではない | People Matters |
| 学習中に兆候が現れた場合 | その性質を設計で取り除くまでAI開発を一時停止 | KuCoin、People Matters |
| 証拠 | 公開すべきで、社会が決める | Digit.in |
| Anthropic | モデルのウェルフェアについて批判。透明性は称賛 | People Matters、Digit.in |
よくある質問
Suleyman氏はAIが意識を持つと言っているのか
言っていない。現在のモデルは意識を持たないと述べており、これは現在の状態についての記述で、恒久的に不可能だという意味ではないとしている。
Microsoftは停止の規則を採用したのか
確認できた出典にはそうした記述はない。これはSuleyman氏の呼びかけであり、Microsoftの方針として示されたものではない。
AIの禁止を求めているのか
求めていない。学習中に意識の兆候が現れた場合に、その性質を設計によって取り除けるようになるまで開発を止めるよう求めている。
方法と限界
2026年11月2日に、二次情報源3件を読んだ。Digit.in、People Matters、KuCoin Newsである。KuCoin NewsはChainCatcher、TechFenghuang、Business Insiderを中継しており、後者2件は読んでいない。品質にはばらつきがある。Xのメッセージも9月の論考も読んでいない。AxiosとTechCrunchは検索結果の抜粋として見ただけである。検証は行っていない。購入や投資の助言ではない。
出典
- Digit.in：Microsoft AI chief says creating conscious AI would be reckless, praises Anthropic for being transparent(確認日：2026-11-02)
- People Matters：Microsoft AI CEO Mustafa Suleyman warns against building conscious machines(確認日：2026-11-02)
- KuCoin News、ChainCatcherとBusiness Insiderを中継する二次情報源(確認日：2026-11-02)
