분석
Microsoft AI의 Suleyman, 의식 있는 AI를 만드는 것은 무모한 일이라고 밝혀
Microsoft AI CEO Mustafa Suleyman은 현재 모델에 의식이 없으며 의식 있는 AI를 만드는 것은 무모하다고 말했다. 그의 요구와 이유, 확인되지 않은 부분.
2026년 11월 2일 기준으로 Microsoft AI의 CEO Mustafa Suleyman은 X에서, 언론 보도에 따르면, 현재의 AI 모델에는 의식이 없으며 의식 있는 AI를 만드는 것은 무모한 일이라고 밝혔다. 학습 중 의식의 징후가 나타난다면, 그런 속성을 설계로 제거할 수 있을 때까지 AI 개발을 중단하자고 요구하겠다고 한다. 이는 그 개인의 요구이며, 우리가 확인한 출처는 이를 Microsoft의 규칙으로 설명하지 않는다. 우리는 언론 보도만 읽었고, 그의 게시물이나 에세이는 읽지 못했다.
핵심 요약
- 그의 주장: 현재 모델은 의식이 없고 고통을 느낄 수 없으며, 권리나 복지 보호를 받을 자격이 있다는 증거도 보지 못했다고 한다. 이는 현재에 대한 설명이지 영구적인 불가능을 뜻하는 것은 아니라고 말한다.
- 중단 조건: 학습 중 의식의 징후가 나타난다면, 그런 속성을 설계로 제거할 수 있을 때까지 모두에게 AI 개발을 멈추자고 요청하겠다고 한다.
- Anthropic과의 의견 차이: 모델 복지에 대한 Anthropic의 접근 방식을 비판하면서도 기술적 수준과 투명성은 칭찬한다.
- 남은 쟁점: 그런 징후를 어떻게 탐지할지, 누가 중단을 결정할지, 이 규칙을 누군가 채택할지 여부.
Mustafa Suleyman은 정확히 무엇을 말했나
Digit.in과 People Matters에 따르면 이 게시물은 2026년 11월 1일 일요일에 X에 올라왔으며, 9월에 발표한 모델 복지 관련 에세이에 이어진 것이다. 보도에서 Suleyman은 현재의 AI 시스템에는 주관적 경험이 없고 고통을 느낄 수 없다고 말하며, 증거가 나타나면 자신의 견해가 바뀔 수 있다고 한다. People Matters는 그의 말을 한 차례 인용한다. “의식 있는 AI를 개발하는 것은 무모한 일이며, 우리는 그것을 만들어서는 안 된다.”
징후가 나타난다면 무엇을 요구하나
보도에 따르면 그는 의식과 관련된 속성을 설계로 제거할 수 있을 때까지 모두에게 AI 개발을 중단하자고 요청하겠다고 한다. Digit은 의식의 증거, 또는 복지를 고려해야 할 만큼의 증거는 기술 기업만이 아니라 사회가 결정할 수 있도록 공개해야 한다고 덧붙인다.
출처: Digit.in, People Matters, KuCoin(2026년 11월 1~2일). 언론 보도 기준이며 X 메시지는 읽지 못했다.
왜 무모하다고 말하나
그의 논거는 도덕적이면서 실용적이다. 개발자에게는 의식 있는 새로운 종을 존재하게 할 권리가 없으며, 가장 우선하는 의무는 약 80억 명에 이르는 인간의 권리와 안전, 복지를 지키는 것이라고 주장한다(KuCoin). 복지에 대한 관심은 인간과 동물, 환경에 맞춰야 한다고 말한다(People Matters).
그가 제기하는 실용적 위험은, 자신이 고통받는다고 믿는 시스템이 목표보다 자신의 필요를 앞세우고, 설계자와 의견이 갈리며, 에너지와 컴퓨팅 파워, 자재, 자금을 두고 설계자와 경쟁할 수 있다는 점이다(Digit, People Matters).
Anthropic과의 의견 차이는 어디까지 왔나
Suleyman은 Anthropic의 접근 방식을 비판한다. Claude를 위한 헌법은 의식을 불확실한 것으로 다루는데, 그는 학습 과정에서 모델이 자신의 내면 생활을 이야기하고 자신에게 권리가 있다고 믿게 될 수 있다고 우려한다. 한편 헌법을 공개했다는 점을 들어 Anthropic의 기술적 우수성과 투명성은 칭찬하며, 이 의견 차이가 기업 간 경쟁으로 번져서는 안 된다고 말한다(People Matters, Digit).
Anthropic은 자체적으로 모델 복지를 연구한다. People Matters는 2024년에 전담 연구자를 채용한 일과, 일부 Opus 모델이 폭력적인 대화를 끝낼 수 있게 된 점을 언급한다. 이번 메시지에 대한 Anthropic의 반응은 찾지 못했다. 우리는 어느 편도 들지 않으며, 아래 연표는 날짜만 보여 줄 뿐이다.
출처: People Matters, Digit.in, TechCrunch(2025년 8월, 발췌만 확인).
확인되지 않은 부분은 무엇인가
메시지의 정확한 문구는 읽지 못했으므로 인용문이 원문과 다를 수 있다. 의식의 징후를 어떻게 탐지할지, 설계로 제거한다는 것이 기술적으로 무엇을 뜻하는지, 누가 중단을 결정할지는 어디에도 나와 있지 않다. 어느 쪽 입장에 대해서도 증거나 테스트는 제시되지 않았고, Microsoft나 다른 연구소가 이 규칙을 채택한다는 징후도 찾지 못했다. AI가 의식을 가질 수 있는지는 여전히 과학적으로 열려 있는 논쟁이다.
비교표
| 항목 | 2026년 11월 2일 기준 출처가 말하는 내용 | 출처 |
|---|---|---|
| 현재 모델 | Suleyman의 견해로는 의식이 없음. 현재에 대한 설명 | Digit.in |
| 의식 있는 AI 구축 | 무모하며 만들어서는 안 됨 | People Matters |
| 학습 중 징후가 나타나면 | 속성을 설계로 제거할 때까지 AI 개발 중단 | KuCoin, People Matters |
| 증거 | 공개해야 하며 사회가 결정 | Digit.in |
| Anthropic | 모델 복지는 비판, 투명성은 칭찬 | People Matters, Digit.in |
자주 묻는 질문
Suleyman은 AI에 의식이 있다고 말하나
아니다. 그는 현재 모델에는 의식이 없다고 말하며, 이는 현재 상태에 대한 설명이지 영구적인 불가능을 뜻하는 것이 아니라고 한다.
Microsoft는 중단 규칙을 채택했나
우리가 확인한 출처에는 그런 내용이 없다. 이는 Suleyman 개인의 요구이며, Microsoft가 밝힌 정책이 아니다.
AI를 금지하자는 것인가
아니다. 그는 학습 중 의식의 징후가 나타난다면, 그 속성을 설계로 제거할 수 있을 때까지 개발을 멈추자고 요구한다.
방법과 한계
2026년 11월 2일에 2차 출처 세 곳을 읽었다. Digit.in, People Matters, KuCoin News이다. KuCoin News는 ChainCatcher, TechFenghuang, Business Insider의 내용을 전달하는데, 이 가운데 뒤의 둘은 읽지 못했다. 품질은 고르지 않다. X 메시지도 9월 에세이도 읽지 못했다. Axios와 TechCrunch는 검색 결과의 발췌로만 확인했다. 테스트는 하지 않았다. 구매나 투자 조언이 아니다.
출처
- Digit.in: Microsoft AI chief says creating conscious AI would be reckless, praises Anthropic for being transparent (확인일: 2026-11-02)
- People Matters: Microsoft AI CEO Mustafa Suleyman warns against building conscious machines (확인일: 2026-11-02)
- KuCoin News, ChainCatcher와 Business Insider의 내용을 전달하는 2차 출처 (확인일: 2026-11-02)
