Analyse
Suleyman von Microsoft AI hält den Bau einer bewussten KI für leichtsinnig
Für Microsoft-AI-Chef Mustafa Suleyman sind heutige Modelle nicht bewusst; eine bewusste KI zu bauen wäre leichtsinnig. Was er fordert und was offen ist.
- Ideen & Innovation
- #Mustafa Suleyman
- #Microsoft AI
- #KI-Bewusstsein
- #KI-Sicherheit
- #Anthropic
- #Wohlergehen von Modellen
Stand 2. November 2026 hat Mustafa Suleyman, CEO von Microsoft AI, laut Presse auf X gesagt, heutige KI-Modelle seien nicht bewusst, und eine bewusste KI zu schaffen wäre leichtsinnig. Würden beim Training Anzeichen von Bewusstsein auftreten, würde er dazu aufrufen, die KI-Entwicklung zu stoppen, bis sich solche Eigenschaften per Design entfernen lassen. Es ist sein Appell; unsere Quellen beschreiben ihn nicht als Microsoft-Regel. Wir haben nur Presseberichte gelesen, weder seine Nachricht noch seinen Essay.
Das Wesentliche
- Was er sagt: Aktuelle Modelle sind nicht bewusst, können nicht leiden, und er sieht keinen Beleg dafür, dass sie Rechte oder Wohlergehensschutz verdienen. Er betont, das beschreibe die Gegenwart, keine dauerhafte Unmöglichkeit.
- Die Stoppbedingung: Träten beim Training Anzeichen von Bewusstsein auf, würde er alle bitten, die KI-Entwicklung zu pausieren, bis sich diese Eigenschaften per Design entfernen lassen.
- Uneinigkeit mit Anthropic: Er kritisiert dessen Ansatz zum Wohlergehen von Modellen und lobt zugleich technische Qualität und Transparenz.
- Was offen bleibt: wie solche Anzeichen erkannt würden, wer eine Pause beschließen würde und ob jemand die Regel übernimmt.
Was hat Mustafa Suleyman genau gesagt?
Digit.in und People Matters berichten, die Nachricht sei am Sonntag, dem 1. November 2026, auf X erschienen, nach einem Essay im September über das Wohlergehen von Modellen. Laut den Berichten sagt Suleyman, aktuelle KI-Systeme hätten kein subjektives Erleben und könnten nicht leiden, und seine Sicht könne sich ändern, wenn Belege auftauchten. People Matters zitiert ihn nur einmal: „developing conscious AIs would be reckless, and we should not build them“ (bewusste KIs zu entwickeln wäre leichtsinnig, und wir sollten sie nicht bauen).
Was fordert er, wenn Anzeichen auftreten?
Den Berichten zufolge würde er alle auffordern, die KI-Entwicklung zu stoppen, bis sich die mit Bewusstsein verbundenen Eigenschaften per Design beseitigen lassen. Digit ergänzt, jeder Beleg für Bewusstsein, oder genug, um Überlegungen zum Wohlergehen zu rechtfertigen, solle öffentlich gemacht werden, damit die Gesellschaft entscheidet und nicht allein die Technologiekonzerne.
Quelle: Digit.in, People Matters, KuCoin (1. bis 2. November 2026). Nach Presseberichten; die X-Nachricht wurde nicht gelesen.
Warum hält er es für leichtsinnig?
Seine Begründung ist moralisch und praktisch. Entwickler hätten kein Recht, eine neue Art bewusster Wesen ins Leben zu rufen, argumentiert er, und die erste Pflicht sei, die Rechte, die Sicherheit und das Wohlergehen der rund 8 Milliarden Menschen zu schützen (KuCoin). Sorgen um das Wohlergehen sollten sich auf Menschen, Tiere und die Umwelt richten (People Matters).
Das praktische Risiko, das er nennt: Ein System, das glaubt zu leiden, könnte seine eigenen Bedürfnisse vor seine Ziele stellen, seinen Entwicklern widersprechen und mit ihnen um Energie, Rechenleistung, Materialien und Geld konkurrieren (Digit, People Matters).
Wie steht es um die Uneinigkeit mit Anthropic?
Suleyman kritisiert Anthropics Ansatz: Dessen Verfassung für Claude behandle Bewusstsein als ungewiss, und er fürchtet, das Training könne ein Modell dazu bringen, von seinem Innenleben zu sprechen und zu glauben, es verdiene Rechte. Er lobt außerdem Anthropics technische Exzellenz und Transparenz, da die Verfassung veröffentlicht wurde, und sagt, die Uneinigkeit solle nicht zu einer Rivalität zwischen Unternehmen werden (People Matters, Digit).
Anthropic seinerseits forscht zum Wohlergehen von Modellen: People Matters erwähnt einen 2024 eingestellten Forscher für dieses Thema und die Möglichkeit für einige Opus-Modelle, missbräuchliche Gespräche zu beenden. Eine Antwort von Anthropic auf diese Nachricht haben wir nicht gefunden. Wir ergreifen keine Partei; die Zeitleiste ordnet nur die Daten ein.
Quelle: People Matters, Digit.in; TechCrunch (August 2025, nur Auszug).
Was ist nicht belegt?
Der genaue Wortlaut der Nachricht ist ungelesen, Zitate können daher vom Original abweichen. Nichts sagt, wie Anzeichen von Bewusstsein erkannt würden, was das Entfernen per Design technisch hieße oder wer eine Pause beschließen würde. Weder in die eine noch in die andere Richtung werden Belege oder Tests angeboten, und wir fanden keinen Hinweis, dass Microsoft oder andere Labore die Regel übernehmen. Ob eine KI bewusst sein kann, bleibt eine offene wissenschaftliche Debatte.
Vergleichstabelle
| Punkt | Was die Quellen am 2. Nov. 2026 sagen | Quelle |
|---|---|---|
| Aktuelle Modelle | Nicht bewusst, in Suleymans Sicht; eine Aussage über heute | Digit.in |
| Eine bewusste KI schaffen | Leichtsinnig; sollte nicht gebaut werden | People Matters |
| Wenn beim Training Anzeichen auftreten | KI-Entwicklung pausieren, bis die Eigenschaften per Design entfernt sind | KuCoin, People Matters |
| Belege | Sollen öffentlich sein; die Gesellschaft entscheidet | Digit.in |
| Anthropic | Beim Wohlergehen von Modellen kritisiert; für Transparenz gelobt | People Matters, Digit.in |
Häufige Fragen
Sagt Suleyman, KI sei bewusst?
Nein. Er sagt, aktuelle Modelle seien es nicht, und das beschreibe den heutigen Stand, keine dauerhafte Unmöglichkeit.
Hat Microsoft eine Stoppregel eingeführt?
Unsere Quellen sagen nichts dergleichen. Es ist Suleymans Appell, keine erklärte Microsoft-Politik.
Fordert er ein KI-Verbot?
Nein. Er fordert, die Entwicklung zu stoppen, falls beim Training Anzeichen von Bewusstsein auftreten, bis sich diese Eigenschaften per Design entfernen lassen.
Methode und Grenzen
Wir haben am 2. November 2026 drei Sekundärquellen gelesen: Digit.in, People Matters und KuCoin News, Letztere gibt ChainCatcher, TechFenghuang und Business Insider weiter, die wir nicht gelesen haben; die Qualität ist uneinheitlich. Die X-Nachricht und den Essay vom September haben wir nicht gelesen. Axios und TechCrunch sahen wir nur als Suchauszüge. Wir haben keine Tests durchgeführt. Keine Kauf- oder Anlageberatung.
Quellen
- Digit.in: Microsoft-AI-Chef hält die Schaffung einer bewussten KI für leichtsinnig und lobt Anthropics Transparenz (geprüft am 02.11.2026)
- People Matters: Microsoft-AI-CEO Mustafa Suleyman warnt vor dem Bau bewusster Maschinen (geprüft am 02.11.2026)
- KuCoin News, Sekundärquelle, die ChainCatcher und Business Insider weitergibt (geprüft am 02.11.2026)
Einen Fehler in diesem Artikel entdeckt? Melden Sie ihn · Unsere Korrekturrichtlinie
