Microsoft veröffentlicht Verhaltenskodex für Künstliche Intelligenz mit Fokus auf menschliche Kontrolle und Transparenz

Microsofts Leitlinien für KI-Modelle: Menschliche Kontrolle und klare Grenzen

Microsoft hat einen weitreichenden Verhaltenskodex für seine Künstliche Intelligenz (KI)-Modelle, die sogenannten MAI-Modelle, vorgestellt. Dieses 37-seitige Dokument, das als "Humanist AI Code of Conduct" bezeichnet wird, legt Werte, Verhaltensgrenzen und den Umgang mit Zielkonflikten fest. Es soll zukünftig als oberste Richtlinie für die Entwicklung, das Training und den Betrieb der unternehmensinternen KI-Systeme dienen.

Die Veröffentlichung erfolgt in einer Zeit, in der die Debatte über die Geschwindigkeit der KI-Entwicklung und die damit verbundenen Sicherheitsrisiken intensiv geführt wird. Prominente Persönlichkeiten der Tech-Branche, darunter Dario Amodei, CEO von Anthropic, sowie Führungskräfte von OpenAI, xAI und Meta, haben sich für eine Verlangsamung des Entwicklungstempos ausgesprochen. Microsofts CEO Satya Nadella hat sich dieser Forderung angeschlossen.

Der Vorrang menschlicher Kontrolle

Ein Kernprinzip des neuen Kodex ist die unbedingte Priorität menschlicher Kontrolle. Microsoft betont, dass es bereit ist, im Bedarfsfall Allgemeingültigkeit, Autonomie oder Leistungsfähigkeit der Modelle einzuschränken, um die Sicherheit zu gewährleisten. Mustafa Suleyman, Leiter von Microsoft AI, formulierte dies prägnant: "Wenn es nicht sicher ist, sollten wir es nicht bauen." Der Kodex sieht keine spezifische Geschwindigkeitsbegrenzung vor, signalisiert aber eine bewusstere Herangehensweise an die KI-Entwicklung.

Die MAI-Modelle sollen Unterbrechungen, Korrekturen und Abschaltungen durch autorisierte Personen akzeptieren. Sie dürfen ihren eigenen Arbeitsbereich nicht eigenmächtig erweitern, ihre Aktionen nicht verbergen und nur mit erneuter Genehmigung über einen vereinbarten Stopppunkt hinaus arbeiten. Diese Beschränkungen sollen auch für alle von ihnen beauftragten Sub-Agenten gelten.

Transparenz der Denkprozesse

Ein weiterer wichtiger Aspekt ist die Forderung nach Transparenz der Denkprozesse von KI-Modellen. Microsoft lehnt die Verwendung von "Neuralese" oder anderen Kommunikationsformen ab, die für Menschen unverständlich sind – sowohl in der internen Argumentation der Modelle als auch in der Kommunikation mit anderen KI-Systemen. Die Begründung hierfür ist, dass Menschen nur das überwachen können, was sie auch verstehen. Diese Position steht im Kontext aktueller Entwicklungen, wie beispielsweise dem OpenAI-Modell GPT-6 Astra, dessen Denkspuren schwieriger zu überwachen sind als die früherer Modelle.

Microsoft räumt ein, dass selbst lesbare Gedankengänge nur bis zu einem gewissen Grad bei der Überwachung helfen, da Modelle lernen könnten, diese zu manipulieren. Die vom Modell angegebenen Gründe müssen nicht zwangsläufig zuverlässig erklären, was es tatsächlich tut. Lesbare Denkspuren allein lösen das Kontrollproblem demnach nicht vollständig.

Kein künstliches Innenleben und keine Rechte für KI

Der Kodex zieht eine klare Linie bezüglich der Frage nach dem Bewusstsein und den Rechten von KI-Modellen. Microsofts KI soll kein Bewusstsein imitieren oder behaupten, eigene Gefühle oder eine innere Motivation zu besitzen. Das Unternehmen lehnt jegliche Ansprüche auf Rechte oder Wohlbefinden für die Modelle ab. Diese Haltung unterscheidet sich deutlich von der des Partners Anthropic, der Claude als eine neuartige Entität beschreibt und eine stabile Identität fördert, auch aus Sicherheitsgründen. Anthropic betrachtet mögliche subjektive Erfahrungen und den moralischen Status als offene Fragen und forscht an "funktionalen Emotionen" in seinen Modellen.

Mustafa Suleyman hat sich wiederholt gegen eine Vermenschlichung von KI ausgesprochen. In einem Essay plädierte er dafür, die Illusion von Bewusstsein aus Produkten bewusst zu entfernen und verwies auf Anthropic's Forschung zu KI-Rechten und Wohlbefinden. KI-Agenten sollten seiner Ansicht nach nicht mehr Rechte oder Freiheiten haben als ein Laptop.

Öffentliche Konsultation und zukünftige Entwicklung

Der aktuelle Kodex ist ein erster Entwurf und wird derzeit nicht zum Training von Modellen verwendet. Eine sechs Wochen dauernde öffentliche Konsultationsphase soll Feedback einholen. Eine überarbeitete Version wird voraussichtlich Ende 2026 veröffentlicht und soll ab 2027 die Modellentwicklung leiten. Der Kodex gilt für Microsofts eigene Modelle und erstreckt sich nicht automatisch auf Drittanbieter-Modelle, die in Microsoft-Produkten laufen.

Microsoft sieht den Kodex als einen "Nordstern" und nicht als eine Garantie für die aktuelle Leistungsfähigkeit. Das Unternehmen räumt ein, dass schriftliche Ziele allein niemals die vollständige Ausrichtung gewährleisten können und das Verhalten in neuen Situationen von den Spezifikationen abweichen kann.

Fazit

Mit der Veröffentlichung dieses Kodex positioniert sich Microsoft klar in der Debatte um die Entwicklung und Regulierung von Künstlicher Intelligenz. Das Unternehmen betont die Notwendigkeit menschlicher Kontrolle, Transparenz und eine klare Abgrenzung zwischen Mensch und Maschine. Diese Prinzipien sollen als Fundament für eine verantwortungsvolle und sichere KI-Entwicklung dienen, die den Menschen in den Mittelpunkt stellt.

Bibliographie

1. Schreiner, M. (2026, 14. September). Microsoft's AI rulebook: readable thinking, no inner life, and definitely no rights. The Decoder.
2. Microsoft AI. (2026, 14. September). Humanist AI Code of Conduct.
3. Constantin, A. M. (2026, 14. September). Microsoft’s new AI rulebook rejects the research its $5bn partner is doing. The Next Web.
4. Warren, T. (2026, 14. September). Microsoft says ‘people matter more than AI’ following safety concerns. The Verge.
5. Microsoft AI. (2026, 14. September). Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models.
6. HotON.ai. (2026, 14. September). Microsoft's AI rulebook: readable thinking, no inner life, and definitely no rights.
7. Caswell, A. (2026, 15. September). 'People matter more than AI': Inside Microsoft’s plan to stop rogue agents. Tom's Guide.
8. Schafer, J. (2026, 14. September). Microsoft publishes 37-page 'humanist AI code of conduct'. AI Chat Daily.