USA und China beraten gemeinsame Leitplanken für militärische KI und nukleare Sicherheit

Die geplante Kommunikationsverbindung für KI-Zwischenfälle

Tianjiao Jiang schlägt zusätzlich eine direkte Kommunikationsmöglichkeit für Zwischenfälle vor, an denen autonome oder teilautonome Systeme beteiligt sind. Eine solche Verbindung könnte militärischen und politischen Stellen ermöglichen, eine ungewöhnliche Aktivität unmittelbar zu erklären.

Das Szenario ist grundsätzlich plausibel: Ein Verteidigungssystem registriert verdächtige Bewegungen oder digitale Aktivitäten und reagiert automatisch. Die andere Seite erkennt lediglich die Gegenmaßnahme, nicht aber deren technischen Auslöser. Sie könnte daraus schließen, dass ein Angriff begonnen hat. Wenn beide Seiten über automatisierte Systeme verfügen, kann sich dieser Prozess gegenseitig verstärken.

Eine Hotline könnte in einem solchen Fall dazu beitragen, Missverständnisse schneller auszuräumen. Sie würde jedoch nur dann funktionieren, wenn sie im Krisenfall tatsächlich erreichbar ist, ihre Nutzung politisch akzeptiert wird und die beteiligten Staaten bereit sind, auch unter hohem Druck Informationen auszutauschen.

Die Erfahrungen mit bestehenden militärischen Kommunikationskanälen zeigen, dass technische Verfügbarkeit allein nicht genügt. Während der Krise um einen mutmaßlichen chinesischen Spionageballon im Jahr 2023 soll ein US-amerikanischer Kontaktversuch unbeantwortet geblieben sein. Dies wird von Kritikern als Hinweis gewertet, dass eine neue KI-Hotline klare Betriebsregeln, regelmäßige Tests und politische Verbindlichkeit benötigen würde.

Einordnung in die bisherigen Gespräche zwischen Washington und Peking

Die Empfehlungen bauen nach Angaben der beteiligten Experten auf einer politischen Verständigung zwischen US-Präsident Joe Biden und Xi Jinping aus dem November 2024 auf. Damals wurde demnach das Prinzip bekräftigt, dass Menschen die Kontrolle über Entscheidungen zum Einsatz von Nuklearwaffen behalten sollen.

Die aktuellen Vorschläge gehen über dieses Grundprinzip hinaus. Sie beziehen auch Cyberangriffe auf nukleare Kommandosysteme und andere strategisch bedeutende Infrastrukturen ein. Damit wird die Debatte von der eigentlichen Startentscheidung auf die technischen und operativen Prozesse ausgeweitet, die eine nukleare Krise auslösen oder verschärfen könnten.

Die Veröffentlichung im Vorfeld eines geplanten Treffens zwischen Trump und Xi verleiht den Vorschlägen zusätzliche politische Aufmerksamkeit. Sie stellt jedoch noch keine offizielle Position der US-Regierung oder der chinesischen Regierung dar. Es handelt sich um Empfehlungen aus einem sicherheitspolitischen Dialog, der politische Gespräche vorbereiten und mögliche gemeinsame Interessen ausloten soll.

Warum gerade die USA und China betroffen sind

Die Vereinigten Staaten und China stehen in einem umfassenden strategischen Wettbewerb. Dieser betrifft unter anderem Technologie, Halbleiter, militärische Fähigkeiten, Cybersecurity und die Gestaltung internationaler Regeln für künstliche Intelligenz. Gleichzeitig verfügen beide Staaten über bedeutende nukleare Kapazitäten und entwickeln Systeme, die militärische Entscheidungen unterstützen oder automatisieren können.

Die Kombination aus geopolitischer Rivalität und technologischer Beschleunigung erhöht die Bedeutung verlässlicher Kommunikationsmechanismen. Ein Zwischenfall muss nicht zwangsläufig auf einen absichtlichen Angriff zurückgehen. Er kann auch durch eine Fehlkonfiguration, kompromittierte Trainingsdaten, einen Cyberangriff Dritter, eine fehlerhafte Sensorik oder ein unerwartetes Verhalten eines Systems verursacht werden.

Für die strategische Stabilität ist entscheidend, wie eine Regierung die Ursache einer Handlung bewertet. Wenn die Verantwortlichkeit einer Maschine, eines Bedieners oder eines Angreifers nicht rasch nachvollzogen werden kann, wächst das Risiko einer falschen Zuschreibung. In einem Umfeld mit hoher militärischer Anspannung kann dies die Zeit für Deeskalation verkürzen.

Technische Risiken autonomer Systeme

KI-Systeme arbeiten nicht wie klassische regelbasierte Software, deren Verhalten sich vollständig aus einer überschaubaren Zahl festgelegter Befehle ableiten lässt. Moderne Modelle können aus großen Datenmengen Muster ableiten, Wahrscheinlichkeiten berechnen und Handlungsempfehlungen generieren. Ihre Ergebnisse hängen unter anderem von Trainingsdaten, Systemarchitektur, Eingaben und Einsatzumgebung ab.

In sicherheitskritischen Anwendungen entstehen daraus mehrere Risikofelder:

- Ein System kann unvollständige oder widersprüchliche Daten falsch bewerten.

- Ein Angreifer kann Eingaben manipulieren und dadurch eine Fehlklassifizierung auslösen.

- Ein Modell kann in einer neuen Situation anders reagieren als in Testszenarien.

- Automatisierte Systeme können ihre Reaktionsgeschwindigkeit gegenseitig verstärken.

- Verantwortlichkeiten können unklar werden, wenn mehrere Systeme und menschliche Stellen beteiligt sind.

- Geheimhaltung kann unabhängige Tests und externe Kontrolle erschweren.

Besonders problematisch ist die Verbindung von hoher Geschwindigkeit und begrenzter Erklärbarkeit. Wenn ein System innerhalb von Sekunden eine Bedrohung erkennt und eine Gegenmaßnahme vorbereitet, müssen Menschen nicht nur schnell handeln, sondern auch nachvollziehen können, warum die KI zu ihrer Einschätzung gelangt ist. Bei einer strategischen Entscheidung kann eine bloße Wahrscheinlichkeitsangabe dafür nicht ausreichen.

Die Grenzen der bisherigen Regelungsansätze

Die Forderung nach menschlicher Kontrolle über Nuklearwaffen wurde bereits vor mehreren Jahren von sicherheitspolitischen Gremien unterstützt. Die US-amerikanische National Security Commission on Artificial Intelligence sprach sich 2021 dafür aus, die menschliche Entscheidungshoheit in diesem Bereich zu bewahren.

Dennoch fehlen nach den vorliegenden Berichten weiterhin umfassende, verbindliche Mechanismen, die konkrete technische und operative Anforderungen festlegen. Politische Erklärungen können ein wichtiges Signal senden, ersetzen aber keine überprüfbaren Verfahren.

Für eine wirksame Vereinbarung müssten die Staaten möglicherweise unterschiedliche Ebenen miteinander verbinden:

- politische Zusagen auf höchster Ebene

- militärische Einsatzregeln und Befehlsketten

- technische Zugriffskontrollen und Sperrmechanismen

- verpflichtende Tests vor und während des Einsatzes

- Protokollierung und nachträgliche Untersuchung von Zwischenfällen

- geschützte Kommunikationskanäle für Krisensituationen

- Verfahren zur gegenseitigen Vertrauensbildung

Eine besondere Herausforderung besteht darin, dass die USA und China ihre militärischen Fähigkeiten und Sicherheitsarchitekturen nicht vollständig offenlegen wollen. Eine Vereinbarung müsste daher überprüfbar sein, ohne sensible Informationen preiszugeben. Denkbar wären beispielsweise gemeinsame Prinzipien, gegenseitige Benachrichtigungen über bestimmte Systemklassen oder technische Nachweise, die keine vollständige Offenlegung der jeweiligen Infrastruktur voraussetzen.

Was die Vorschläge für Unternehmen und Entwickler bedeuten

Die Debatte richtet sich zunächst an Regierungen und militärische Organisationen. Sie hat jedoch auch Bedeutung für Unternehmen, die KI-Systeme für sicherheitskritische Branchen entwickeln oder bereitstellen. Dazu gehören Anbieter von Analyseplattformen, Cybersecurity-Lösungen, Cloud-Infrastrukturen, Sensorik, Simulationssystemen und Entscheidungsunterstützung.

Für Unternehmen ergibt sich daraus die Notwendigkeit, den Einsatzkontext eines Modells stärker zu berücksichtigen. Ein System, das in einem unkritischen Geschäftsumfeld eingesetzt wird, kann andere Sicherheitsanforderungen erfüllen als eine Anwendung, die operative Entscheidungen in Energieversorgung, Telekommunikation, Verteidigung oder Krisenmanagement unterstützt.

Wichtige organisatorische und technische Prüfbereiche sind unter anderem:

- eindeutige Festlegung der zulässigen und unzulässigen Systemaktionen

- Trennung zwischen Analyse, Empfehlung und tatsächlicher Ausführung

- Mehr-Augen-Prinzip bei Maßnahmen mit weitreichenden Folgen

- nachvollziehbare Protokollierung von Eingaben, Empfehlungen und Freigaben

- regelmäßige Red-Team-Tests und Simulationen unerwarteter Situationen

- Schutz vor manipulierten Daten und missbräuchlichen Eingaben

- Notfallmechanismen für eine kontrollierte Abschaltung

- klare Verantwortungszuordnung zwischen Anbieter, Betreiber und Nutzer

Für B2B-Entscheider bedeutet dies, dass Leistungsfähigkeit allein kein ausreichendes Bewertungskriterium für KI-Systeme ist. Entscheidend sind ebenso Governance, Auditierbarkeit, Zugriffskontrolle, Transparenz und die Fähigkeit, ein System in einem definierten Sicherheitszustand zu halten.

Relevanz für den Einsatz von KI in Unternehmen

Die Diskussion um nukleare Risiken betrifft einen Extremfall. Die zugrunde liegenden Prinzipien sind jedoch auch für weniger dramatische Anwendungen relevant. In Unternehmen können automatisierte Systeme Entscheidungen über Zahlungen, Zugriffsrechte, Produktionsprozesse, Lieferketten oder Sicherheitsalarme beeinflussen.

Auch dort kann eine Fehlklassifizierung erhebliche Folgen haben. Ein System könnte beispielsweise einen legitimen Zugriff blockieren, einen vermeintlichen Cyberangriff automatisch eskalieren oder eine kritische Infrastruktur abschalten. Je stärker die Entscheidung in reale Prozesse eingreift, desto wichtiger sind abgestufte Freigaben, klare Zuständigkeiten und technische Grenzen.

Unternehmen können aus der internationalen Debatte insbesondere drei Grundsätze ableiten:

- Kritische Entscheidungen sollten nicht ohne angemessene menschliche Verantwortung automatisiert werden.

- Die Rolle der KI muss vor dem Einsatz präzise definiert und dokumentiert werden.

- Für Fehlfunktionen und Zwischenfälle müssen Kommunikations- und Wiederanlaufprozesse existieren.

Mindverse versteht sich als KI-Partner für Text, Inhalte, Bilder und Recherche. Für Unternehmen, die KI in ihre Arbeitsabläufe integrieren, ist die Frage der Kontrolle deshalb nicht nur eine politische, sondern auch eine praktische. Die Einführung leistungsfähiger Systeme sollte mit internen Richtlinien, Datenschutz- und Sicherheitsprüfungen sowie einer regelmäßigen Bewertung der tatsächlichen Systemleistung verbunden werden.

Offene Fragen auf dem Weg zu gemeinsamen Regeln

Ob aus den Vorschlägen ein belastbares bilaterales Regelwerk entsteht, ist offen. Die größten Herausforderungen liegen nicht allein in der technischen Umsetzung, sondern auch in der politischen Vertrauensbildung.

Zu klären wäre zunächst, welche Systeme unter eine Vereinbarung fallen. Soll sie nur Nuklearwaffen und NC3-Strukturen erfassen oder auch Frühwarnsysteme, Satellitenkommunikation, Raketenabwehr und kritische zivile Infrastruktur? Je weiter der Anwendungsbereich gefasst wird, desto größer ist der mögliche Sicherheitsgewinn. Gleichzeitig steigt der Verhandlungsaufwand.

Darüber hinaus müssten beide Staaten festlegen, welche Aktivitäten als Angriff gelten. Ein Cyberangriff kann auf Spionage, Sabotage, Aufklärung oder Vorbereitung einer militärischen Operation abzielen. Für ein automatisiertes Warnsystem sind diese Kategorien jedoch möglicherweise schwer voneinander zu unterscheiden.

Auch die Frage der Durchsetzung bleibt offen. Eine politische Zusage kann gebrochen werden, ohne dass dies sofort nachweisbar ist. Technische Überprüfungen könnten Vertrauen schaffen, müssten aber so gestaltet sein, dass sie keine sicherheitsrelevanten Details offenlegen. Hinzu kommt die Möglichkeit, dass nichtstaatliche Akteure oder Drittstaaten versuchen, Systeme zu manipulieren und dadurch einen Konflikt zwischen Washington und Peking auszulösen.

Ausblick: Von der politischen Leitlinie zur überprüfbaren Praxis

Die Vorschläge der US-amerikanischen und chinesischen Experten markieren einen Versuch, den internationalen Dialog über militärische KI auf besonders gefährliche Einsatzbereiche zu konzentrieren. Statt eine umfassende Regulierung sämtlicher militärischer Anwendungen anzustreben, setzen sie bei wenigen, klar definierten Grenzen an: keine autonome Entscheidung über Nuklearwaffen, keine eigenständigen Angriffe auf nukleare Kommandosysteme und menschliche Verantwortung für strategische Cyberoperationen.

Dieser begrenzte Ansatz könnte Verhandlungen erleichtern, weil er nicht voraussetzt, dass beide Staaten in allen Fragen der Cybersecurity oder der militärischen KI übereinstimmen. Gleichzeitig bleibt die praktische Ausgestaltung anspruchsvoll. Eine Regel ist nur dann wirksam, wenn sie eindeutig formuliert, technisch umsetzbar, politisch belastbar und im Krisenfall überprüfbar ist.

Für Sie als Entscheider in einem Unternehmen liegt die zentrale Erkenntnis darin, dass KI-Governance nicht erst bei vollständig autonomen Systemen beginnt. Schon heute sollte klar geregelt sein, welche Entscheidungen ein System vorbereiten, welche es ausführen und welche es niemals allein treffen darf. Die internationale Debatte über nukleare Risiken macht sichtbar, welche Bedeutung diese Unterscheidung für alle Bereiche hat, in denen automatisierte Systeme mit kritischen Prozessen verbunden sind.

Quellen

1. Reuters: U.S., China security experts propose nuclear-style safeguards for AI risks, 17. September 2026, reuters.com
2. The Decoder: US and China experts push for shared rules banning AI control over nuclear weapons, Manuel Uth, 18. September 2026, the-decoder.com
3. Brookings Institution: Advancing human control of military AI, brookings.edu
4. The Japan Times: U.S. and China security experts propose nuclear-style safeguards for AI risks, 17. September 2026, japantimes.co.jp
5. Decrypt: Security Experts Want the US and China to Promise Never to Let AI Control Nukes, Jason Nelson, 17. September 2026, decrypt.co
6. AsiaOne: US, China security experts propose nuclear-style safeguards for AI risks, 17. September 2026, asiaone.com
7. National Security Commission on Artificial Intelligence: Final Report, 2021, recommendations on maintaining human control over nuclear weapons, ai.gov
8. The Epoch Times: Experts Urge US, China to Prevent Rogue AI Causing Nuclear Crisis, 17. September 2026, theepochtimes.com