US-Regierung blockiert Zugang zu Anthropic KI-Modellen aufgrund von Sicherheitsbedenken

Kategorien:

No items found.

Freigegeben:

June 14, 2026

kostenlos testen Termin buchen

KI sauber im Unternehmen integrieren: Der 5-Schritte-Plan

Von der ersten Idee bis zur voll integrierten KI-Lösung – strukturiert, sicher und mit messbarem Erfolg

🎯

Strategie & Zieldefinition

Wir analysieren Ihre Geschäftsprozesse und identifizieren konkrete Use Cases mit dem höchsten ROI-Potenzial.

✓ Messbare KPIs definiert

🛡️

Daten & DSGVO-Compliance

Vollständige Datenschutz-Analyse und Implementierung sicherer Datenverarbeitungsprozesse nach EU-Standards.

✓ 100% DSGVO-konform

⚙️

Technologie- & Tool-Auswahl

Maßgeschneiderte Auswahl der optimalen KI-Lösung – von Azure OpenAI bis zu Open-Source-Alternativen.

✓ Beste Lösung für Ihren Fall

🚀

Pilotprojekt & Integration

Schneller Proof of Concept mit nahtloser Integration in Ihre bestehende IT-Infrastruktur und Workflows.

✓ Ergebnisse in 4-6 Wochen

👥

Skalierung & Team-Schulung

Unternehmensweiter Rollout mit umfassenden Schulungen für maximale Akzeptanz und Produktivität.

✓ Ihr Team wird KI-fit

Lassen Sie uns Ihren ersten Schritt planen

Inhaltsverzeichnis

mindverse studio – Ihre Plattform für digitale Effizienz

‍Optimieren Sie Prozesse, automatisieren Sie Workflows und fördern Sie Zusammenarbeit – alles an einem Ort.

Mehr über Mindverse Studio erfahren

Das Wichtigste in Kürze

Die US-Regierung hat Anthropic angewiesen, den globalen Zugang zu den KI-Modellen Claude Fable 5 und Claude Mythos 5 unverzüglich zu unterbinden.
Die Anordnung basiert auf nationalen Sicherheitsbedenken und einem Exportverbot, das alle ausländischen Staatsangehörigen betrifft, auch Anthropic-Mitarbeiter.
Anthropic widerspricht der Einschätzung der Regierung, wonach ein "Jailbreak" die Sicherheitsvorkehrungen der Modelle umgehen könne, und bezeichnet die Maßnahme als gefährlichen Präzedenzfall für die gesamte Branche.

Die jüngsten Entwicklungen im Bereich der Künstlichen Intelligenz (KI) haben eine signifikante Wendung genommen, die weitreichende Implikationen für die globale KI-Landschaft haben könnte. Das US-amerikanische Unternehmen Anthropic, bekannt für seine fortschrittlichen KI-Modelle, wurde von der US-Regierung angewiesen, den Zugang zu seinen neuesten und leistungsstärksten Modellen, Claude Fable 5 und Claude Mythos 5, weltweit zu sperren. Diese Maßnahme, die auf nationalen Sicherheitsbedenken basiert, hat eine Debatte über die Regulierung und die potenziellen Risiken fortschrittlicher KI-Technologien ausgelöst.

Hintergrund der Anordnung

Anthropic, ein führender Akteur in der Entwicklung großer Sprachmodelle (LLMs), hatte Claude Fable 5 und Claude Mythos 5 erst kürzlich vorgestellt. Diese Modelle wurden für ihre außergewöhnlichen Fähigkeiten in Bereichen wie Softwareentwicklung, Wissensarbeit, Bildverarbeitung und wissenschaftlicher Forschung gelobt. Insbesondere Claude Fable 5 wurde als ein "Mythos-Klasse"-Modell bezeichnet, das für den allgemeinen Gebrauch sicher gemacht wurde, während Claude Mythos 5, dasselbe zugrundeliegende Modell, jedoch ohne bestimmte Cybersicherheits-Schutzmaßnahmen, für spezialisierte Anwendungen gedacht war.

Die Anordnung der US-Regierung, die am 12. Juni 2026 erging, untersagt den Zugriff auf diese Modelle für alle ausländischen Staatsangehörigen, sowohl innerhalb als auch außerhalb der Vereinigten Staaten. Dies schließt auch die internationalen Mitarbeiter von Anthropic ein. Um dieser Anweisung nachzukommen, sah sich Anthropic gezwungen, den Zugang für alle Kunden weltweit zu deaktivieren. In einer offiziellen Stellungnahme bedauerte das Unternehmen die Unterbrechung für seine Kunden und kündigte an, an einer schnellstmöglichen Wiederherstellung des Zugangs zu arbeiten.

Die Kontroverse um den "Jailbreak"

Der Kern der Bedenken der US-Regierung liegt in der Annahme, dass eine Methode existiert, die Sicherheitsvorkehrungen von Claude Fable 5 zu umgehen – ein sogenannter "Jailbreak". Anthropic hat diese Behauptung jedoch öffentlich bestritten. Das Unternehmen gab an, eine Demonstration der angeblichen Umgehungstechnik überprüft zu haben und kam zu dem Schluss, dass diese lediglich "eine geringe Anzahl zuvor bekannter, kleinerer Schwachstellen" identifiziert, die auch von anderen öffentlich verfügbaren Modellen erkannt werden könnten.

Laut Anthropic basieren die Regierungsbedenken auf einer verbal beschriebenen Methode, bei der das Modell angewiesen wird, bestimmte Codebasen zu lesen und Softwarefehler zu beheben. Anthropic argumentiert, dass die dabei gezeigten Fähigkeiten "weit verbreitet bei anderen Modellen verfügbar" sind, einschließlich des GPT-5.5 von OpenAI. Sicherheitsexperten würden solche Fähigkeiten täglich nutzen, um Systeme zu schützen.

Anthropic's Sicherheitsstrategie und die Kritik

Vor der Veröffentlichung wurden Claude Fable 5 und Claude Mythos 5 umfassenden Tests unterzogen, die von der US-Regierung, dem UK AI Safety Institute (UK AISI), privaten Drittorganisationen und internen Teams durchgeführt wurden. Anthropic betonte, dass die implementierten Sicherheitsmaßnahmen "wesentlich effektiver sind als die jedes zuvor eingesetzten Modells". Es gab sogar Kundenbeschwerden über zu restriktive Sicherheitsvorkehrungen.

Das Unternehmen verfolgt eine Strategie der "Defense in Depth", bei der Jailbreaks entweder eng begrenzt oder kostspielig in der Durchführung gehalten werden sollen, kombiniert mit umfassender Überwachung zur schnellen Erkennung und Behebung erfolgreicher Angriffe. Teil dieser Strategie ist eine 30-tägige Datenaufbewahrung für Kundendaten, die laut Anthropic "reale Kosten für uns bei Kunden" verursacht, aber die Erforschung und Minderung von Jailbreaks ermöglicht.

Die Ironie dieser Situation bleibt nicht unbemerkt. Anthropic hatte in der Vergangenheit wiederholt vor den Cybersicherheitsrisiken von "Mythos-Klasse"-Modellen gewarnt und die Überlegenheit seiner Modelle in diesem Bereich betont. Nun sieht sich das Unternehmen gezwungen, zu argumentieren, dass Modelle anderer Anbieter ähnliche Fähigkeiten besitzen und die Bedenken der Regierung übertrieben sind.

Präzedenzfall für die gesamte Industrie?

Anthropic hat zwar der Anordnung Folge geleistet, aber gleichzeitig deutliche Einwände erhoben. Das Unternehmen ist der Meinung, dass die Entdeckung eines potenziellen, eng gefassten Jailbreaks kein Grund sein sollte, ein kommerzielles Modell, das Millionen von Menschen zur Verfügung steht, zurückzurufen. Anthropic warnt davor, dass ein solcher Standard, wenn er branchenweit angewendet würde, die Einführung neuer Modelle aller führenden Anbieter effektiv zum Stillstand bringen könnte.

In früheren öffentlichen Erklärungen hatte Anthropic argumentiert, dass die Regierung die Befugnis haben sollte, unsichere Bereitstellungen zu blockieren, jedoch durch einen rechtlichen Prozess, der "transparent, fair, klar und auf technischen Fakten basiert". Das Unternehmen deutete an, dass die aktuelle Maßnahme diesen Prinzipien nicht gerecht wird, was auf eine weitere Eskalation im anhaltenden Konflikt zwischen Anthropic und der US-Regierung hindeuten könnte.

Die US-Regierung hatte kürzlich eine neue Executive Order erlassen, die es KI-Entwicklern ermöglicht, ihre Modelle vor der Veröffentlichung einer staatlichen Sicherheitsprüfung zu unterziehen. Anthropic hatte diesen Ansatz begrüßt, doch scheint der Prozess zum Zeitpunkt der aktuellen Anordnung noch nicht vollständig etabliert gewesen zu sein.

LLMs als Schwachstelle in der Cybersicherheit

Jailbreaks und das verwandte Problem der Prompt Injections stellen seit den Anfängen großer Sprachmodelle (LLMs) ein ungelöstes Sicherheitsproblem dar. Kein LLM-Anbieter ist dagegen immun. Die Schwachstelle ist seit mindestens GPT-3 bekannt und betrifft alle LLM-basierten Systeme. Auch ChatGPT und Claude können unter bestimmten Bedingungen durch Prompt Injection angegriffen werden, obwohl ihre Entwickler Gegenmaßnahmen implementiert haben.

Auch gezielte Sicherheitsbemühungen konnten das Problem bisher nicht vollständig lösen. Vor etwa einem Jahr entwickelte Anthropic eine spezielle Verteidigung gegen Manipulationsversuche und stellte diese einer öffentlichen "Jailbreaking-Challenge" zur Verfügung. Nach fünf Tagen, über 300.000 Nachrichten und rund 3.700 Arbeitsstunden wurde das System vollständig geknackt, einschließlich eines universellen Jailbreaks.

Die aktuellen Ereignisse unterstreichen die komplexen Herausforderungen, denen sich die KI-Branche und Regulierungsbehörden gegenübersehen. Die Balance zwischen Innovation, Sicherheit und nationalen Interessen ist ein sensibles Thema, das weiterhin intensive Diskussionen und Anpassungen erfordern wird.