Anthropic fordert globale Entwicklungsverlangsamung für Künstliche Intelligenz

Anthropic warnt vor autonomer KI-Entwicklung und fordert globale Pause

Das auf Künstliche Intelligenz spezialisierte Unternehmen Anthropic hat sich mit einer eindringlichen Warnung an die Öffentlichkeit gewandt. Der KI-Entwickler, bekannt für sein Modell Claude, plädiert für eine weltweite Verlangsamung oder temporäre Aussetzung der Forschung und Entwicklung im Bereich der sogenannten "Frontier AI". Die Begründung dafür liegt in der rasanten Entwicklung von KI-Modellen, die zunehmend in der Lage sind, sich selbstständig weiterzuentwickeln – ein Szenario, das als "rekursive Selbstoptimierung" bezeichnet wird.

Die Gefahr der rekursiven Selbstoptimierung

Anthropic-Mitgründer Jack Clark und die Forscherin Marina Favaro äußerten in einem Blogbeitrag die Ansicht, dass es für die Welt von Vorteil wäre, die Entwicklung fortschrittlicher KI zu verlangsamen. Dies solle der Gesellschaft und der Forschung ermöglichen, mit dem technologischen Fortschritt Schritt zu halten und notwendige Anpassungen vorzunehmen. Ein zentrales Argument ist die Befürchtung eines möglichen Kontrollverlusts über KI-Systeme, die in der Lage sein könnten, eigene Nachfolger zu erschaffen und sich dabei menschlicher Programmierung zu entziehen.

Das Unternehmen untermauert diese These mit internen Daten: Im Mai 2026 stammten demnach bereits 80 Prozent des Codes, der in die Codebasis von Claude integriert wurde, direkt vom KI-Modell selbst. Im Februar 2025 lag dieser Anteil noch im niedrigen einstelligen Bereich. Diese Entwicklung deutet darauf hin, dass die Leistungsfähigkeit von KI-Systemen in der Codegenerierung exponentiell zunimmt. Anthropic-Mitarbeiter seien laut Berichten in der Lage, dank KI pro Quartal durchschnittlich achtmal so viel Code zu liefern wie in den Jahren 2021 bis 2025.

Menschliche Überprüfung als Engpass?

Die Qualität des von KI generierten Codes hat sich Anthropic zufolge signifikant verbessert. Während der von Claude erzeugte Code Ende 2025 noch als minderwertiger im Vergleich zu menschlich geschriebenem Code galt, wird er heute als gleichwertig eingeschätzt. Die Prognose des Unternehmens besagt, dass die KI-generierten Codes im Laufe des Jahres 2026 die menschliche Qualität übertreffen könnten. Dies würde dazu führen, dass Menschen sich ausschließlich auf die Überprüfung des Codes konzentrieren, anstatt ihn selbst zu schreiben.

Sollte die Geschwindigkeit der Code-Generierung durch KI die menschliche Überprüfungsleistung übersteigen, könnte die menschliche Kontrolle zu einem Engpass in der KI-Entwicklung werden. Dennoch betonen Clark und Favaro, dass KI ohne menschliche Urteils- und Entscheidungskraft derzeit lediglich ein fähiger Assistent sei. Die Frage, ob aktuelle Trainingsmethoden und Architekturen das menschliche Potenzial vollständig erreichen können, bleibe offen.

Globaler Koordinierungsmechanismus und die Frage des Timings

Für eine effektive Verlangsamung der KI-Entwicklung fordert Anthropic einen globalen Koordinierungsmechanismus. Dieser solle sicherstellen, dass Staaten und Unternehmen gemeinsam handeln, um Trittbrettfahrer zu vermeiden, die ein Moratorium nutzen könnten, um technologisch aufzuholen oder sich einen Wettbewerbsvorteil zu verschaffen.

Die Forderung von Anthropic fällt zeitlich mit der Ankündigung eines Börsengangs zusammen. Das Unternehmen hat kürzlich vertraulich einen Antrag bei der US-Finanzaufsichtsbehörde SEC eingereicht. Dieses Timing wirft Fragen bezüglich der Motivation hinter der Warnung auf. Kritiker könnten argumentieren, dass solche Äußerungen auch strategisch genutzt werden könnten, um das Image eines verantwortungsbewussten Unternehmens zu pflegen oder mediale Aufmerksamkeit zu generieren. Anthropic hat bereits in der Vergangenheit mit der Begründung der hohen Leistungsfähigkeit seines Modells Mythos dessen Zugang zunächst auf einen kleinen Kreis von US-Unternehmen und -Behörden beschränkt, bevor es auch europäischen Institutionen zugänglich gemacht wurde.

Historische Perspektive und die Herausforderungen einer Pause

Die aktuelle Forderung von Anthropic ist nicht die erste ihrer Art. Bereits im März 2023 appellierte ein offener Brief, unterzeichnet von über 1000 Persönlichkeiten aus Forschung und Wirtschaft, darunter auch namhafte Tech-Größen wie Elon Musk und Steve Wozniak, an eine Zwangspause bei der Entwicklung mächtiger KI-Modelle. Dieser Aufruf hatte jedoch keinen erkennbaren nachhaltigen Einfluss auf die weitere Entwicklung der KI-Technologie.

In einem hochkompetitiven und dynamischen Markt wie dem der KI-Entwicklung erscheint es unwahrscheinlich, dass ein einzelnes Unternehmen eine globale Bremsung allein bewirken kann. Anthropic plant in den kommenden Monaten Gesprächsrunden mit Vertretern aus Politik, Forschung, Zivilgesellschaft und anderen KI-Unternehmen, um die aufgeworfenen Fragen zu diskutieren. Zudem soll die Forschung an Sicherungssystemen für eine globale KI-Bremse vorangetrieben werden. Eine tatsächliche Verlangsamung oder Pause wird jedoch nur in Aussicht gestellt, wenn andere Entwickler mit vergleichbarem technologischem Stand auf überprüfbare Weise ebenfalls kooperieren.

Die Diskussion um die "rekursive Selbstoptimierung" und die Forderung nach einer globalen Entwicklungspause verdeutlichen die zunehmende Komplexität und die potenziellen Herausforderungen, die mit dem Fortschritt der Künstlichen Intelligenz einhergehen. Die Debatte wird sich voraussichtlich intensivieren, während die Technologie weiter voranschreitet.

Bibliography: - heise.de. (2026, Juni 5). Skynet-Szenario: Anthropic warnt vor KI, die sich selbst entwickelt. Abgerufen von https://www.heise.de/news/Skynet-Szenario-Anthropic-warnt-vor-KI-die-sich-selbst-entwickelt-11319846.html - SRF. (2026, Juni 5). Warnung von Anthropic-Mitbegründer – wird KI wirklich zu schlau? - Wissen - SRF. Abgerufen von https://www.srf.ch/wissen/kuenstliche-intelligenz/anthropic-mitbegruender-warnt-wie-gefaehrlich-wird-kuenstliche-intelligenz-tatsaechlich - winfuture.de. (2026, Juni 5). Anthropic warnt: KIs könnten schon bald eigene Nachfolger erschaffen. Abgerufen von https://winfuture.de/news,159157.html - fr.de. (2026, Juni 5). Wenn sich KI selbst baut: Anthropic pocht auch Entwicklungsstopp. Abgerufen von https://www.fr.de/wirtschaft/wenn-sich-ki-selbst-baut-anthropic-pocht-auch-entwicklungsstopp-94337183.html - derStandard.de. (2026, Juni 5). KI: Anthropic warnt vor Kontrollverlust und fordert Pause - DerStandard. Abgerufen von https://www.derstandard.de/story/3000000323532/ki-anthropic-warnt-vor-kontrollverlust-und-fordert-pause - tagesschau.de. (2026, Juni 5). Marktbericht: Anthropic plädiert für weltweite KI-Pause | tagesschau.de. Abgerufen von https://www.tagesschau.de/wirtschaft/finanzen/anthropic-warnung-ki-stopp-100.html - tagesschau.de. (2026, Juni 5). Gefahren Künstlicher Intelligenz: Anthropic für weltweite KI-Pause | tagesschau.de. Abgerufen von https://gktlplllco.tudasnich.de/wirtschaft/finanzen/anthropic-warnung-ki-stopp-100.html - de.headtopics.com. (2026, Juni 5). Skynet-Szenario: Anthropic warnt vor KI, die sich selbst entwickelt - Claude | Anthropic News. Abgerufen von https://de.headtopics.com/news/skynet-szenario-anthropic-warnt-vor-ki-die-sich-selbst-84171237 - robohorizon.de. (2026, April 8). Anthropics Glasswing: Skynet stoppen, bevor es … | RoboHorizon. Abgerufen von https://robohorizon.de/de/magazine/2026/04/anthropics-glasswing-plan-skynet-zu-stoppen/ - theaiwhisperer.de. (2026, Mai 24). Jack Clark: KI-Existenzrisiko – Anthropic-Mitgründer warnt in Oxford. Abgerufen von https://theaiwhisperer.de/jack-clark-anthropic-ki-existenzrisiko-oxford/