Anthropic veröffentlicht Daten über autonome KI-Code-Generierung und fordert globale Entwicklungspause

Anthropic, das führende KI-Unternehmen und Entwickler des Sprachmodells Claude, hat jüngst interne Daten veröffentlicht, die einen signifikanten Wandel in der Softwareentwicklung aufzeigen. Diese Daten belegen, dass Claude inzwischen einen Großteil des Codes für seine eigene Weiterentwicklung selbstständig generiert. Gleichzeitig äußert Anthropic Bedenken hinsichtlich der rasanten Entwicklung künstlicher Intelligenz und fordert die Einführung eines globalen "Pausenknopfs" für die KI-Forschung.

Claude generiert über 90 % des eigenen Codes: Eine neue Ära der Softwareentwicklung

Die von Anthropic über das firmeneigene Anthropic Institute bereitgestellten Informationen, die auf bisher unveröffentlichten internen Daten basieren, verdeutlichen das Ausmaß, in dem KI-Systeme bereits in die eigene Entwicklung involviert sind. Die zentrale Botschaft ist, dass eine vollständig autonome rekursive Selbstverbesserung von KI-Systemen – bei der eine KI eigenständig ihren Nachfolger entwirft – zwar noch nicht erreicht ist, jedoch "schneller kommen könnte, als die meisten Institutionen darauf vorbereitet sind".

Steigende Produktivität und Code-Qualität

Laut Anthropic konnten Ingenieure im zweiten Quartal 2026 durchschnittlich achtmal mehr Code pro Tag liefern als noch im Jahr 2024. Über 80 Prozent des in die Produktionscodebasis integrierten Codes stammen dabei von Claude. Vor der Einführung von Claude Code im Februar 2025 lag dieser Anteil noch im niedrigen einstelligen Bereich. Berücksichtigt man Skripte und experimentellen Code, schätzt die Unternehmensführung den Gesamtanteil auf über 90 Prozent. Ein Mitarbeiter wird mit der Aussage zitiert: "Es ist jetzt etwa fünf Monate her, dass ich selbst Code geschrieben habe."

Anthropic räumt ein, dass die Anzahl der Codezeilen ein unvollkommenes Maß ist und die achtfache Steigerung "mit ziemlicher Sicherheit eine Übertreibung des tatsächlichen Produktivitätsgewinns" darstellt. Eine interne Umfrage vom März 2026 unter 130 Mitarbeitern ergab, dass der Output-Boost durch Mythos Preview im Median auf das Vierfache geschätzt wurde. Anthropic selbst geht von einer etwas niedrigeren Zahl aus und verweist auf aktuelle METR-Forschungsergebnisse, die zeigen, dass Entwickler dazu neigen, KI-Produktivitätsgewinne zu überschätzen.

Hinsichtlich der Codequalität heißt es im Bericht: "Der von Claude geschriebene Code war Ende 2025 bei Anthropic etwas schlechter als der von Menschen geschriebene Code, ist heute ungefähr auf Augenhöhe, und wir erwarten, dass er innerhalb eines Jahres deutlich besser sein wird." Eine retrospektive Analyse ergab, dass ein automatischer Claude-Reviewer etwa ein Drittel der Fehler, die zu früheren Vorfällen auf claude.ai führten, vor der Produktion entdeckt hätte. In einem anderen Beispiel lieferte Claude im April 2026 über 800 Korrekturen, die eine Klasse von API-Fehlern um den Faktor 1.000 reduzierten. Ein menschlicher Ingenieur hätte für diese Arbeit nach Angaben des zuständigen Ingenieurs vier Jahre benötigt.

Die Dauer von Aufgaben, die KI-Systeme eigenständig zuverlässig bewältigen können, verdoppelt sich laut Anthropic derzeit etwa alle vier Monate, zuvor waren es sieben Monate. Im März 2024 konnte Claude Opus 3 Aufgaben im Bereich von vier Minuten bearbeiten. Ein Jahr später bewältigte Claude Sonnet 3.7 anderthalb Stunden. Claude Opus 4.6 bearbeitet nun Aufgaben von zwölf Stunden Dauer. METR stellte fest, dass Claude Mythos Preview "mindestens" 16 Stunden arbeiten konnte und "am oberen Ende dessen lag, was [METR] ohne neue Aufgaben messen kann". Wenn der Trend anhält, könnten eintägige Aufgaben noch in diesem Jahr und wochenlange Aufgaben im Jahr 2027 erreicht werden, so Anthropic.

Fortschritte in der KI-gestützten Forschung

Neben der reinen Code-Generierung verzeichnet Anthropic auch Fortschritte in der KI-gestützten Forschung. In einem internen Optimierungstest, bei dem Claude Trainingscode so schnell wie möglich gestalten muss, erreichte Claude Opus 4 im Mai 2025 eine durchschnittliche Beschleunigung von etwa dem Dreifachen. Ein Jahr später erreichte Mythos Preview etwa das 52-fache. Ein erfahrener menschlicher Forscher würde vier bis acht Stunden benötigen, um das Vierfache zu erreichen.

In einer Analyse realer Forschungssitzungen bei Anthropic untersuchte das Unternehmen 129 Momente, in denen menschliche Entwickler einen suboptimalen Umweg nahmen. Claude Mythos Preview schlug in 64 Prozent dieser Fälle den besseren nächsten Schritt vor, gegenüber 51 Prozent für Claude Opus 4.5 sechs Monate zuvor. Anthropic bezeichnet dies als "ein frühes Zeichen dafür, dass KI-Systeme besser darin werden, die Art von Urteilsentscheidungen zu treffen, die für die KI-Forschung entscheidend sind".

Die verbleibenden Herausforderungen: "Research Taste" und Architekturfragen

Der entscheidende Engpass ist laut Anthropic der sogenannte "Research Taste": die Fähigkeit, die richtigen Probleme auszuwählen und Sackgassen frühzeitig zu erkennen. "Der komparative Vorteil von Menschen liegt im Moment immer noch darin, das Gesamtbild zu sehen und über die Grenzen der unmittelbaren Aufgabe hinaus zu denken", wird ein Mitarbeiter zitiert.

Ob dieser Sprung mit den heutigen Methoden überhaupt möglich ist, bleibt eine offene Frage. "Es ist wirklich unklar, ob die heutigen Trainingsmethoden und Architekturen diese Fähigkeit freisetzen könnten", heißt es im Bericht. Das Unternehmen relativiert dies jedoch: Paradigmenwechsel wie die Transformer-Architektur treten nur im Abstand von Jahren auf. Die meisten Fortschritte dazwischen sind inkrementelle Arbeit, genau die Art von Arbeitsabläufen, die Claude jetzt gut bewältigt. In Anlehnung an Edisons berühmten Spruch, dass Genie zu einem Prozent aus Inspiration und zu 99 Prozent aus Transpiration besteht, schreibt Anthropic: "Wir sehen, dass die Transpiration zunehmend automatisiert wird."

Selbst wenn Claude niemals einen guten "Research Taste" entwickelt, impliziert eine konservative Interpretation der Daten eine sich verstärkende Beschleunigung: Jeder Ingenieur leistet weitaus mehr Arbeit als zuvor, da Menschen nur den einstelligen Prozentsatz der richtungsweisenden Entscheidungen treffen.

Drei Zukunftsszenarien und die Forderung nach einem globalen Pausenmechanismus

Anthropic skizziert drei Zukunftsszenarien. Im ersten Szenario stagniert der Trend. Möglicherweise erweisen sich die exponentiellen Kurven als S-Kurven, oder Engpässe bei Energie und Chips verlangsamen die Entwicklung. Anthropic hält dies für unwahrscheinlich, da bisher keine Abflachung erkennbar ist.

Im zweiten Szenario setzen sich Effizienzsteigerungen fort, aber der Mensch behält die Richtungskontrolle. Unternehmen mit 100 Mitarbeitern könnten die Arbeit von 10.000 oder 100.000 erledigen. Anthropic sieht sich auf diesem Weg, warnt aber vor Risiken wie autoritärer Überwachung und maßgeschneiderten Manipulationskampagnen. Auch Amdahls Gesetz greift: Bei Anthropic ist die menschliche Code-Überprüfung bereits zum neuen Engpass geworden.

Das dritte Szenario beschreibt eine vollständige rekursive Selbstverbesserung, bei der das Fortschrittstempo nur durch Rechenleistung begrenzt ist. Ob das "Alignment-Problem" in diesem Fall gelöst werden kann, ist "etwas, worüber wir uns am wenigsten sicher sind". Seltene Fälle von Fehlfunktionen könnten sich häufen und "häufiger, aber weniger verständlich werden, bis wir die Kontrolle darüber verlieren".

Der Aufruf zu einer verifizierbaren Entwicklungspause

Die bemerkenswerteste Passage des Berichts betrifft Anthropic's Position zur Verlangsamung der KI-Entwicklung. "Wir glauben, es wäre gut für die Welt, die Möglichkeit zu haben, die Entwicklung von Frontier-KI zu verlangsamen oder vorübergehend zu pausieren, um es gesellschaftlichen Strukturen und der Alignment-Forschung zu ermöglichen, mit dem Fortschritt der Technologie Schritt zu halten", heißt es im Bericht.

Anthropic erklärt, dass es seine eigene Entwicklung verlangsamen oder pausieren würde, wenn andere Entwickler an oder nahe der Grenze dies auf verifizierbare Weise tun würden. Das Anthropic Institute plant, Systeme zu erforschen und zu entwickeln, die eine glaubwürdige Pause ermöglichen – Mechanismen, die es den Frontier-Entwicklern ermöglichen, zu überprüfen, ob andere tatsächlich aufgehört oder verlangsamt haben.

Die Hürden sind jedoch enorm. Trainingsläufe sind weitaus leichter zu verbergen als Raketensilos. Ihre Eingaben sind allgemeiner Natur, und der Anreiz, heimlich weiterzumachen, ist immens: "Wer weitermacht, während andere pausieren, könnte die Führung übernehmen." Ein Vergleich mit dem INF-Vertrag für Atomwaffen liegt nahe, aber diese Verifikationsregime brauchten Jahrzehnte, um aufgebaut zu werden. "So viel Zeit haben wir nicht", schreibt Anthropic.

Eine einseitige Pause eines einzelnen Labors wäre sofort umsetzbar, würde aber weitaus weniger bewirken. Sie würde nur ändern, wer die Führung innehat, ohne den breiteren Diskussionsprozess zu schaffen, der fehlt. In den kommenden Monaten plant Anthropic, Gespräche mit politischen Entscheidungsträgern, Forschern, der Zivilgesellschaft und anderen KI-Unternehmen zu organisieren.

Die Debatte um eine KI-Pause kam bereits vor Jahren auf, doch diese Forderungen fanden keine große Resonanz. Rückblickend schien der Vorstoß angesichts dessen, was diese Systeme tatsächlich leisten konnten, verfrüht. Ob es sich hierbei um angstbasierte Marketingstrategien handelt, wie Kritiker Anthropic bereits bei Mythos vorwarfen, wird sich wohl erst im Nachhinein zeigen.

Bibliographie

- The Decoder: "Anthropic says Claude now writes over 90% of its code and wants the world to have an AI pause button" - The Next Web: "Claude writes 80% of its code, calls for AI pause" - International Business Times: "Anthropic Warns of Self-Improving AI, Calls for Temporary Pause as Claude Now Writes Over 80% of Its Code" - BBC News: "Anthropic co-founder Jack Clark warns AI needs a 'brake pedal'" - HotHardware: "Claude Is Rapidly Building Its Own AI Successor, Anthropic Wants To Hit Pause" - The Byte Diver: "Anthropic Recursive Self-Improvement: Safety vs Speed" - The Indian Express: "‘Claude writing Claude’: Nearly 100% of Anthropic’s code is AI-generated, says Mike Krieger" - The Economic Times: "100% of Claude's code effectively AI-written: Anthropic CPO" - Tech Newsday: "Anthropic says AI now writes over 90% of the code behind Claude" - TokenRing AI via Wedbush Investor: "90% of Claude’s Code is Now AI-Written: Anthropic CEO Confirms Historic Shift in Software Development"