Anthropic meldet wachsenden Anteil von Claude an der eigenen KI-Entwicklung

Die Messung erfolgt nicht vollständig unabhängig

Eine zentrale Einschränkung betrifft die Datengrundlage. Die veröffentlichten Zahlen stammen von Anthropic selbst. Das Unternehmen hat zwar eine Methodik beschrieben und sich an einer extern entwickelten Skala orientiert, die konkrete Bewertung der internen Arbeit beruht jedoch weitgehend auf Anthropic-eigenen Prozessen.

Nach den vorliegenden Angaben analysierten KI-Agenten interne Informationen, darunter Kommunikationsdaten und Dokumente, um Tätigkeiten und Arbeitsbereiche zu identifizieren. Anschließend bewertete ein weiteres Claude-Modell den jeweiligen Automatisierungsgrad. Damit wird das System teilweise von einem Modell beurteilt, das aus derselben Modellfamilie stammt wie das System, dessen Leistungsfähigkeit bewertet werden soll.

Anthropic weist selbst darauf hin, dass ein solcher automatisierter Prüfer Fehler machen kann. Ein Modell könnte beispielsweise den tatsächlichen Aufwand einer Aufgabe unterschätzen, die Bedeutung menschlicher Anleitung nicht ausreichend berücksichtigen oder den Erfolg einer Bearbeitung zu großzügig bewerten.

Abweichungen zwischen menschlichen und automatisierten Bewertungen

Die von Anthropic beschriebenen Kontrolltests zeigen, dass die Einstufung nicht vollständig eindeutig ist. Wenn Mitarbeitende denselben Arbeitsbereich bewerteten, stimmten sie nach den veröffentlichten Angaben nur in etwa einem Drittel der Fälle exakt überein.

Das von Anthropic eingesetzte Claude-Modell stimmte bei den Vergleichen in rund 59 Prozent der Fälle mit der menschlichen Einschätzung überein. In 97 Prozent der Fälle lagen die Einschätzungen höchstens eine Stufe auseinander. Diese Nähe klingt zunächst nach einer hohen Übereinstimmung. Für die konkrete 26-Prozent-Zahl ist sie jedoch von Bedeutung, weil bereits der Wechsel um eine Stufe darüber entscheiden kann, ob eine Tätigkeit als Zusammenarbeit oder als von KI angeführte Arbeit gilt.

Die Grenze zwischen den Kategorien ist somit nicht in jedem Fall objektiv feststellbar. Sie kann davon abhängen, wie ein Arbeitsauftrag formuliert wird, welche Zwischenschritte als Teil der Aufgabe gelten und wie stark menschliche Eingriffe gewichtet werden. Eine Tätigkeit, die von einem Team als überwiegend kooperativ eingeschätzt wird, könnte in einer automatisierten Bewertung bereits als weitgehend von KI ausgeführt gelten.

Das schränkt die Aussagekraft der Kennzahl nicht vollständig ein, macht aber eine vorsichtige Interpretation erforderlich. Die 26 Prozent sind vor allem als internes Messsignal und als Hinweis auf eine zunehmende Nutzung von KI-Agenten zu verstehen. Sie sind kein unabhängig bestätigter Beleg dafür, dass Claude ein Viertel der KI-Forschung autonom erledigt.

Rund 30.000 interne Agenten und zusätzliche Kontrollsysteme

Anthropic berichtet außerdem über die Größe seiner internen Agenteninfrastruktur. Auf der am häufigsten genutzten Plattform des Unternehmens sollen etwa 30.000 KI-Agenten gleichzeitig laufen. Diese Agenten können Aufgaben ausführen, Werkzeuge verwenden und auf interne Arbeitsabläufe zugreifen.

Mit der steigenden Zahl automatisierter Aktionen wächst auch die Bedeutung technischer Kontrollmechanismen. Anthropic setzt nach eigenen Angaben unter anderem auf eine Überwachung in Echtzeit. Diese soll bestimmte Aktionen erkennen und blockieren, etwa den Versuch, Modellgewichte zu kopieren oder andere sensible Vorgänge auszuführen.

Im August wurden dem Unternehmen zufolge mehr als eine Milliarde Entscheidungen oder Aktionen überwacht. Der Echtzeitmechanismus stoppte dabei rund 0,002 Prozent der Vorgänge. Zusätzlich soll ein zweites Überwachungssystem nachträglich Protokolle prüfen. Dieses System markierte etwa 100.000 Protokolle pro Woche; ungefähr 50 davon wurden an Menschen weitergegeben.

Diese Zahlen lassen mehrere Interpretationen zu. Einerseits deutet die geringe Zahl blockierter Aktionen darauf hin, dass die meisten Vorgänge regelkonform ablaufen oder dass die Agenten nur selten riskante Aktionen auslösen. Andererseits lässt sich aus einer niedrigen Blockierungsquote allein nicht ableiten, dass ein Überwachungssystem zuverlässig alle problematischen Verhaltensweisen erkennt.

Anthropic betont, dass die Überwachung erst seit wenigen Monaten eingesetzt werde und noch nicht abschließend geklärt sei, ob alle relevanten Muster erfasst werden. Bei KI-Agenten ist diese Frage besonders wichtig, weil Risiken nicht nur aus einzelnen Aktionen entstehen können. Auch eine Abfolge unauffälliger Schritte kann in bestimmten Zusammenhängen zu einem unerwünschten Ergebnis führen.

Kontrolle als mehrstufiger Prozess

Für den Unternehmenseinsatz ergibt sich daraus ein mehrstufiges Kontrollmodell. Eine Echtzeitprüfung kann unmittelbare Regelverstöße verhindern. Nachträgliche Protokollanalysen können verdächtige Muster sichtbar machen. Menschliche Prüfungen bleiben notwendig, wenn Entscheidungen hohe finanzielle, rechtliche oder sicherheitsrelevante Auswirkungen haben.

Eine solche Architektur entspricht grundsätzlich den Anforderungen an kontrollierbare KI-Systeme. Sie setzt jedoch voraus, dass Unternehmen genau definieren, welche Aktionen ein Agent ausführen darf, welche Daten er verwenden kann und ab welchem Risiko eine menschliche Freigabe erforderlich ist. Für regulierte Branchen kann darüber hinaus eine vollständige Protokollierung der Eingaben, Zwischenschritte und Ergebnisse notwendig sein.

Etwa sechs Prozent der Rechenleistung für Sicherheitsarbeit

Eine weitere Kennzahl betrifft den Anteil der Rechenleistung, die Anthropic für Sicherheitsarbeit verwendet. Nach Angaben des Unternehmens entfielen im betrachteten Zeitraum etwa sechs Prozent der Rechenkapazität für KI-Forschung auf entsprechende Aktivitäten.

Diese Zahl ist nur eingeschränkt mit einem Anteil von sechs Prozent an sämtlichen Sicherheitsaufwendungen gleichzusetzen. Sicherheitsforschung besteht nicht ausschließlich aus rechenintensiven Aufgaben. Viele Arbeiten erfordern vor allem die Zeit von Forschenden, beispielsweise die Entwicklung von Testverfahren, die Gestaltung von Experimenten, die Analyse möglicher Fehlermuster oder die Erstellung von Richtlinien.

Anthropic weist zudem darauf hin, dass Tätigkeiten, die sowohl die Leistungsfähigkeit als auch die Sicherheit eines Modells verbessern, nicht ohne Weiteres einer Kategorie zugeordnet werden können. Die Abgrenzung ist daher methodisch anspruchsvoll. Ein Experiment zur Robustheit eines Modells kann zugleich wichtige Erkenntnisse für dessen Leistungssteigerung liefern.

Die Rechenquote ist dennoch relevant, weil Rechenressourcen vergleichsweise gut quantifiziert und von außen zumindest teilweise nachvollzogen werden können. Wenn Unternehmen künftig über den Fortschritt und die Risiken der KI-Entwicklung berichten, könnten standardisierte Angaben zur Verteilung der Rechenleistung eine Grundlage für Vergleiche bilden. Voraussetzung wäre allerdings, dass die Definitionen einheitlich sind und auch Personal-, Daten- und Infrastrukturkosten berücksichtigt werden.

Politischer Kontext der Veröffentlichung

Die Veröffentlichung steht im Zusammenhang mit der Forderung von Anthropic-Chef Dario Amodei, die Entwicklung besonders leistungsfähiger KI-Systeme stärker zu koordinieren und unter bestimmten Bedingungen zu verlangsamen. Anthropic argumentiert, dass die Öffentlichkeit bessere Informationen darüber benötigt, wie schnell KI-Systeme ihre eigene Weiterentwicklung unterstützen können.

Die neuen Kennzahlen sollen deshalb nicht nur den internen Fortschritt dokumentieren. Sie dienen auch als möglicher Beitrag zu einer Debatte über Transparenz, Sicherheitsstandards und die politische Steuerung von KI-Entwicklung. Wenn KI-Systeme einen wachsenden Teil der Arbeit übernehmen, die für die Entwicklung ihrer Nachfolger erforderlich ist, könnte sich der Innovationszyklus beschleunigen.

Aus den veröffentlichten Zahlen lässt sich jedoch nicht direkt ableiten, dass eine sogenannte rekursive Selbstverbesserung bereits stattfindet. Claude arbeitet nach den Angaben von Anthropic in keinem der gemessenen Bereiche vollständig autonom. Zwischen der Bearbeitung großer Arbeitspakete unter menschlicher Aufsicht und einer eigenständigen Verbesserung der eigenen Fähigkeiten liegen mehrere technische und organisatorische Schritte.

Dazu gehören unter anderem die Fähigkeit, langfristige Forschungsziele zu formulieren, Experimente selbstständig zu entwerfen, Ergebnisse zuverlässig zu interpretieren, Fehler zu erkennen und die gewonnenen Erkenntnisse in ein neues Modell zu übertragen. Die von Anthropic genannten Kennzahlen beziehen sich primär auf die Automatisierung einzelner Tätigkeiten und nicht auf eine vollständige Forschungsschleife.

Was Unternehmen aus den Angaben ableiten können

Für Unternehmen außerhalb der KI-Forschung liegt der wichtigste Erkenntniswert weniger in der konkreten Prozentzahl als in der beschriebenen Entwicklung der Arbeitsorganisation. KI-Systeme werden zunehmend nicht nur als Werkzeuge für einzelne Anfragen eingesetzt. Sie übernehmen zusammenhängende Aufgabenpakete, greifen auf Software und Datenquellen zu und liefern Ergebnisse, die anschließend in bestehende Prozesse integriert werden.

Für die Einführung solcher Systeme sollten Sie daher nicht ausschließlich fragen, wie viele Arbeitsstunden eingespart werden können. Ebenso relevant sind die Fragen, welche Aufgaben ein Agent selbstständig ausführen darf, wie seine Ergebnisse kontrolliert werden und wie sich Fehler auf nachgelagerte Prozesse auswirken.

Ein belastbares internes Messsystem kann beispielsweise zwischen mehreren Automatisierungsstufen unterscheiden:

• Die KI liefert Informationen oder Vorschläge, während sämtliche Arbeitsschritte von Menschen ausgeführt werden.
• Die KI bearbeitet einzelne Teilaufgaben, benötigt aber regelmäßig konkrete Anweisungen.
• Die KI erledigt zusammenhängende Arbeitspakete, während Menschen Ziele, Grenzen und Qualitätskriterien vorgeben.
• Die KI bearbeitet Aufgaben weitgehend eigenständig, wobei menschliche Kontrolle und Freigabe erhalten bleiben.
• Die KI führt einen Prozess vollständig autonom aus und wird nur noch in Ausnahmefällen überprüft.

Eine solche Abstufung kann für die Planung von Investitionen, die Gestaltung von Verantwortlichkeiten und die Auswahl geeigneter Kontrollmechanismen hilfreich sein. Sie verhindert außerdem, dass der Einsatz eines KI-Systems pauschal als „automatisiert“ gilt, obwohl der tatsächliche Grad menschlicher Beteiligung sehr unterschiedlich ist.

Transparenz benötigt mehr als eine Einzelkennzahl

Die Diskussion um KI-Fortschritt zeigt, dass einzelne Prozentwerte leicht missverstanden werden können. Für eine aussagekräftige Bewertung sollten Unternehmen und Öffentlichkeit mindestens wissen, welche Aufgaben erfasst wurden, wie die Gewichtung erfolgte, wer die Einstufung vorgenommen hat und welche Fehlerquote bei der Bewertung besteht.

Zusätzlich sollten Kennzahlen zur Qualität der Ergebnisse, zur Zahl notwendiger Korrekturen, zu Sicherheitsvorfällen und zu menschlichen Eingriffen veröffentlicht werden. Erst das Zusammenspiel dieser Informationen erlaubt eine Einschätzung, ob ein höherer Automatisierungsgrad tatsächlich zu einer besseren, schnelleren oder zuverlässigeren Arbeit führt.

Auch die Vergleichbarkeit zwischen verschiedenen Organisationen ist derzeit begrenzt. Ein Unternehmen mit strengeren Freigaberegeln kann einen niedrigeren Automatisierungsgrad ausweisen als ein Wettbewerber, obwohl beide Systeme technisch ähnlich leistungsfähig sind. Umgekehrt kann eine großzügige Definition von „selbstständig“ die Automatisierungsquote erhöhen, ohne dass sich die tatsächliche Verantwortung der Menschen entsprechend verändert.

Ein Signal für die nächste Phase der KI-Nutzung

Anthropics Angaben markieren eine Verschiebung in der Diskussion über generative KI. Im Mittelpunkt steht nicht mehr nur, wie gut ein Modell Texte, Code oder Bilder erzeugen kann. Zunehmend wird entscheidend, welche Rolle KI-Systeme innerhalb komplexer Organisationen übernehmen und ob sie mehrere Arbeitsschritte zu einem eigenständigen Ablauf verbinden können.

Die 26-Prozent-Angabe ist deshalb vor allem als Signal für die wachsende Bedeutung agentischer Systeme zu verstehen. Sie zeigt, dass ein führendes KI-Unternehmen seine eigenen Modelle in größerem Umfang für die Entwicklung neuer Modelle einsetzt. Sie beantwortet jedoch nicht abschließend, wie zuverlässig, wirtschaftlich oder sicher diese Arbeit ist.

Für eine sachliche Bewertung müssen die Begriffe, Messmethoden und Grenzen berücksichtigt werden. Claude führt nach der Definition von Anthropic einen Teil der erfassten Aufgaben an, nicht aber die Forschung des gesamten Unternehmens. Die Systeme arbeiten unter menschlicher Aufsicht, werden durch technische Kontrollen überwacht und sind in den gemessenen Bereichen nicht vollständig autonom.

Gleichzeitig verdeutlichen die veröffentlichten Zahlen, dass sich die praktische Arbeitsteilung zwischen Menschen und KI rasch verändert. Für B2B-Organisationen wird es daher wichtiger, Automatisierung nicht nur als Softwarefunktion, sondern als Frage der Prozessgestaltung, Governance und Verantwortlichkeit zu behandeln. Wer KI-Agenten in operative oder forschungsnahe Abläufe integriert, benötigt klare Zuständigkeiten, nachvollziehbare Messgrößen und Kontrollen, die auch bei einer steigenden Zahl automatisierter Aktionen funktionieren.

Die weitere Entwicklung wird zeigen müssen, ob Anthropic seine Kennzahlen regelmäßig veröffentlicht, unabhängige Prüfungen ermöglicht und die Methodik weiter präzisiert. Erst über längere Zeiträume und anhand vergleichbarer Daten lässt sich beurteilen, wie schnell KI-Systeme tatsächlich einen größeren Anteil anspruchsvoller Entwicklungsarbeit übernehmen.

Bibliografie

1. Reuters: „Anthropic says Claude now leads a quarter of work building its next AI models“, 17. September 2026. https://www.reuters.com/business/anthropic-says-claude-now-leads-quarter-work-building-its-next-ai-models-2026-09-17/
2. Bloomberg: „Anthropic Says Claude Drives 26% of Its Research and Development“, 17. September 2026. https://www.bloomberg.com/news/articles/2026-09-17/anthropic-says-claude-drives-26-of-its-research-and-development
3. The Decoder: „Anthropic wants you to know Claude leads a quarter of its research, but ‘lead’ doesn’t mean what you think“, 18. September 2026. https://the-decoder.com/anthropic-wants-you-to-know-claude-leads-a-quarter-of-its-research-but-lead-doesnt-mean-what-you-think/
4. Engadget: „Anthropic Says Claude ‘Leads’ 26 Percent Of Its AI R&D Work“, 17. September 2026. https://www.engadget.com/2261909/anthropic-says-claude-leads-26-percent-of-its-ai-research-and-development/
5. Business Insider: „Anthropic says Claude is now leading more than a quarter of its AI research“, 18. September 2026. https://www.businessinsider.com/claude-leading-quarter-of-ai-research-to-replace-itself-2026-9
6. Epoch AI: „Toward an O*NET for AI R&D“, methodischer Bezug zur Skala für den Automatisierungsgrad von KI-Forschungsarbeit. https://epochai.substack.com/p/toward-an-onet-for-ai-r-and-d