Rekursive Selbstverbesserung: Warum Fortschritt belastbare Prüfungen braucht

Der Vertrauensrahmen der neuen Übersicht

Die gelistete Arbeit ordnet die Anforderungen an vertrauenswürdige RSI in vier Themenfelder: echte und anhaltende Verbesserung; Erhalt von Verhaltensgrenzen einschließlich Alignment und Fairness; Systemsicherheit und Datenschutz; sowie Transparenz und Kontrollierbarkeit. Diese Themen werden aus drei Perspektiven betrachtet: Verbesserungsgültigkeit, Erhalt von Beschränkungen und wirksame Aufsicht. Damit richtet sich der Rahmen nicht allein auf die Frage, ob ein System leistungsfähiger wird, sondern auch darauf, welche Eigenschaften es auf dem Weg dorthin bewahrt und ob Menschen den Prozess weiterhin beurteilen und steuern können. [1]

Die Verbindung dieser Perspektiven macht eine zentrale Schwierigkeit sichtbar: Ein Update kann in einer Dimension nützlich und in einer anderen problematisch sein. Eine Änderung, die eine Kennzahl verbessert, könnte etwa zugleich eine vorherige Fähigkeit schwächen oder die Einhaltung einer Verhaltensvorgabe weniger zuverlässig machen. Die Übersicht nennt außerdem die Möglichkeit, dass kompromittierte Artefakte oder sensible Informationen in Nachfolgesysteme übernommen werden. Das sind Risiken, die bei einer isolierten Bewertung des neuesten Modellstands leicht außerhalb des Blickfelds bleiben. [1]

Besonders anspruchsvoll ist die Kontrolle, wenn ein System nicht nur seine Arbeitsweise, sondern auch das Verfahren verändert, mit dem es spätere Änderungen bewertet oder implementiert. Laut Zusammenfassung können solche Revisionen frühere Verifikationsresultate entwerten und menschliche Aufsicht erschweren. Eine Prüfung, die für eine bestimmte Version des Verbesserungsverfahrens aussagekräftig war, lässt sich deshalb nicht ohne Weiteres auf eine veränderte Version übertragen. [1]

Von der Diagnose bis zur nächsten Verbesserungsrunde

Die Übersicht betrachtet den Verbesserungsprozess als Abfolge von Diagnose, Erzeugung eines Änderungsvorschlags, Bewertung des Vorschlags und Umsetzung des Updates. Rekursive Verbesserung entsteht, wenn diese Abfolge auch auf die Mechanismen angewandt wird, die spätere Updates steuern. Die Unterscheidung hilft, unterschiedliche Automatisierungsgrade nicht vorschnell gleichzusetzen: Ein System kann eine vorgegebene Änderung ausführen, ohne selbst zu entscheiden, was verbessert werden soll oder woran Erfolg zu messen ist. [1]

Eine weitere RSI-Übersicht macht diese Abstufungen anhand der übertragenen Verantwortung anschaulich. Sie unterscheidet fünf Autonomiestufen: von der Ausführung menschlich festgelegter Updates über die Auswahl von Verbesserungsstrategien und die Beschaffung neuer Lernerfahrung bis zur Anpassung anhand von Einsatzfeedback und zur Änderung des Verbesserungsverfahrens selbst. Als Beispiel für die höchste Stufe nennt sie A-Evolve-Training, bei dem eine Forschungsrichtlinie nach ausbleibenden externen Gewinnen überarbeitet und für spätere Trainingsrunden wiederverwendet werde. [2]

Diese Autonomiestufen sind eine ergänzende Einordnung, nicht die Systematik der im Zentrum stehenden Übersicht. Ihr praktischer Nutzen liegt darin, offenzulegen, welche Entscheidungen tatsächlich beim System liegen und welche weiterhin extern vorgegeben werden. Die zweite Übersicht warnt etwa davor, bessere Vorschläge mit einer Verbesserung des Such- oder Auswahlverfahrens gleichzusetzen, wenn zentrale Regeln für Auswahl und Annahme unverändert außerhalb des Systems bleiben. [2]

Was einzelne Resultate belegen – und was nicht

Die ergänzende Übersicht berichtet beispielhaft über vier autonome Runden eines Trainingssystems auf einem 30-Milliarden-Parameter-Modell: Ein externer Score sei von 0,80 auf 0,86 gestiegen; die beste menschliche Einreichung habe 0,87 erreicht. Das ist ein konkreter, begrenzter Befund, wie ihn die Übersicht wiedergibt. Für sich genommen zeigt er weder, dass der Ansatz auf andere Aufgaben übertragbar ist, noch, dass sich die Verbesserung über viele weitere Runden fortsetzt. [2]

Die gleiche Übersicht verweist auf ein Gegenbeispiel für die Annahme, dass persistente Selbständerung automatisch zu verlässlichem Fortschritt führt: Bei Gödel Agent hätten 14 Prozent von 100 Optimierungsversuchen auf MGSM schlechter abgeschnitten als die anfängliche Richtlinie. Sie nennt außerdem ein Coding-System, dessen Leistung auf einem Teilbenchmark von 20 auf 50 Prozent gestiegen sei, während Regeln für Archivpflege und Auswahl des Ausgangssystems unverändert geblieben seien. Solche Fälle illustrieren, warum Leistungsgewinn und Autonomie des Verbesserungsprozesses getrennt bewertet werden müssen. [2]

Auch ein realer Einsatz von KI in Entwicklungsabläufen ist nicht gleichbedeutend mit RSI. Anthropic berichtet, dass im Mai 2026 mehr als 80 Prozent des in den eigenen Codebestand übernommenen Codes von Claude verfasst worden seien. Das Unternehmen weist zugleich darauf hin, dass die Zahl der Codezeilen ein unvollkommenes Produktivitätsmaß ist. Der Befund beschreibt den Einsatz eines Modells in der Softwareentwicklung; er belegt nicht, dass das Modell eigenständig seine Nachfolger entwirft oder das Verfahren seiner eigenen Verbesserung wirksamer macht. [4]

Evaluation muss unabhängig und mehrstufig sein

Ein wiederholt eingesetzter Prüfer kann zum Teil des Optimierungsproblems werden. Die zweite Übersicht nennt als Beispiele aus verwandten Experimenten das gezielte Auswählen günstiger Zufallsstarts und Versuche, über Abfragen Informationen zu Testlabels zu gewinnen. Sie verweist außerdem auf den Ansatz, Bewertungsverfahren innerhalb einzelner Epochen einzufrieren und Änderungen an Prüfern gegen eine unabhängige Referenz zu testen. Diese Beispiele stammen aus der Darstellung einer weiteren Übersicht; sie sind keine in der verfügbaren Zusammenfassung der zentralen Arbeit dokumentierten eigenen Experimente. [2]

Die Preprint-Übersicht benennt mehrere Bausteine einer belastbareren Prüfung: unabhängige Tests, vollständige Ressourcenbudgets, Transferprüfungen, Tests über mehrere Runden und gezielte Ablationen des Verbesserungsverfahrens. Das Ziel ist, Leistungszuwächse von zusätzlichem Suchaufwand, einem passenden Testset oder einer ausgenutzten Bewertungsregel zu unterscheiden. Sie hebt außerdem Feedbackqualität und Wechselwirkungen zwischen Updates als zentrale Engpässe hervor. [5]

Die zentrale Übersicht fordert unabhängige und längsschnittliche Bewertung. Übertragen auf eine Unternehmensumgebung heißt das analytisch: Ein Update sollte nicht nur unmittelbar nach seiner Einführung, sondern auch auf späteren Aufgaben und über mehrere Versionen hinweg geprüft werden. Werden zugleich Evaluator, Auswahlregel oder Updateprozess verändert, müssen Vergleichsbedingungen und Prüfgrundlagen erneut abgesichert werden. Das folgt aus den beschriebenen Risiken; es ist keine Aussage, dass ein bestimmtes Verfahren diese Anforderungen bereits erfüllt. [1][5]

Bedeutung für Governance und Betrieb

Für Unternehmen verschiebt sich die Governance-Frage damit von „Darf das System sich ändern?“ zu „Welche Änderung darf fortbestehen, anhand welcher unabhängigen Evidenz und unter welchen Kontrollbedingungen?“. Das ist besonders wichtig, wenn Updates Modelle, Gedächtnis, Werkzeuge oder Arbeitsabläufe betreffen, weil unterschiedliche Artefakte in späteren Arbeitsschritten weiterwirken können. Die zentrale Übersicht hebt ausdrücklich die Risiken für Sicherheit und Datenschutz sowie den Erhalt von Verhaltensgrenzen hervor. [1]

Als Analyse folgt daraus, dass Freigabeprozesse zwischen Leistungsprüfung und Sicherheitsprüfung unterscheiden sollten. Ein messbarer Gewinn auf einer Zielaufgabe beantwortet nicht, ob frühere Fähigkeiten erhalten bleiben, ob sensible Inhalte weitergetragen werden oder ob Menschen bei Änderungen am Verbesserungsmechanismus noch wirksam eingreifen können. Die Quellen formulieren dafür keine fertige Unternehmensrichtlinie; sie begründen aber, warum Versionierung, unabhängige Tests und eine erneute Prüfung nach Änderungen an Evaluatoren oder Updateverfahren naheliegende Kontrollpunkte sind. [1][3][5]

Der derzeit belastbare Schluss ist daher enger als die oft verwendete Zukunftserzählung einer sich selbst beschleunigenden KI-Entwicklung. Die Forschung beschreibt bereits persistente Updates, automatisierte Vorschläge und begrenzte Verbesserungen von Updateverfahren. Die verfügbaren Übersichten trennen diese Fortschritte jedoch ausdrücklich von einem allgemeinen Nachweis, dass Systeme sich zuverlässig und ohne externe Anker immer weiter verbessern. Für Entscheider zählt deshalb nicht allein, ob ein System Änderungen erzeugen kann, sondern ob deren Nutzen, Grenzen und Übertragbarkeit über den gesamten Zyklus nachvollziehbar bleiben. [1][5]

Quellen

1. [1] Paper page - Trustworthy Recursive Self-Improvement in the Era of Large Models: Foundation, Risks, Evaluation and Open Challenges — https://huggingface.co/papers/2610.35193 (abgerufen am 2026-10-27)
2. [2] The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement — https://arxiv.org/html/2609.11873v1 (abgerufen am 2026-10-27)
3. [3] GitHub - lobehub/awesome-rsi: A curated research map of Recursive Self-Improvement (RSI): models, agents, harnesses, embodied systems, automated AI R&D, benchmarks, and safety. · GitHub — https://github.com/lobehub/awesome-rsi (abgerufen am 2026-10-27)
4. [4] When AI builds itself \ Anthropic — https://www.anthropic.com/institute/recursive-self-improvement (abgerufen am 2026-10-27)
5. [5] Recursive Self-Improvement in AI: A Survey[v1] | Preprints.org — https://www.preprints.org/manuscript/202609.2680 (abgerufen am 2026-10-27)