Autonomie von KI-Agenten: Ein neues Klassifizierungsmodell und seine Implikationen

Die Landschaft der Künstlichen Intelligenz (KI) unterliegt einem dynamischen Wandel, insbesondere im Bereich der autonomen Agenten. Diese Systeme, die in der Lage sind, ihre Umgebung wahrzunehmen, Entscheidungen zu treffen und Aktionen auszuführen, entwickeln sich rasant weiter. Eine neue Klassifizierung von Datenagenten, die deren Autonomie von manuellen Operationen bis hin zu vollständig autonomen Systemen in Stufen unterteilt, schafft hierbei eine transparente Grundlage für das Verständnis dieses aufstrebenden KI-Paradigmas.

Die Evolution von KI-Agenten und die Notwendigkeit einer Klassifizierung

Die Vision von intelligenten Agenten, die Präferenzen lernen und autonom Aufgaben erledigen können, rückt durch Fortschritte in der generativen KI, insbesondere bei grossen Sprachmodellen (LLMs), zunehmend in den Bereich des Realisierbaren. Diese Modelle ermöglichen es KI-Agenten, komplexe Aufgaben mit beeindruckender Autonomie zu bewältigen. Die Autonomie von KI-Agenten kann dabei als eine bewusste Design-Entscheidung verstanden werden, die unabhängig von ihren reinen Fähigkeiten betrachtet wird. Dies bedeutet, dass ein hochleistungsfähiger Agent bewusst mit einem niedrigeren Autonomiegrad betrieben werden kann, um beispielsweise menschliches Feedback einzuholen.

Fünf Stufen der Autonomie für KI-Agenten

Ein von Kevin Feng, David McDonald und Amy Zhang vorgeschlagenes Rahmenwerk definiert fünf Stufen der Autonomie für KI-Agenten, basierend auf der Rolle des Benutzers in der Interaktion mit dem Agenten:

• Stufe 1: Der Benutzer als Operator (L1)

  Auf dieser niedrigsten Autonomiestufe hat der Benutzer jederzeit die Kontrolle. Der Agent bietet auf Anforderung Unterstützung. Dies entspricht dem Konzept eines "Copiloten", bei dem der Agent im Hintergrund bleibt und nur auf Aufforderung des Benutzers agiert. Der Benutzer ist für die langfristige Planung verantwortlich, während der Agent kontextbezogene Unterstützung oder proaktive Vorschläge liefert, die vom Benutzer genehmigt werden müssen. Diese Stufe eignet sich für risikoreiche Aufgaben, bei denen Fehler kostspielig sein könnten.

• Stufe 2: Der Benutzer als Kollaborateur (L2)

  Diese Stufe zeichnet sich durch eine enge und häufige Kommunikation und Zusammenarbeit zwischen Benutzer und Agent aus. Beide können Aufgaben planen, delegieren und ausführen, um die jeweiligen Fähigkeiten und Kenntnisse zu nutzen. Der Agent kann hier bereits unabhängiger an Aufgaben arbeiten, während der Benutzer seine eigenen Aufgaben erledigt. Die Gestaltung der Kommunikationsprotokolle und Schnittstellen ist hier entscheidend für eine effektive Zusammenarbeit. Ziel ist es, ein Gleichgewicht zwischen menschlicher und KI-Agenten-Autonomie zu finden, insbesondere wenn der Agent bestimmte Aufgaben nicht zuverlässig erledigen kann oder der Benutzer einen intrinsischen Wert darin sieht, bestimmte Aufgaben selbst zu erledigen.

• Stufe 3: Der Benutzer als Konsultant (L3)

  Auf dieser Stufe übernimmt der Agent mehr Verantwortung. Er ergreift die Initiative bei der Aufgabenplanung und -ausführung über längere Zeiträume. Die Beteiligung des Benutzers konzentriert sich stärker auf das Geben von Feedback, Präferenzen und übergeordneten Anweisungen, anstatt auf eine praktische Zusammenarbeit. Der Benutzer kann Änderungen vorschlagen, die der Agent dann in seinen Plan integriert. Eine wichtige Anforderung für L3-Agenten ist eine produktive und zeitnahe Konsultation. Der Agent sollte wissen, welche Expertise und spezifischen Präferenzen der Benutzer beitragen kann.

• Stufe 4: Der Benutzer als Genehmiger (L4)

  Die Rolle des Benutzers ist hier passiver. Er interagiert nur mit dem Agenten, wenn dieser auf ein unlösbares Problem stösst, wie z.B. das Erreichen eines Fehlerzustands, das Bereitstellen von Anmeldeinformationen oder die Genehmigung von wichtigen Aktionen. Im Gegensatz zu L3-Agenten sucht der L4-Agent kein Feedback zum Plan, sondern zeigt ihn nur zur Transparenz an. Diese Stufe eignet sich für Aufgaben mit vielen weniger kritischen Entscheidungen, bei denen die automatisierte Entscheidungsfindung des Agenten die Effizienz verbessert und den Benutzer entlastet. Allerdings sind hier die Sicherheitsbedenken aufgrund der Speicherung sensibler Informationen erhöht.

• Stufe 5: Der Benutzer als Beobachter (L5)

  Dies ist die höchste Autonomiestufe, bei der der Agent vollständig autonom agiert und keine Benutzereinmischung erfordert. L5-Agenten planen und führen Aufgaben über lange Zeiträume aus und treffen alle Entscheidungen selbst. Bei Problemen suchen sie eigenständig nach Lösungen oder passen ihren Ansatz an. Zur Transparenz und Überprüfung kann der Benutzer die Aktivitäten des Agenten über Aktivitätsprotokolle überwachen, kann jedoch keine Eingaben machen oder den Verlauf der Agentenaktivität ändern. Der einzige Kontrollmechanismus ist ein Not-Aus-Schalter. Obwohl L5-Agenten Risiken bergen, können sie in bestimmten Szenarien von Vorteil sein, insbesondere in geschlossenen Umgebungen, in denen die Folgen ihrer Handlungen die Aussenwelt nicht beeinträchtigen.

Herausforderungen und Chancen im Kontext von Datenagenten

Die Einführung dieser Taxonomie verdeutlicht, dass die Autonomie von KI-Agenten eine bewusste Designentscheidung ist, die Entwickler treffen können. Sie zeigt auch auf, dass leistungsfähige Fähigkeiten auf allen Autonomiestufen zu effektiven Agenten führen können, nicht nur auf den höheren. Die Erhöhung der Autonomie von Agenten ist mit differenzierten Kompromissen verbunden, die Faktoren wie Nutzen, Effizienz, Verantwortlichkeit und Kosten umfassen.

Anwendungsbereiche und Limitationen

KI-Agenten finden bereits Anwendung in verschiedenen Branchen, darunter Cybersicherheit, Personalwesen, Finanzmanagement und Wissenschaft. Beispielsweise können sie im Personalwesen Routineaufgaben wie das Tagging von Lebensläufen oder die Koordination von Vorstellungsgesprächen automatisieren. Hier erweisen sie sich als besonders nützlich, wenn Prozesse stark strukturiert, von hoher Sicherheit und geringer Urteilsfähigkeit geprägt sind.

Es gibt jedoch auch klare Grenzen für den Einsatz von KI-Agenten, insbesondere in Bereichen, die komplexes menschliches Urteilsvermögen, Empathie oder kontinuierliches Lernen aus Erfahrung erfordern. Beispielsweise sind KI-Agenten derzeit nicht in der Lage, kontinuierlich aus ihren eigenen Erfahrungen zu lernen und sich organisch zu verbessern, wie es menschliche Mitarbeiter tun. Dies bedeutet, dass sie sich zwar hervorragend für die zuverlässige Ausführung definierter Muster eignen, aber Schwierigkeiten haben, mit wirklich neuen Situationen umzugehen, die über ihr Training hinausgehen. Dies ist eine entscheidende Einschränkung, die bei der Planung von Implementierungen berücksichtigt werden muss.

Vertrauenswürdigkeit und Governance

Die zunehmende Autonomie von KI-Agenten wirft Fragen der Vertrauenswürdigkeit auf. Die Entwicklung vertrauenswürdiger agentischer KI-Systeme erfordert eine umfassende Betrachtung von Architekturen, Bedrohungsmodellen und Governance-Strategien. Dies beinhaltet die Integration von:

• Sicherheit auf mehreren Ebenen: Schutz vor kognitiven Exploits, Speichervergiftung, Tool-Missbrauch und verdeckter Ausführung.
• Robuste Governance-Modelle: Anpassung bestehender Rahmenwerke wie OECD AI Principles, EU AI Act und NIST AI RMF an die spezifischen Herausforderungen agentischer KI.
• Identitätsmanagement und Lebenszyklus-Verantwortlichkeit: Klare Mechanismen zur Zuweisung, Überprüfung und Überwachung von Agentenidentitäten über ihren gesamten Lebenszyklus.
• Einbettung ethischer und rechtlicher Normen: Integration von Werten und Prinzipien direkt in die Architektur und Entscheidungsfindung von KI-Agenten.

Zukünftige Entwicklungen und Forschungslücken

Die Zukunft der agentischen KI wird von weiteren technologischen Fortschritten, ethischer Integration und globalen Governance-Innovationen geprägt sein. Es wird erwartet, dass KI-Agenten zunehmend Quantencomputing, Edge-Intelligenz und Multi-Agenten-Meta-Learning integrieren, um Skalierbarkeit und Entscheidungsfähigkeit zu verbessern. Dennoch bestehen weiterhin Forschungslücken, insbesondere in den Bereichen der Zielausrichtung, der Integrität des Agentenspeichers, der Auditierbarkeit und der Bewältigung von Schattenagenten und Insider-Risiken.

Eine interdisziplinäre Zusammenarbeit zwischen KI-Ingenieuren, Ethikern, Rechtswissenschaftlern und Sozialwissenschaftlern ist unerlässlich, um die Herausforderungen der autonomen KI zu bewältigen und sicherzustellen, dass diese Systeme nicht nur leistungsfähig, sondern auch transparent, rechenschaftspflichtig und an den menschlichen Werten ausgerichtet sind.

Die Klassifizierung der Autonomiestufen von Datenagenten bietet einen wichtigen Orientierungspunkt in dieser komplexen Entwicklung. Sie ermöglicht es Unternehmen, die Potenziale und Risiken dieser Technologien besser einzuschätzen und strategische Entscheidungen für deren Einsatz zu treffen. Die kontinuierliche Weiterentwicklung dieser Systeme erfordert jedoch einen proaktiven Ansatz bei der Gestaltung von Governance, Sicherheit und ethischen Rahmenbedingungen, um das volle transformative Potenzial der agentischen KI verantwortungsvoll zu nutzen.

Bibliography - Feng, K., McDonald, D.W., & Zhang, A.X. (2025). Levels of Autonomy for AI Agents. Knight First Amendment Institute. - Adabara, I., et al. (2025). Trustworthy agentic AI systems: a cross-layer review of architectures, threat models, and governance strategies for real-world deployment. F1000Research, 14:905. - Jafferi, T. (2025). The Current State of AI Agents and Agentic AI for HR: Where It's Ready and Where It's Not. Happily.ai Blog. - Li, X. (2024). A Review of Prominent Paradigms for LLM-Based Agents: Tool Use (Including RAG), Planning, and Feedback Learning. Academia.edu. - ICLR 2026 Conference Submission (2025). DAComp: Benchmarking Data Agents across the Full Data Intelligence Lifecycle. OpenReview. - RealKM Magazine (2025). Advances & challenges in foundation agents: Chapter 1 – Introduction. RealKM Magazine.