Governance und Sicherheit von KI-Agenten in Unternehmen

KI-Agenten im Unternehmen: Die entscheidende Rolle der Zugriffsrechte und Governance

Die Integration von Künstlicher Intelligenz (KI) in Unternehmensprozesse schreitet mit hoher Geschwindigkeit voran. Insbesondere KI-Agenten, die in der Lage sind, komplexe Aufgaben autonom zu planen, auszuführen und anzupassen, versprechen eine signifikante Steigerung der Effizienz und Innovationskraft. Von der automatisierten Rechnungsverarbeitung bis zur personalisierten Kundeninteraktion – das Potenzial ist weitreichend. Allerdings offenbart sich mit dieser Entwicklung auch eine kritische Herausforderung: die Kontrolle und Governance dieser autonomen Systeme, insbesondere im Hinblick auf ihre Zugriffsrechte auf sensible Unternehmensdaten und -systeme. Eine Studie von Boomi unter 300 Führungskräften aus Wirtschaft und Technologie verdeutlicht die Dringlichkeit: Während 73 Prozent der Befragten KI-Agenten als die größte Veränderung in ihren Unternehmen sehen, unterliegen lediglich zwei Prozent der derzeit eingesetzten Agenten einer kontinuierlichen und konsistenten Governance. Dies bedeutet, dass 98 Prozent der KI-Agenten ohne ausreichende Kontrollmechanismen agieren, was ein erhebliches Risiko für Sicherheit, Compliance und die Reputation des Unternehmens darstellt.

Die unzureichende Kontrolle autonomer Systeme

Die rasante Weiterentwicklung von KI-Agenten hat dazu geführt, dass Unternehmen zunehmend bereit sind, diesen Systemen auch kritische Bereiche wie das Management von Sicherheitsrisiken oder die Genehmigung von Budgets anzuvertrauen. Mit dieser erweiterten Verantwortung geht jedoch die Gefahr einher, dass Führungskräfte und IT-Teams den Überblick über die Nutzung sensibler Daten durch die Technologie verlieren. Eine unkontrollierte Autonomie von KI-Agenten kann zu potenziellen Verstößen gegen Sicherheits- oder Compliance-Vorschriften führen und stellt für jedes Unternehmen ein inakzeptables Risiko dar.

Die aktuellen Governance-Standards für KI-Agenten sind in vielen Fällen unzureichend. Weniger als ein Drittel der Unternehmen verfügt über ein spezifisches Governance-Framework für KI-Agenten, und nur 29 Prozent bieten regelmäßige Schulungen zum verantwortungsvollen Umgang mit diesen Systemen an. Noch geringer ist die Vorbereitung auf spezifische Prozesse wie die Bewertung von Verzerrungen (Bias) oder die Planung von Maßnahmen bei Ausfällen von KI-Agenten. Diese Lücken verdeutlichen die Notwendigkeit, KI-Agenten analog zu menschlichen Mitarbeitern zu behandeln, indem ihre Fähigkeiten und ihre "Vergangenheit" auf ethische Verstöße, Voreingenommenheit oder "Halluzinationen" überprüft werden.

Warum traditionelle Identity-Infrastrukturen an ihre Grenzen stoßen

Klassische Identity-Systeme wurden primär für menschliche Identitäten konzipiert – Mitarbeiter, Partner und Auftragnehmer. KI-Agenten stellen jedoch neue Herausforderungen dar, die nicht in dieses traditionelle Modell passen:

• Umfang: Statt einer stabilen Belegschaftsgröße sehen sich Unternehmen mit Tausenden von dynamischen, kurzlebigen Agenten konfrontiert.
• Transparenz: Während menschliche Identitäten über die Personalabteilung oder Verzeichnisse verwaltet werden, sind KI-Identitäten oft in APIs, Pipelines und Automatisierungen verborgen.
• Verantwortlichkeit: Die Handlungen menschlicher Identities sind an die Anmeldedaten einer Person gebunden; KI-Agenten fehlt es oft an einem klar zugeordneten Besitzer oder einer Nachverfolgbarkeit.

Diese Diskrepanz führt dazu, dass sich mit der zunehmenden Verbreitung von KI-Agenten sogenannte „Schattenzugriffe“ und Compliance-Lücken entwickeln, bei denen der Zugriff von niemandem überwacht wird. Ohne spezifische Governance agieren diese Identitäten unbemerkt, was in der Sicherheitsbranche als erhebliche Schwachstelle gilt.

Wege zur Kontrolle: Transparenz, Verantwortlichkeit und Kontrolle

Um die Identitäten von KI-Agenten effektiv zu verwalten und zu steuern, sind Transparenz, Verantwortlichkeit und Kontrolle unerlässlich. Ein geeignetes Identity-Security-Playbook sollte sicherstellen, dass jede KI-Identität folgende Anforderungen erfüllt:

• Bekannt: Jeder in der Umgebung aktive KI-Agent muss identifizierbar sein.
• Zugeordnet: Jedem Agenten ist eine verantwortliche Person oder ein Team zugeordnet.
• Definiert: Berechtigungen sind auf einen klaren Zweck und Zeitrahmen beschränkt (Least-Privilege-Prinzip).
• Überprüfbar: Jede Aktion wird protokolliert und ist nachvollziehbar.
• Widerrufbar: Wenn die Aufgabe endet, endet auch der Zugriff.

Die Notwendigkeit eines solchen umfassenden Ansatzes wird durch vielfältige Anwendungsfälle verdeutlicht: Von Kundensupport-Agenten, die personenbezogene Daten nur lesen, aber nicht exportieren dürfen, bis hin zu Beschaffungsagenten, die Bestellanforderungen erstellen, aber eine menschliche Genehmigung benötigen. Die Absicherung dieser Agenten beginnt stets mit einer klaren Identitätsdefinition.

Ein Reifegradmodell für KI-Agenten-Sicherheit

Unternehmen können ihre Bereitschaft zur Sicherung von KI-Agenten anhand eines Reifegradmodells bewerten. Dieses Modell definiert Phasen, die dabei helfen, KI-Agenten-Identitäten auf jeder Ebene zu sichern und zu verwalten. Eine praktische Checkliste für den Einstieg umfasst folgende Schritte:

1. Bestandsaufnahme der Identities von KI-Agenten: Erfassen Sie jeden KI-Agenten, jedes Modell und jede Automatisierung, die sensible Systeme berührt.
2. Zuweisung menschlicher Besitzer: Jede Identity eines KI-Agenten sollte einer verantwortlichen Person oder einem Team zugeordnet sein.
3. Anwendung des Least-Privilege-Prinzips: Gewähren Sie nur den erforderlichen Zugriff und verwenden Sie nach Möglichkeit Just-in-Time-Token.
4. Einbeziehung von KI bei Zugriffsprüfungen: Behandeln Sie KI-Accounts wie menschliche Accounts – überprüfen und zertifizieren Sie sie regelmäßig.
5. Automatisierung der Lebenszyklusverwaltung: Verwenden Sie Workflows, um Identities von KI-Agenten automatisch zu provisionieren, zu aktualisieren und zu deprovisionieren.

Governance ist ein kontinuierlicher Prozess. Je früher Unternehmen diesen Ansatz implementieren, desto einfacher gestaltet sich die Kontrolle über den skalierenden KI-Einsatz.

Rechtliche Rahmenbedingungen und Compliance-Anforderungen

Der Einsatz von KI-Agenten ist nicht nur eine technische, sondern auch eine rechtliche Herausforderung. Mehrere europäische Verordnungen und Gesetze prägen den Rahmen für ihren rechtskonformen Einsatz:

• EU-KI-Verordnung: Diese Verordnung unterscheidet zwischen KI-Modellen und KI-Systemen. Sie klassifiziert Modelle mit allgemeinem Verwendungszweck und solche mit systemischem Risiko, was Transparenz- und Dokumentationspflichten nach sich zieht. KI-Agenten können je nach Einsatzbereich als Hochrisiko-Systeme eingestuft werden, was strenge Vorgaben zur menschlichen Kontrolle und Daten-Governance impliziert.
• Datenschutz-Grundverordnung (DSGVO): Da KI-Agenten oft personenbezogene Daten verarbeiten, müssen die Grundprinzipien der DSGVO wie Rechtmäßigkeit, Zweckbindung und Datenminimierung strikt eingehalten werden. Eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO ist bei hohem Risiko für die Rechte und Freiheiten der Betroffenen, wie sie bei Recruiting- oder Compliance-Monitoring-Agenten auftreten können, erforderlich.
• Data Act: Diese Verordnung regelt den Zugang zu und die Weitergabe von Daten, die durch vernetzte Produkte erzeugt werden. KI-Agenten können diese Zugangsrechte effizient nutzen, müssen aber vertragliche Vorgaben und technische Standards bei der Datenweitergabe beachten.
• Cyber Resilience Act (CRA): Der CRA legt Cybersicherheitsanforderungen für Produkte mit digitalen Elementen fest, wozu auch KI-Agenten zählen. Hersteller, Importeure und Händler müssen "Security by Design" und "Security by Default" berücksichtigen, systematische Risikobewertungen durchführen und Sicherheitsupdates bereitstellen.
• eIDAS 2.0-Verordnung (EUDI-Wallet): Die Einführung der European Digital Identity Wallet (EUDI-Wallet) eröffnet neue Möglichkeiten für sichere und automatisierte Identitätsprüfungen durch KI-Agenten, erfordert aber eine datenschutzkonforme Verarbeitung der Wallet-Daten.
• Barrierefreiheitsstärkungsgesetz (BFSG): Wenn KI-Agenten Bestandteile verbrauchergerichteter Produkte oder Dienstleistungen sind (z.B. Chatbots in Online-Shops), müssen sie barrierefrei gestaltet sein, um Multimodalität und Kompatibilität mit Hilfstechnologien zu gewährleisten.

Diese rechtlichen Rahmenbedingungen erfordern einen integrierten Compliance-Ansatz, der sowohl technische als auch rechtliche Risiken adressiert und eine kontinuierliche Überwachung und Anpassung der Governance-Strategie sicherstellt.

Architektur schlägt Modell: Erfolgsfaktoren für KI-Projekte

Der Erfolg von KI-Projekten hängt oft weniger von der Wahl des "besten" KI-Modells ab, als vielmehr von einer robusten Architektur und sorgfältiger Kontext-Kuration. Eine Analyse von 200 B2B-Projekten zeigt, dass Unternehmen, die einen Großteil ihres Budgets in Lizenzen und Server investieren, oft scheitern, weil sie den Kontext und das "Training" der KI vernachlässigen.

Ein zentraler Fehler ist das "Vibe-Coding", bei dem von KI generierter Code ohne ausreichende Sicherheitsprüfungen oder Code-Audits in die Produktion überführt wird. Dies kann zu gravierenden Schwachstellen führen, wie der Fall eines KI-Netzwerks mit offenliegenden API-Authentifizierungstokens zeigte. Automatisierte Security-Scans, Code-Reviews und Sandbox-Tests sind hier unerlässlich.

Ein weiterer Fallstrick ist die sogenannte "Token-Ökonomie". Multi-Agenten-Systeme können ein Vielfaches an Tokens verbrauchen, da jeder Agent bei jedem Schritt den gesamten Kontext neu liest. Ohne Token-Budgets, Loop-Detection und Echtzeit-Kosten-Dashboards können die Betriebskosten explodieren. Studien zeigen, dass Multi-Agenten-Systeme pro gelöster Aufgabe oft teurer sind und schlechtere Ergebnisse liefern als Single-Agenten, es sei denn, die Aufgabe ist hochgradig parallelisierbar.

Die "25-Prozent-Regel" besagt, dass erfolgreiche Projekte mindestens 25 Prozent des Gesamtbudgets in die menschliche Kuration investieren. Dies bedeutet, dass Fachexperten die KI-Ergebnisse korrigieren, "No-Go-Fehler" definieren und Beispiele für "perfekte Arbeit" sammeln. Eine "dumme" Standard-KI mit exzellenten, kuratierten Unternehmensdaten schlägt fast immer eine "geniale" teure KI, die mit Datenmüll gefüttert wurde. Es geht somit nicht darum, das intelligenteste Modell zu wählen, sondern den Agenten mit dem richtigen Kontext zur richtigen Zeit zu versorgen.

Fazit und Ausblick

KI-Agenten sind auf dem Weg, sich von reinen Werkzeugen zu autonomen Partnern in Unternehmen zu entwickeln. Diese Transformation bietet immense Chancen zur Effizienzsteigerung und zur Neugestaltung von Geschäftsprozessen. Gleichzeitig erfordert sie jedoch ein Umdenken in der Unternehmensführung, insbesondere im Bereich der IT-Sicherheit und Governance. Die Kontrolle der Zugriffsrechte von KI-Agenten ist dabei ein Schlüsselelement, um die Potenziale der Technologie sicher und verantwortungsvoll zu heben.

Die Etablierung einer universellen Governance, die Implementierung eines umfassenden Identity Security Fabric und die konsequente Beachtung der rechtlichen Rahmenbedingungen sind unerlässlich. Unternehmen, die in der Lage sind, ihre "digitalen Mitarbeiter" ebenso sorgfältig zu verwalten wie ihre menschlichen, werden sich im Wettbewerbsumfeld einen entscheidenden Vorteil sichern. Die aktive Gestaltung von Compliance und IT-Sicherheit wird zum Schlüssel für einen verantwortungsvollen und wettbewerbsfähigen Einsatz von KI-Agenten in der digitalen Zukunft.

Bibliography:

- E3-Magazin (2026): Wer kontrolliert eigentlich KI-Agenten?. - Okta (2026): Wie kontrollieren Sie die Identity eines KI-Agenten – und warum ist das wichtig?. - IAVCworld (2025): Wer kontrolliert eigentlich die KI-Agenten?. - Netzpalaver (2025): Wer kontrolliert eigentlich KI-Agenten?. - IT-Daily (2025): Wer kontrolliert eigentlich KI-Agenten?. - ad-hoc-news.de (2026): KI-Agenten: Vom Werkzeug zum autonomen Partner. - t3n (2026): Risiko für Händler: Amazon verschärft Regeln für KI-Agenten. - t3n (2026): KI-Agenten scheitern nicht am Modell – sondern an diesen fünf Architekturfehlern. - t3n (2026): 200 Projekte analysiert: Diese eine Sache entscheidet über Erfolg oder Scheitern von KI in Unternehmen. - HEUKING (2025): Rechtliche Rahmenbedingungen beim Einsatz von KI-AGENTEN.