Bewertung der Einsatzmöglichkeiten von KI-Agenten in Unternehmen

Einschätzung zur Leistungsfähigkeit von KI-Agenten: Eine kritische Analyse

Die Diskussion um die Rolle und Leistungsfähigkeit von KI-Agenten in der Unternehmenswelt gewinnt an Intensität. Während viele von einem bevorstehenden „Jahr der Agenten“ sprachen und große Erwartungen an deren autonome Fähigkeiten knüpften, zeigen sich in der Praxis und in Expertenkreisen zunehmend differenziertere Ansichten. Ein prominenter Kritiker ist Dr. Vishal Sikka, ehemaliger Technologievorstand (CTO) von SAP und Gründer des KI-Startups VianAI, der die Einsatzmöglichkeiten von KI-Agenten derzeit eher begrenzt sieht.

Die Skepsis des ehemaligen SAP-CTO: Mehr als nur Dokumentenarchivierung?

Dr. Sikka, eine anerkannte Persönlichkeit in der Technologiebranche, argumentiert, dass KI-Agenten in ihrer aktuellen Form bestenfalls für relativ einfache, klar definierte Aufgaben wie die Dokumentenarchivierung geeignet seien. Seine Skepsis basiert auf der Beobachtung, dass viele KI-Agenten selbst bei alltäglichen Aufgaben an ihre Grenzen stoßen. Ein zentrales Problem, das er hervorhebt, sind die sogenannten „Halluzinationen“ – die Tendenz von KI-Modellen, fehlerhafte oder erfundene Informationen zu generieren. Diese Unzuverlässigkeit führe dazu, dass der potenzielle Mehrwert von KI-Agenten in komplexeren Anwendungsszenarien oft nicht realisiert werden könne.

Mathematische Grenzen und unzureichende Zuverlässigkeit

Die Einschätzung von Dr. Sikka wird durch eine gemeinsam mit seinem Sohn verfasste Studie untermauert. Diese Untersuchung versucht, mathematisch zu belegen, dass große Sprachmodelle (Large Language Models, LLMs) ab einem bestimmten Komplexitätsgrad rechnerische und agentenbasierte Aufgaben prinzipiell nicht korrekt lösen können. Dies deutet auf fundamentale Limitationen in der Architektur und Funktionsweise dieser Modelle hin.

Praktische Studien scheinen diese theoretischen Bedenken zu bestätigen. Eine Benchmark, entwickelt von Expertinnen und Experten des Datenannotationsunternehmens Scale AI und des Center for AI Safety, ergab, dass selbst der leistungsfähigste getestete KI-Agent lediglich drei Prozent der Aufgaben bewältigen konnte, die üblicherweise von menschlichen Freelancern übernommen werden. Diese Aufgaben umfassten Bereiche wie Grafikdesign, Videobearbeitung und administrative Tätigkeiten wie die strukturierte Datenextraktion. Die hohe Fehlerquote und die Schwierigkeit, komplexe, mehrschrittige Projekte innerhalb der begrenzten Kontextfenster von KI-Agenten zu managen, führen dazu, dass diese den Überblick verlieren und Lücken mit oft fehlerhaften Annahmen füllen.

Risiken und Herausforderungen im Unternehmenseinsatz

Die Ungenauigkeiten von KI-Agenten stellen für Unternehmen ein erhebliches Risiko dar. Himanshu Tyagi, Mitgründer des Open-Source-KI-Unternehmens Sentient, warnt davor, dass diese Unzuverlässigkeit eine breite Einführung in Unternehmen behindern könnte. Fehlerhafte Ergebnisse und der Aufwand, diese zu korrigieren, können Arbeitsprozesse stören und den erwarteten Effizienzgewinn zunichtemachen. Insbesondere in hochsensiblen Bereichen, wie dem Betrieb von Kernkraftwerken, hält Sikka den Einsatz von KI-Agenten aufgrund der unvermeidbaren Fehlerquote für kritisch.

Berichte aus der Praxis untermauern diese Bedenken. Unternehmen wie der Finanzdienstleister Klarna haben öffentlich eine Abkehr von einer reinen "AI first"-Strategie erklärt, da fehlerhafte KI-Anwendungen zu Vertrauensverlust und Kundenproblemen führten. Auch die Sprachlern-App Duolingo sah sich mit ähnlichen Herausforderungen konfrontiert. Microsoft begründet Entlassungswellen teilweise mit den hohen Kosten im Zusammenhang mit KI-Entwicklungen.

Ein weiteres Problem ist, dass Unternehmen, die KI ohne tiefgreifendes Verständnis einsetzen, oft kostspielige Reparaturen in Kauf nehmen müssen. Ein Beispiel hierfür ist eine Firma, deren Website tagelang offline war, nachdem ein fehlerhafter, von ChatGPT generierter Code implementiert wurde. Solche Vorfälle zeigen, dass die vermeintliche Zeitersparnis durch KI-Einsatz schnell ins Gegenteil umschlagen kann, wenn menschliche Expertise zur Überprüfung und Korrektur fehlt.

SAP und die Rolle von Business AI im Kundensupport

Trotz dieser kritischen Stimmen setzen Unternehmen wie SAP weiterhin auf den strategischen Einsatz von KI. SAP positioniert seine "Business AI" als essenziellen Bestandteil des Kundensupports. Das Ziel ist es, Anforderungen proaktiv zu antizipieren, Ausfälle vorherzusagen und sofortige, nahtlose Lösungen in großem Maßstab anzubieten.

Die SAP nutzt KI, um:

• Probleme präventiv zu vermeiden: Durch die Analyse von Daten können Systemausfälle, Skalierungsprobleme und Datenüberlastungen identifiziert und adressiert werden, bevor sie auftreten.
• Selfservices zu skalieren: Über 82 Prozent der Kundenprobleme sollen bereits über Selfservices gelöst werden, was eine schnelle Bereitstellung von Informationen und Lösungen ermöglicht.
• Sofortige Reaktionen und Lösungen zu bieten: KI-integrierte Services, wie der Auto Response Agent, liefern bei hoher Wahrscheinlichkeit die richtige Lösung, was Kunden Zeit und Aufwand erspart. Die Erstlösungsquote dieser KI-Agenten entspricht der von menschlichen Interaktionen.
• Supporttechniker zu unterstützen: KI entlastet menschliche Experten von logistischen Aufgaben und ermöglicht es ihnen, sich auf komplexe Fälle zu konzentrieren. KI-gestützte Lösungsempfehlungen in Selfservices reduzieren die Anzahl der Meldungen und verbessern die Bearbeitungszeit.

SAP betont jedoch ausdrücklich, dass KI menschliche Supportteams nicht ersetzen, sondern ergänzen soll. Der Einsatz erfolgt nur, wenn das System mit hoher Wahrscheinlichkeit die korrekte Lösung liefern kann. Dies unterstreicht das Engagement für einen relevanten, zuverlässigen und verantwortungsvollen Einsatz von KI.

Ausblick: Kontrollmechanismen als Schlüssel zur Weiterentwicklung

Entwickler von KI-Agenten sind zuversichtlich, dass die bestehenden Probleme, insbesondere die der Halluzinationen und begrenzten Kontextfenster, durch den Aufbau technischer Leitplanken und zusätzlicher Kontrollmechanismen gelöst werden können. Selbst Vishal Sikka hält diesen Ansatz für realistisch, obwohl seine Forschung die Grenzen großer Sprachmodelle aufzeigt. Die Integration von Kontrollmechanismen könnte dazu beitragen, die Einschränkungen zu überwinden und die Zuverlässigkeit von KI-Agenten signifikant zu verbessern.

Die Frage nach dem "Jahr der KI-Agenten" mag voreilig gewesen sein. Realistischer ist die Annahme, dass wir am Beginn einer umfassenden Automatisierung kognitiver Arbeit stehen, deren Qualität und Auswirkungen auf Arbeits- und Lebensqualität sich noch zeigen müssen. KI-Agenten werden voraussichtlich in vielen Bereichen menschliche Fähigkeiten erreichen und dies zu geringeren Kosten, auch wenn eine kontinuierliche menschliche Kontrolle und Überprüfung unerlässlich bleibt. Die Entwicklung wird die Arbeitswelt nachhaltig verändern, wobei die Herausforderung darin besteht, die Technologie verantwortungsvoll und effektiv zu integrieren.

Bibliographie

• Bölling, N. (2026, 31. Januar). Ex-SAP-Chef warnt: KI-Agenten höchstens für Dokumentenarchivierung geeignet. t3n – digital pioneers. Abgerufen von https://t3n.de/news/ex-sap-chef-warnt-ki-agenten-hoechstens-fuer-dokumentenarchivierung-geeignet-1726941/
• Steinle, S. (2026, 26. Januar). KI an vorderster Front: Die Strategie der SAP für den Kundensupport. SAP News Center. Abgerufen von https://news.sap.com/germany/2026/01/ki-an-vorderster-front-strategie-kundensupport/
• Wirminghaus, N. (2025, 20. Juli). SAP-Betriebsrat warnt vor „KI-Hype“. Capital.de. Abgerufen von https://www.capital.de/wirtschaft-politik/sap-betriebsrat-warnt-vor--ki-hype--35882736.html
• Wolfangel, E. (2025, 13. Juli). KI-Agenten: Mr. Bot, wir haben ein Problem. DIE ZEIT. Abgerufen von https://www.zeit.de/digital/2025-07/ki-agenten-hype-arbeitsplatz-software-alltag/komplettansicht
• Zandt, F. (2025, 29. Mai). Was KI-Agenten wirklich leisten – und wo sie scheitern. t3n – digital pioneers. Abgerufen von https://t3n.de/magazin/was-ki-agenten-wirklich-leisten-und-wo-sie-scheitern-253301/