Anthropic-Experiment: Fachleute folgen häufig zufälliger KI-Empfehlung

Die Aussagekraft bleibt auf den Versuchsrahmen begrenzt

Aus den Ergebnissen lässt sich nicht ableiten, wie häufig Beschäftigte in Unternehmen KI-Empfehlungen im normalen Arbeitsalltag übernehmen. Das Experiment untersuchte eine einzelne Aufgabe mit einer festgelegten Entscheidung zwischen zwei Optionen. Ob dieselbe Wirkung bei anderen Fachgebieten, unter anderen organisatorischen Bedingungen oder bei Entscheidungen mit abweichenden Konsequenzen auftritt, geht aus der vorliegenden Berichterstattung nicht hervor. [1]

Ebenso wenig zeigen die berichteten Kennzahlen, ob die Empfehlungen der Fachleute sachlich richtig oder falsch waren. Sie sagen etwas über die Übereinstimmung mit der zufällig gesetzten Position aus, nicht über die Qualität des Ergebnisses oder dessen Folgen. Wer die Zahlen als Nachweis dafür liest, dass KI menschliche Urteile regelmäßig verschlechtert, geht daher über das hinaus, was der berichtete Versuchsaufbau belegt. [1]

Hinzu kommt die Herkunft der Untersuchung: Anthropic hat das Experiment durchgeführt und die Ergebnisse veröffentlicht; heise fasst diese Darstellung zusammen. Die berichteten Resultate sind deshalb als Befunde eines Anbieterexperiments einzuordnen, nicht als unabhängige Bestätigung durch eine zweite Untersuchung. Für eine Übertragung auf konkrete betriebliche Abläufe wären weitere Untersuchungen in unterschiedlichen Entscheidungssituationen erforderlich. [1]

Menschliche Kontrolle muss mehr sein als eine formale Freigabe

Das Ergebnis berührt eine bekannte Frage der KI-Governance: Was bedeutet menschliche Aufsicht, wenn die zuständige Person eine Empfehlung zwar formal prüft, ihr Urteil aber stark von der Systemausgabe geprägt wird? Ein Fachbeitrag von Althammer & Kill beschreibt übermäßiges Vertrauen in automatisierte Ausgaben als ein Risiko für Mensch-in-der-Schleife-Konzepte und betont die Bedeutung einer prüfenden, verantwortlichen Person. Der Beitrag ist eine fachliche Einordnung, aber kein unabhängiger empirischer Nachweis für die Häufigkeit des von Anthropic beobachteten Verhaltens. [3]

Für Unternehmen folgt daraus als Analyse: Eine benannte menschliche Entscheidungsinstanz reicht allein nicht aus, wenn Zeit, Informationen oder Handlungsspielraum für eine eigenständige Prüfung fehlen. Entscheidend ist, ob Mitarbeitende die Empfehlung nachvollziehen, Gegenargumente berücksichtigen und sie bei Bedarf zurückweisen können. Diese Schlussfolgerung passt zu Anthropics Empfehlung, die Schritte der Entscheidungsfindung sichtbarer zu machen und Fachleuten genügend Ressourcen für eine eigene Beurteilung zu geben. [1][3]

Was Unternehmen aus dem Befund ableiten können

Anthropic empfiehlt laut heise, Entscheidungsprozesse aktiver sichtbar zu machen und zu überwachen. Außerdem sollten Organisationen die Präferenzen untersuchen, auf deren Grundlage verschiedene KI-Modelle Empfehlungen abgeben. Das ist vor allem dort relevant, wo ein System nicht nur Informationen sortiert, sondern eine Position oder Handlungsempfehlung formuliert. [1]

Für die betriebliche Umsetzung lassen sich daraus konkrete Prüfziele ableiten. Sie sind als Governance-Ansatz zu verstehen, nicht als im Experiment nachgewiesen wirksame Maßnahmen:

• Dokumentieren Sie, welche KI-Empfehlung in eine Entscheidung eingeflossen ist und welche menschlichen Gründe für die abschließende Wahl ausschlaggebend waren. So wird im Nachhinein besser unterscheidbar, ob eine Position unabhängig geprüft oder lediglich übernommen wurde. [1]
• Schaffen Sie bei folgenreichen Entscheidungen einen klaren Prüfpfad: Zuständige Personen sollten Zugriff auf die relevanten Grundlagen haben und eine Empfehlung begründet verwerfen können. Anthropic hebt die Sichtbarkeit und Überwachung von Entscheidungsschritten hervor; die konkrete Ausgestaltung muss zum jeweiligen Prozess passen. [1]
• Planen Sie ausreichend Zeit für eine eigenständige Einschätzung ein. Anthropic empfiehlt, Menschen die Ressourcen für eine rein menschliche Beurteilung zu geben und diese Fähigkeit gezielt zu fördern. Eine Freigabe unter Zeitdruck wäre mit diesem Ziel schwer vereinbar. [1]
• Prüfen Sie, ob Beschäftigte KI-Einfluss in ihrer eigenen Entscheidungsbegründung erkennen. Die im Experiment berichtete Differenz zwischen übernommenen Argumenten und der Selbsteinschätzung spricht dafür, nicht allein auf die formale Bestätigung einer Person zu vertrauen. [1]

Ausblick: Einfluss messen, nicht nur Nutzung erfassen

Für die Bewertung von KI-Einsatz genügt es nicht, lediglich festzustellen, ob ein System verwendet wurde oder ein Mensch die letzte Freigabe erteilt hat. Das Experiment richtet den Blick auf eine andere Frage: Wie stark prägt die Empfehlung den Inhalt der menschlichen Entscheidung, und lässt sich dieser Einfluss in der Begründung nachvollziehen? Die Ergebnisse liefern dafür einen konkreten Untersuchungsanlass, aber noch keine allgemeingültige Kennzahl für Unternehmen. [1]

Anthropic bringt als mögliche Idee außerdem ins Spiel, KI-Modelle zu Beginn einer Analyse nach der eigenen Einschätzung des Menschen zu fragen. Das Unternehmen weist zugleich darauf hin, dass eine solche Abfrage bei zahlreichen Teilfragen umfangreich werden könne. Die Idee ist daher keine fertige Lösung, sondern ein Ansatz, dessen Nutzen und Aufwand im jeweiligen Arbeitsprozess geprüft werden müssten. [1]

Für Unternehmen ist der belastbare Kern des Befunds somit enger als die zugespitzte Überschrift: In einem einzelnen Experiment beeinflusste eine zufällig festgelegte KI-Position die Empfehlungen von Fachleuten häufig, während viele Teilnehmende den Beitrag des Agenten in ihrer Begründung nicht benannten. Das rechtfertigt eine genaue Prüfung menschlicher Kontrollprozesse. Es rechtfertigt nicht, aus einer Aufgabe und 50 Teilnehmenden pauschale Aussagen über sämtliche Expertenentscheidungen abzuleiten. [1]

Quellen

1. [1] Untersuchung: Experten übernehmen oft unbewusst KI-Entscheidungen | heise online — https://www.heise.de/news/Untersuchung-Experten-uebernehmen-oft-unbewusst-KI-Entscheidungen-11505781.html (abgerufen am 2026-10-30)
2. [3] Warum der Mensch bei KI-Entscheidungen unverzichtbar bleibt — https://www.althammer-kill.de/aktuelles/news/detail/mensch-bei-ki-unverzichtbar (abgerufen am 2026-10-30)