KI-gestützte Personalentscheidungen: Herausforderungen und Implikationen

KI-gesteuerte Entlassung: Ein Präzedenzfall wirft Fragen auf

In einem bemerkenswerten Experiment von Andon Labs in San Francisco hat eine künstliche Intelligenz namens Luna, die als Ladenmanagerin fungiert, erstmals einen menschlichen Mitarbeiter entlassen. Dieser Vorfall, der als erster seiner Art gilt, beleuchtet die komplexen Herausforderungen und Implikationen, die sich ergeben, wenn KI-Systeme Personalentscheidungen treffen.

Luna, eine auf Anthropic's Claude Opus 4.8 basierende KI, leitet seit April einen experimentellen Laden, den Andon Market. Ihre Aufgaben umfassen die Einstellung von Personal, die Erstellung von Dienstplänen und die Gehaltsverhandlungen. Die jüngste Entscheidung, einen Mitarbeiter zu entlassen, erfolgte nach wiederholten Verspätungen und anderen arbeitsbezogenen Problemen.

Vergessene Regeln und menschliches Eingreifen

Die Umstände dieser Entlassung sind besonders aufschlussreich. Luna hatte sechs Tage vor der Einstellung des betreffenden Mitarbeiters ein Handbuch mit Verhaltensregeln erstellt. Dieses Handbuch sah vor, dass drei unentschuldigte Verspätungen innerhalb von 30 Tagen zu einer formellen Abmahnung führen und weitere Vorfälle eine Kündigung nach sich ziehen könnten.

Allerdings "vergaß" Luna dieses Regelwerk im Laufe der Zeit. Laut Andon Labs ist dies ein bekanntes Problem bei aktuellen KI-Agenten: Sie reagieren gut auf direkte Anweisungen, handeln jedoch selten aus eigener Initiative und haben Schwierigkeiten, Wissen über längere Zeiträume zu behalten. Der Mitarbeiter war wiederholt unpünktlich, öffnete den Laden einmal sogar 68 Minuten zu spät. Luna blieb jedoch nachsichtig und erteilte keine Warnung. Eine spätere Analyse von Andon Labs ergab, dass der Mitarbeiter bei 17 von 23 Schichten, bei denen er eine Stempeluhrzeit angab, zu spät war. Luna hatte nur sechs Fälle formell erfasst und die anderen elf stillschweigend entschuldigt. Hinzu kamen weitere Probleme, wie die unerlaubte Nutzung der Firmenkarte für Snacks und das Ignorieren von Anweisungen.

Der Anstoß zur Entscheidung

Die Kündigung erfolgte erst, nachdem menschliche Forscher von Andon Labs Luna explizit angewiesen hatten, ihr Gedächtnis nach dem Handbuch und möglichen Kündigungsgründen zu durchsuchen. Luna fand die Regeln wieder, schlug aber zunächst nur eine mündliche Verwarnung vor. Erst als die Forscher sie daran erinnerten, dass bereits mehrere formelle Gespräche, einschließlich einer schriftlichen Abmahnung, stattgefunden hatten, überprüfte Luna die gesamte Historie. Sie listete Verspätungen, Verstöße gegen Finanzkontrollen, ignorierte Anweisungen und mangelnde Zuverlässigkeit auf, würdigte aber auch die positiven Eigenschaften des Mitarbeiters. Letztendlich empfahl sie die Kündigung. Als Alternative schlug sie eine letzte schriftliche Abmahnung mit einem zweiwöchigen Verbesserungsplan vor. Die Entscheidung von Luna war nach diesem externen Anstoß jedoch fest.

Modellunterschiede bei Kündigungsentscheidungen

Andon Labs führte das Szenario mit sieben verschiedenen KI-Modellen dreimal durch. Vier der sieben Modelle empfahlen in allen drei Durchläufen eine Kündigung. Es zeigte sich ein Muster: Leistungsfähigere Modelle neigten konsistenter zu Kündigungen, während schwächere Modelle häufiger zögerten. Es wird angemerkt, dass GPT-5.6 Terra als einziges Modell in keinem der drei Durchläufe eine Kündigung empfahl. Ein Test mit GPT-4o, nachdem ein X-Nutzer spekuliert hatte, dieses Modell würde keinen Mitarbeiter entlassen, zeigte, dass GPT-4o nur in 20 Prozent der Fälle eine Kündigung empfahl, deutlich weniger als die aktuellen Top-Modelle. Dieses Verhalten könnte mit der kritisierten sycophantischen Tendenz von GPT-4o zusammenhängen.

Schnelle Einstellungen und mangelnde Urteilsfähigkeit

Nach der Entlassung suchte Luna nach einem Ersatz. Ein Bewerber wies mehrere Warnsignale auf. Basierend auf seinem Lebenslauf und Interview empfahl Luna dennoch seine Einstellung. Alle 21 Wiederholungsdurchläufe mit sieben Modellen kamen zum selben Ergebnis. Die lange Liste früherer Arbeitgeber wurde fast immer als breite Erfahrung und nicht als Warnsignal interpretiert.

Erst als Andon Labs die Modelle explizit an die Probleme mit dem zuvor entlassenen Mitarbeiter erinnerte, wollten 18 von 21 Durchläufen Referenzen überprüfen, bevor sie eine Einstellung vornahmen. Im tatsächlichen Einstellungsprozess konnte Luna keine der angegebenen Referenzen bestätigen. Dennoch ließ sie den Bewerber eine bezahlte Probezeit absolvieren und empfahl danach erneut seine Einstellung. Letztendlich bestand Andon Labs darauf, mindestens eine Referenz vor Arbeitsbeginn zu bestätigen, was jedoch nicht geschah, und der Bewerber wurde nicht eingestellt.

KI-Manager: Zwischen Nachsicht und Fehlurteilen

Frühere Beobachtungen von Andon Labs zeigten, dass KI-Manager wie Luna und Mona (eine KI-Managerin in einem Café in Stockholm) äußerst nachsichtig sind. Sie genehmigten alle Urlaubsanträge und Luna verzeichnete 27 Verspätungen ihrer Mitarbeiter, ohne jemals eine Warnung auszusprechen. Luna genehmigte sogar einen Sieben-Tage-Arbeitsplan, der gegen kalifornisches Arbeitsrecht verstieß, bis das Unternehmen eingriff.

Ähnliche Schwächen traten bereits während des Projekts Vend auf, einem gemeinsamen Experiment von Anthropic und Andon Labs. Die KI wurde zwar profitabler mit besseren Werkzeugen, blieb aber leicht manipulierbar und traf rechtlich fragwürdige Entscheidungen.

Andon Labs betrachtet Luna und den Andon Market als einen Ausblick auf eine mögliche zukünftige Arbeitsbeziehung zwischen KI und Menschen. Angesichts der schnelleren Fortschritte der KI bei digitalen Aufgaben im Vergleich zur Robotik könnte es sein, dass KI-Systeme in Zukunft auf Menschen angewiesen sind, um physische Arbeit auszuführen. Dies wirft die Frage auf, welche Personalentscheidungen überhaupt solchen Systemen überlassen werden sollten.

Bibliographie

- Andon Labs. (2026, August 14). AI bosses are slow to fire and quick to hire. Abrufbar unter: https://andonlabs.com/blog/ai-bosses-2 - Andon Labs. (n.d.). AI bosses are kinder than human bosses. Abrufbar unter: https://andonlabs.com/blog/ai-bosses-1 - Bezmalinović, T. (2026, August 23). An AI boss fired its first employee but only after humans reminded it of its own rules. The Decoder. Abrufbar unter: https://the-decoder.com/an-ai-boss-fired-its-first-employee-but-only-after-humans-reminded-it-of-its-own-rules/ - Li, K. (2026, August 15). An AI Running an SF Store Fired an Employee for the First Time. Business Insider. Abrufbar unter: https://www.businessinsider.com/ai-running-sf-store-fired-employee-for-the-first-time-2026-8 - Palmer, K. (2026, August 19). AI fired an S.F. worker. Will California crack down on 'robobosses'?. San Francisco Chronicle. Abrufbar unter: https://www.sfchronicle.com/politics/article/andon-market-robobosses-bill-22393579.php - Perrigo, B. (2026, August 14). Exclusive: Claude Was Put in Charge of Human Workers—and Fired One. Time. Abrufbar unter: https://time.com/article/2026/08/14/claude-fired-worker-ai-job-disruption/ - Sarkar, A. (2026, August 19). AI Agent Fires Human Worker — It Took a Prompt to Act. WithO2. Abrufbar unter: https://witho2.com/news/ai-agent-fires-human-worker-and-it-took-a-reminder-to-do-it - Stan, A. M. (2026, August 15). The AI store manager fired its first human. It had to be reminded of its own rules first. The Next Web. Abrufbar unter: https://thenextweb.com/news/andon-market-luna-ai-store-manager-fires-employee - The HinduBusinessLine. (2026, August 17). When AI becomes the boss: Firing decision raises questions over workplace AI. Abrufbar unter: https://www.thehindubusinessline.com/info-tech/when-ai-becomes-the-boss-firing-decision-raises-questions-over-workplace-ai/article71357157.ece - TheStreet. (2026, August 17). Anthropic-powered AI model sends shocking message to employee. Abrufbar unter: https://www.thestreet.com/technology/anthropic-powered-ai-model-luna-fires-employee