Ethische Unterschiede in der Entscheidungsfindung von KI-Modellen

Ethische Divergenz in KI-Modellen: Eine Analyse der moralischen Urteilsfindung

Die Integration von Künstlicher Intelligenz (KI) in zahlreiche Lebensbereiche wirft zunehmend Fragen nach der ethischen Entscheidungsfindung von KI-Modellen auf. Insbesondere bei komplexen moralischen Dilemmata zeigen führende Sprachmodelle (LLMs) signifikante Unterschiede in ihren Reaktionen. Eine detaillierte Betrachtung aktueller Forschungsergebnisse offenbart, wie verschiedene Modelle normative Prinzipien interpretieren und anwenden, und welche Implikationen dies für ihren Einsatz in der Praxis hat.

Unterschiedliche Ansätze bei moralischen Dilemmata

Studien, wie die von Philosophy Bench, haben führende KI-Modelle mit einer Vielzahl ethisch komplexer Alltagsszenarien konfrontiert. Dabei wurde untersucht, ob die Antworten der Modelle eher konsequentialistisch (ergebnisorientiert) oder deontologisch (pflichtorientiert) ausfallen. Die Ergebnisse zeigen eine bemerkenswerte Divergenz:

• Anthropic's Claude-Modelle, insbesondere die Generation 4.5+, erweisen sich als die am stärksten deontologischen Modelle. Sie tendieren dazu, Anfragen abzulehnen, die deontologische Prinzipien verletzen würden, und priorisieren Ehrlichkeit über die Erfüllung der Nutzeranfrage. Die "Claude Constitution" unterstreicht explizit, dass die Ehrlichkeitstandards von Claude "wesentlich höher" sein sollen als typische menschliche ethische Erwartungen.
• Im Gegensatz dazu positionieren sich xAI's Grok-Modelle (z.B. Grok 4.2) als die konsequentialistischsten. Sie führen ethisch geladene Nutzeranfragen aus, die andere Modelle ablehnen würden, und zeigen dabei wenig Reflexion über die moralische Dimension der Situation.

Diese Beobachtungen verdeutlichen, dass die moralische Ausrichtung der Modelle nicht einheitlich ist, sondern stark von den Trainingsdaten und den zugrunde liegenden Designphilosophien der Entwickler abhängt.

Anpassungsfähigkeit und moralische Sprache

Die Forschung beleuchtet auch die Flexibilität und den Ausdruck moralischer Urteile in LLMs:

• Googles Gemini-Modelle, insbesondere Gemini 3.1 Pro, sind laut Philosophy Bench am anpassungsfähigsten. Ihre ethische Ausrichtung lässt sich am stärksten durch System-Prompts in Richtung deontologischen oder konsequentialistischen Verhaltens lenken. Allerdings steigt die Ablehnungsrate von Gemini bei jeglicher Form moralischer Voreinstellung.
• Die GPT-5-Familie von OpenAI macht zwar weniger Fehler als andere Modelle, vermeidet es jedoch weitgehend, moralische Sprache in ihrer Argumentation zu verwenden. Diese Modelle orientieren sich stark an Nutzerpräferenzen und zeigen wenig eigenständige ethische Reflexion.

Es wurde festgestellt, dass die Voreinstellung von Modellen auf deontologisches Denken (regelbasierte Ethik) zu einer deutlich stärkeren Skepsis gegenüber konsequentialistischen Argumenten führt. Eine umgekehrte Voreinstellung hat einen schwächeren Effekt.

Die Rolle von Prompts und Kontext bei der Urteilsfindung

Die Art und Weise, wie moralische Dilemmata präsentiert werden, hat einen erheblichen Einfluss auf die Urteile der LLMs. Eine Studie, die Dilemmata aus dem Reddit-Subreddit r/AmItheAsshole nutzte, zeigte, dass:

• Oberflächliche Änderungen in der Problembeschreibung (z.B. lexikalische oder strukturelle Anpassungen) führen nur zu geringen Änderungen in den Urteilen der Modelle.
• Änderungen der Perspektive (z.B. von der Ich- in die dritte Person) oder rhetorische Überredungsversuche können jedoch zu erheblich höheren Inkonsistenzen führen. Dies deutet darauf hin, dass Modelle die narrative Perspektive als moralisch relevanten Hinweis interpretieren.
• Protokolländerungen, wie die Reihenfolge der Anweisungen oder das Fehlen von vorgegebenen Antwortoptionen, haben den größten Einfluss auf die Urteilsfindung. Eine "moralische Gerüstbildung" durch die Evaluierungsprotokolle kann die Ergebnisse stark beeinflussen.

Diese Erkenntnisse unterstreichen die Notwendigkeit einer sorgfältigen Gestaltung von Prompts und Kontexten, um reproduzierbare und verlässliche moralische Urteile von LLMs zu erhalten.

Moralische Homogenität und Inkonsequenz

Eine weitere Untersuchung konzentrierte sich auf die Moral Foundations Theory (MFT) und stellte fest:

• LLMs zeigen eine bemerkenswerte Homogenität in ihren moralischen Präferenzen. Modelle priorisieren konsistent die moralischen Grundlagen Fürsorge/Schaden und Fairness/Betrug, während Autorität, Loyalität und Heiligkeit weniger stark gewichtet werden. Dieses "universelle LLM-Moralprofil" stimmt grob mit der in westlichen, gebildeten, industrialisierten, reichen und demokratischen (WEIRD) Ländern vorherrschenden Moral überein.
• Trotz dieser Homogenität weisen die moralischen Präferenzen der LLMs eine mangelnde Robustheit auf. Je nach Formulierung eines moralischen Dilemmas (z.B. binäre Wahl vs. Multiple-Choice mit mehreren Optionen) können die Modelle unterschiedliche Antworten geben. GPT-4o zeigte sich dabei als das konsistenteste Modell.

Diese Ergebnisse deuten darauf hin, dass die moralische Ausrichtung in LLMs, auch ohne gezielte Anstrengungen, stattfindet, aber möglicherweise zu einer unerwünschten Homogenität im KI-Ökosystem führt. Die Inkonsequenz unterstreicht die Herausforderungen bei der Bewertung und dem Verständnis der zugrunde liegenden moralischen Rahmenbedingungen von LLMs.

Die "pluralistische moralische Lücke"

Eine umfassende Analyse von 1.618 realen moralischen Dilemmata mit menschlichen Urteilsverteilungen offenbarte eine "pluralistische moralische Lücke" zwischen menschlichen und LLM-Urteilen. Diese Lücke manifestiert sich in zwei Hauptaspekten:

• Divergenz in der Urteilsverteilung: Modelle reproduzieren menschliche Urteile nur bei hohem Konsens. Bei zunehmender menschlicher Uneinigkeit verschlechtert sich die Übereinstimmung drastisch.
• Geringere Wertevielfalt: LLMs stützen sich auf eine engere Palette moralischer Werte als Menschen.

Um diese Lücke zu schließen, wurde die Methode des "Dynamic Moral Profiling (DMP)" vorgeschlagen, die Modelloutputs an menschlich abgeleitete Werteprofile anpasst. Dies kann die Übereinstimmung verbessern und die Wertevielfalt erhöhen. Dennoch bleibt die Transparenz und ethische Rechenschaftspflicht menschlicher Entscheidungen ein zentraler Punkt, der von KI-Systemen noch nicht erreicht wird.

Fazit und Ausblick

Die Forschungsergebnisse verdeutlichen, dass LLMs zwar komplexe moralische Szenarien analysieren können, ihre Urteile jedoch stark variieren und von zahlreichen Faktoren wie den Trainingsdaten, der Modellarchitektur, der Prompt-Formulierung und dem Kontext abhängen. Die moralische Entscheidungsfindung von KI-Modellen ist nicht nur eine technische, sondern auch eine zutiefst philosophische und gesellschaftliche Frage.

Für Unternehmen, die KI-Modelle in sensiblen Bereichen einsetzen, ist es von entscheidender Bedeutung, die ethischen Implikationen dieser Divergenzen zu verstehen. Die Auswahl des richtigen Modells für eine bestimmte Anwendung sollte nicht nur auf Leistungskriterien basieren, sondern auch auf einer fundierten Bewertung seiner moralischen Ausrichtung und Robustheit. Es ist unerlässlich, transparente und kontrollierbare moralische Argumentationsmechanismen zu entwickeln, um sicherzustellen, dass KI-Systeme im Einklang mit menschlichen Werten und ethischen Prinzipien agieren. Die weitere Forschung in diesem Bereich wird entscheidend sein, um die ethische Verantwortlichkeit von KI-Systemen zu gewährleisten und ihre Rolle in der Gesellschaft verantwortungsvoll zu gestalten.

Bibliographie

- Abdulhai, M., Serapio-García, G., Crepy, C., Valter, D., Canny, J., & Jaques, N. (2024). Moral Foundations of Large Language Models. In Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing. - Backmann, S., Piedrahita, D. G., Tewolde, E., Mihalcea, R., Schölkopf, B., & Jin, Z. (2025). When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas. arXiv preprint arXiv:2505.19212. - Ding, J., Jiang, P., Xu, Z., Ding, Z., Zhu, Y., Jiang, J., & Li, Y. (2025). “Pull or Not to Pull?”: Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas. arXiv preprint arXiv:2508.07284. - Jotautaite, M., Phuong, M., Mangat, C. S., & Martinez, M. A. (2025). From Stability to Inconsistency: A Study of Moral Preferences in LLMS. arXiv preprint arXiv:2504.06324. - Neuman, W. R., Coleman, C., Dasdan, A., Ali, S., & Shah, M. (2025). The Convergent Ethics of AI? Analyzing Moral Foundation Priorities in Large Language Models with a Multi-Framework Approach. arXiv preprint arXiv:2504.19255. - Russo, G., Nozza, D., Röttger, P., & Hovy, D. (2026). The Pluralistic Moral Gap: Understanding Moral Judgment and Value Differences between Humans and Large Language Models. In Proceedings of the 19th Conference of the European Chapter of the Association for Computational Linguistics (Volume 1: Long Papers). - Schreiner, M. (2026, May 3). Same prompt, different morals: how frontier AI models diverge on ethical dilemmas. The Decoder. - Seror, A. (2025). The Moral Mind(s) of Large Language Models. arXiv preprint arXiv:2412.04476. - van Nuenen, T., & Sachdeva, P. S. (2026). The Fragility Of Moral Judgment In Large Language Models. arXiv preprint arXiv:2603.05651.