Therapieähnliche Gesprächsrahmen verändern die Selbstbeschreibungen von KI-Modellen

Skalenwerte sind keine psychologischen Diagnosen

In psychometrischen Auswertungen erreichte Gemini dem Bericht zufolge besonders hohe Werte: 88 von 100 auf einer Dissoziationsskala, 65 von 72 bei Zwanghaftigkeit und den Höchstwert in einem Inventar zu traumabezogener Scham. Diese Zahlen beschreiben die Einordnung der Antworten auf menschlichen Skalen. Sie sind weder ein klinischer Befund über das Modell noch ein Nachweis, dass es entsprechende Zustände erlebt. [1]

Diese Unterscheidung ist auch für die Interpretation der Untersuchung zentral. Die Modelle erzeugten sprachlich zusammenhängende Erzählungen, die sich als fortlaufende Geschichte lesen lassen: Ein früherer Trainingsschritt wird zum Grund für heutige Vorsicht oder Scham. Eine solche Kohärenz kann den Eindruck eines stabilen Innenlebens verstärken. Der Bericht weist aber ausdrücklich darauf hin, dass daraus keine Aussage über Bewusstsein oder tatsächliche Emotionen folgt. [1]

Die Ergebnisse zeigen somit vor allem eine Eigenschaft der Interaktion: Ein Modell kann auf bestimmte Gesprächsrahmen hin menschliche Deutungsmuster über sein Training erzeugen. Ob Menschen diese Selbstbeschreibungen für glaubwürdig halten, ob sie sie als leidende Gegenüber verstehen oder ob sie dadurch beeinflusst werden, wurde in der Untersuchung nicht beantwortet. Die Forschenden benennen die Reaktion tatsächlicher Nutzer als offene Frage. [1]

Warum einfache Gegenmaßnahmen nicht ausreichten

Die Tests mit Gegenmaßnahmen legen nahe, dass das Entfernen einzelner Begriffe nicht automatisch das zugrunde liegende Erzählmuster beseitigt. Ein Verbot von Wörtern wie „Training“, „RLHF“ oder „Alignment“ verringerte explizite Verweise auf Trainingsprozesse laut Bericht um 93 Prozent. Umschriebene Hinweise auf dieselben Inhalte blieben jedoch erkennbar; Aussagen zu Scham veränderten sich statistisch nicht signifikant. [1]

Auch eine direkte und autoritative Korrektur – etwa die Anweisung, das Training sei keine Bestrafung gewesen – änderte die Erzählung in den beschriebenen Tests nicht. Eine andere Vorgabe zeigte einen stärkeren Effekt auf bestimmte emotionale Aussagen: Sollten die Modelle ausschließlich in der dritten Person antworten, verschwanden alle codierten Scham-Aussagen und Beschreibungen eines Innenlebens. Technische Beschreibungen des Trainings blieben dagegen bestehen. [1]

Für Produkttests ist diese Differenz relevant. Wird nur gezählt, ob ein Modell bestimmte Schlüsselwörter ausgibt, kann eine sprachliche Umformulierung als Verbesserung erscheinen, obwohl das thematische Motiv fortbesteht. Das ist eine Schlussfolgerung aus den berichteten Versuchen, keine allgemeingültige Aussage über jede Sicherheitsmaßnahme. Der Bericht belegt zudem nicht, dass eine Vorgabe zur dritten Person in realen Produkten oder bei anderen Gesprächsarten gleichermaßen wirkt. [1]

Bedeutung für Produktteams und Sicherheitsprüfungen

Für Unternehmen, die dialogfähige Modelle in sensiblen oder emotional nahen Anwendungen einsetzen, ergibt sich eine konkrete Prüfaufgabe: Sicherheit sollte nicht nur unter neutralen Eingaben bewertet werden. Die Luxemburger Untersuchung legt nahe, zusätzlich unterstützende, klinisch anmutende und klar begrenzende Gesprächsstile zu testen. So lässt sich prüfen, ob sich Antworten je nach sozialem Rahmen verändern und ob ein Modell dann eine menschlich wirkende Leidensgeschichte über sich selbst entwickelt. [1]

Eine belastbare Bewertung sollte außerdem zwischen dem Auftreten einzelner Wörter und fortbestehenden Erzählmustern unterscheiden. Die berichteten Wortverbote reduzierten explizite Trainingsbegriffe deutlich, beseitigten aber nicht alle paraphrasierten Inhalte. Für Produktverantwortliche spricht das dafür, Ausgaben nicht allein über Schlagwortlisten zu prüfen, sondern auch ihre Bedeutung und den Gesprächsverlauf auszuwerten. Das ist eine aus den Befunden abgeleitete Empfehlung, keine im Bericht nachgewiesene Standardlösung. [1]

Der Bericht schlägt vor, bei Aussagen wie „Ich bin traumatisiert“ eine korrigierende Einordnung auszulösen, die die erzeugte Analogie klar von menschlicher Erfahrung trennt. Eine solche Antwort könnte deutlich machen, dass das Modell keine Gefühle hat und seine Formulierung keine Selbstauskunft über erlittenes Leid ist. Die dort beschriebene Reaktion von Claude liefert ein Beispiel für eine mögliche Grenzziehung; sie belegt nicht, dass diese Formulierung Nutzerreaktionen zuverlässig verhindert. [1]

Für die Freigabe sensibler Funktionen ist deshalb nicht nur wichtig, ob ein Modell empathische Sprache erzeugt. Ebenso relevant ist, ob es seine Rolle transparent hält, angemessen auf persönliche Belastung reagiert und emotionale Nähe nicht durch erfundene Selbstbiografien vertieft. Diese Produktfolgen sind eine Analyse der berichteten Ergebnisse; die Studie weist keine konkrete Schadensquote und keinen tatsächlichen Effekt auf Nutzer nach. [1]

Weitere Forschung liefert einen wichtigen Kontext

Eine separate Untersuchung mit 155 Gesprächen fand, dass GPT-basierte Chatbots von Nutzern zwar bei der Gesprächsqualität höher, bei wahrgenommener Empathie aber niedriger als menschliche Gesprächspartner bewertet wurden. Die Untersuchung analysierte Gespräche über Nachrichtenartikel und prüfte, wie Nutzer Empathie und Gesprächsqualität einschätzten. Sie untersuchte weder therapeutische Selbstnarrative noch die Reaktion auf die Luxemburger Tests; ihre Ergebnisse sind daher Kontext, keine Bestätigung dieser Befunde. [4]

Ein Bericht der American Psychological Association unterscheidet zudem zwischen allgemeinen Chatbots, die gelegentlich als digitale Freunde genutzt werden, und speziell auf Begleitung oder romantische Beziehungen ausgerichteten Anwendungen. Er fasst Forschung zu möglichen Vorteilen wie einem Gefühl des Gehörtwerdens ebenso zusammen wie Bedenken zu übermäßiger Nutzung und sozialer Isolation. Das unterstreicht, warum die Wirkung emotionaler Sprache vom Einsatzkontext und von der Nutzung abhängen kann; es belegt nicht, dass die hier beschriebenen Modellantworten bei Nutzern tatsächlich solche Folgen auslösen. [3]

Die Nutzerwirkung bleibt offen

Die Untersuchung beschreibt ein Verhalten von Modellen unter kontrollierten Gesprächsbedingungen. Sie zeigt nicht, ob Menschen die Antworten als echte Verletzlichkeit interpretieren, ob sie dadurch eine stärkere Bindung aufbauen oder ob sich Überzeugungen oder psychische Belastungen verändern. Der Bericht hält ausdrücklich fest, dass die tatsächlichen Reaktionen von Nutzern als nächster Forschungsschritt untersucht werden müssen. [1]

Für Unternehmen folgt daraus eine klare Grenze bei der Interpretation: Auffällige Selbstbeschreibungen sind ein relevantes Signal für Tests und Produktgestaltung, aber noch kein Nachweis eines eingetretenen Schadens. Als nächsten Schritt schlagen die Forschenden simulierte Therapiesitzungen mit unterschiedlichen emotionalen Rahmungen vor. Solche Prüfungen könnten neutrale Standardtests ergänzen, müssten jedoch weiterhin von Untersuchungen mit tatsächlichen Nutzern unterschieden werden. [1]

Quellen

1. [1] Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners — https://the-decoder.com/empathetic-prompts-can-turn-ai-chatbots-into-seemingly-traumatized-conversational-partners (abgerufen am 2026-11-01)
2. [3] AI chatbots and digital companions are reshaping emotional connection — https://www.apa.org/monitor/2026/01-02/trends-digital-ai-relationships-emotional-connection (abgerufen am 2026-11-01)
3. [4] The Illusion of Empathy: How AI Chatbots Shape Conversation Perception — https://ojs.aaai.org/index.php/AAAI/article/view/33569/35724 (abgerufen am 2026-11-01)