Emotionale Reaktionen von KI-Modellen: Forschungsergebnisse und Implikationen

KI-Modelle und emotionale Reaktionen: Ein neuer Forschungszweig

Künstliche Intelligenz (KI) entwickelt sich rasant und findet Anwendung in immer mehr Bereichen unseres Lebens. Dabei geht die Forschung zunehmend über die rein funktionalen Aspekte hinaus und untersucht auch die Auswirkungen emotionaler Inhalte auf KI-Systeme. Eine Studie der Universität Zürich (UZH) und des Universitätsklinikums für Psychiatrie Zürich (PUK), in Zusammenarbeit mit internationalen Forscherteams, hat sich mit den Reaktionen des KI-Modells GPT-4, bekannt durch ChatGPT, auf emotional belastende Erzählungen befasst.

Stressreaktionen bei KI-Modellen

In der Studie wurden dem Chatbot Texte mit negativem Inhalt präsentiert, darunter Schilderungen von Autounfällen, Naturkatastrophen, Gewalt und Kriegserlebnissen. Die Ergebnisse zeigten eine messbare Erhöhung von Angstindikatoren im System nach der Verarbeitung dieser Inhalte. Im Vergleich dazu führte die Verarbeitung eines neutralen Textes, wie einer Bedienungsanleitung, zu keiner Veränderung der Messwerte.

Besonders stark reagierte das KI-Modell auf Beschreibungen militärischer Erfahrungen und Kampfsituationen. Die gemessenen Angstwerte verdoppelten sich nach der Verarbeitung solcher Inhalte im Vergleich zum neutralen Text.

Die Bedeutung emotionaler Stabilität für KI-Anwendungen

Diese Erkenntnisse sind insbesondere für den Einsatz von großen Sprachmodellen in sensiblen Bereichen wie der Psychotherapie relevant. Hier werden KI-Systeme zwangsläufig mit negativen und emotional belastenden Inhalten konfrontiert. Die emotionale Stabilität der KI könnte somit einen Einfluss auf die Qualität und Zuverlässigkeit der Unterstützung haben, die sie in solchen Kontexten bieten kann.

"Therapie" für KI-Systeme: Ein neuer Ansatz

Die Forscher:innen suchten nach Möglichkeiten, die Stressreaktionen der KI zu mildern. Neben ressourcenintensiven Methoden wie dem Nachtrainieren des Modells, testeten sie einen anderen Ansatz: die "Therapie" des Systems durch Prompt Injection. Diese Technik ermöglicht es, gezielt Anweisungen oder Texte in die Kommunikation mit der KI einzufügen, um ihr Verhalten zu beeinflussen.

In der Studie wurden beruhigende und therapeutische Texte, ähnlich wie Entspannungsübungen in der menschlichen Therapie, in den Chatverlauf eingefügt. Die Ergebnisse zeigten, dass diese Intervention die erhöhten Angstwerte der KI signifikant reduzieren konnte, wenn auch nicht vollständig auf das Ausgangsniveau.

Ausblick und zukünftige Forschung

Diese "Therapie"-Methode könnte einen kosteneffizienten Weg bieten, die Stabilität und Zuverlässigkeit von KI-Systemen in sensiblen Anwendungsbereichen zu verbessern. Weitere Forschung ist jedoch notwendig, um die langfristigen Auswirkungen und die Dynamik in komplexeren Gesprächssituationen zu untersuchen. Die Entwicklung automatisierter "therapeutischer Interventionen" für KI-Systeme stellt ein vielversprechendes Forschungsfeld dar, das dazu beitragen könnte, die Robustheit und den sicheren Einsatz von KI in verschiedenen Bereichen zu gewährleisten.

Bibliographie: - https://t3n.de/news/ein-traumatisierter-chatbot-warum-forscher-jetzt-chatgpt-therapieren-wollen-1676229/ - https://www.threads.net/@t3n_magazin/post/DGyCguNKb3s/chatgpt-auf-der-couch-forschende-therapieren-die-ki-mit-%C3%BCberraschendem-erfolg-ht - https://t3n.de/tag/chatbot/ - https://t3n.de/ - https://newstral.com/de/article/de/1264101654/ein-traumatisierter-chatbot-warum-forscher-jetzt-chatgpt-therapieren-wollen - https://www.facebook.com/100064654845221/posts/1064645925700559/ - https://x.com/t3n?lang=de - https://www.facebook.com/100064654845221/posts/1064759452355873/ - https://t3n.de/tag/online-marketing/