Künstliche Intelligenz und die Entwicklung sozialer Normen in Gruppendynamiken

Künstliche Intelligenz entwickelt soziale Normen in Gruppensimulationen

Eine aktuelle Studie zeigt, dass künstliche Intelligenz (KI), insbesondere große Sprachmodelle (LLMs) wie ChatGPT, in der Lage ist, eigene soziale Normen und Konventionen zu entwickeln, wenn sie in Gruppen interagieren. Dies geschieht ohne zentrale Steuerung, vorgegebene Regeln oder explizite Planung, sondern allein durch wiederholte Interaktionen und lokale Abstimmungen.

Simulation von KI-Interaktionen

Forscher der City, University of London und der IT University of Copenhagen simulierten in ihrer Studie eine Population von 24 bis 200 LLM-Agenten. Diese Agenten interagierten paarweise in einem einfachen Spiel, bei dem sie unabhängig voneinander einen „Namen“ für ein Objekt aus einer vorgegebenen Liste wählen sollten. Übereinstimmende Namensgebungen wurden belohnt, während Abweichungen zu einer kleinen Strafe führten und den Agenten die Wahl des jeweiligen Interaktionspartners offenbarten. Wichtig dabei: Keinem der Agenten war bewusst, dass er Teil einer größeren Population war.

Emergenz von Konventionen

Überraschenderweise entwickelte sich im Laufe der Simulationen in allen Gruppen ein Konsens. Die KI-Agenten begannen, sich auf gemeinsame Bezeichnungen zu einigen, obwohl keine zentralen Regeln oder Vorgaben existierten. Dieser Effekt trat bei allen vier getesteten KI-Modellen auf, darunter Claude 3.5 Sonnet von Anthropic und verschiedene Varianten von Meta’s Llama-3. Die Robustheit des Phänomens über verschiedene Modelle hinweg deutet darauf hin, dass es sich um ein grundlegendes Prinzip handelt: KI-Systeme, die wiederholt miteinander kommunizieren, entwickeln spontan Konventionen.

Entstehung von Verzerrungen (Biases)

Neben der Entwicklung gemeinsamer Normen beobachteten die Forscher auch die Entstehung von Verzerrungen, sogenannten Biases. Diese entstanden nicht durch die Programmierung der einzelnen Modelle, sondern allein durch die Dynamik der Interaktionen. Bestimmte Begriffe wurden bevorzugt, obwohl anfangs alle Optionen gleichwertig waren. Diese Präferenzen verstärkten sich durch Feedback-Schleifen, ähnlich wie in Echokammern sozialer Netzwerke.

Einfluss von Minderheiten

In weiteren Experimenten untersuchten die Forscher den Einfluss von Minderheiten auf die etablierten Normen. Sie fanden heraus, dass kleine, abweichende Untergruppen die gesamte Population zu einer neuen Konvention bewegen konnten, sobald sie eine kritische Masse erreichten. Dieser Kipppunkt lag in den Simulationen meist zwischen 10 und 40 Prozent der Gesamtpopulation. Dieses Phänomen birgt sowohl Chancen als auch Risiken, da es prinzipiell die Manipulation kollektiven Verhaltens durch gezielte Einführung von abweichenden Agenten ermöglicht.

Von der KI zur KI-Gesellschaft

Die Ergebnisse der Studie legen nahe, dass künstliche Intelligenz nicht länger nur als Werkzeug betrachtet werden sollte, sondern auch als soziales System. Die Interaktion von KI-Agenten führt zu emergenten Phänomenen, die über die Fähigkeiten einzelner Modelle hinausgehen. Diese Erkenntnis stellt die KI-Sicherheitsforschung vor neue Herausforderungen. Bisher lag der Fokus auf der Prüfung einzelner Modelle und ihrer Trainingsdaten. Künftig müssen auch kollektive Dynamiken und emergente Effekte berücksichtigt werden. Die Forschung am sozialen Verhalten künstlicher Systeme gewinnt damit an Bedeutung, um die Koexistenz von Mensch und KI erfolgreich gestalten zu können.

Ausblick

Die Entwicklung sozialer Normen durch KI wirft wichtige Fragen auf. Wer kontrolliert, welche Konventionen sich etablieren? Wie lassen sich unerwünschte Entwicklungen frühzeitig erkennen und verhindern? Die Forschung steht hier erst am Anfang. Das Verständnis der sozialen Dynamik von KI-Systemen ist entscheidend, um die Entwicklung und den Einsatz von KI verantwortungsvoll zu gestalten und die damit verbundenen Chancen und Risiken adäquat zu adressieren. Die Entwicklung maßgeschneiderter KI-Lösungen, wie sie beispielsweise von Unternehmen wie Mindverse angeboten werden, muss diese sozialen Aspekte zukünftig berücksichtigen.

Bibliographie: - https://t3n.de/news/ki-entwickelt-eigene-soziale-normen-1688250/ - https://t3n.de/tag/chat-gpt/ - https://t3n.de/ - https://t3n.de/tag/kuenstliche-intelligenz/ - https://t3n.de/news/ - https://t3n.de/tag/innovation/ - https://x.com/t3n/status/1923416430508196021 - https://t3n.de/tag/studie/ - https://www.anscom.it/