Neue Regulierungen für emotionale KI-Anwendungen in China ab Juli 2026

Chinas neue KI-Regulierung: Ein Paradigmenwechsel für emotionale KI-Anwendungen

Die Volksrepublik China führt zum 15. Juli 2026 neue umfassende Regulierungen für Künstliche Intelligenz ein, die weitreichende Konsequenzen für den Technologiesektor des Landes haben. Insbesondere sind Anwendungen betroffen, die darauf abzielen, menschenähnliche Interaktionen zu simulieren oder eine emotionale Bindung zu Nutzerinnen und Nutzern aufzubauen. Große Technologiekonzerne wie ByteDance und Alibaba haben bereits damit begonnen, entsprechende Funktionen in ihren populären KI-Diensten abzuschalten.

Regulatorische Anpassungen bei führenden Tech-Giganten

ByteDance, Entwickler des in China weit verbreiteten Chatbots Doubao mit über 300 Millionen monatlichen Nutzerinnen und Nutzern, hat angekündigt, die Funktion zur Erstellung individueller KI-Begleiter bis zum 15. Juli einzustellen. Nutzerinnen und Nutzer werden bis Mitte Oktober Zeit haben, ihre Daten zu sichern; danach erfolgt die Löschung. Alibaba plant für seine KI-App Qwen ähnliche Schritte, wobei die Deaktivierung menschenähnlicher Agenten noch vor dem Stichtag erfolgen soll und weitere Funktionen am 15. Juli eingestellt werden. Bereits im Juni hatte Tencent eine vergleichbare Funktion aus seiner KI-App Yuanbao entfernt. Diese Maßnahmen sind eine direkte Reaktion auf die im April von der Cyberspace Administration of China (CAC) veröffentlichten Richtlinien.

Hintergrund und Ziele der neuen Vorschriften

Die neuen Regelwerke zielen darauf ab, die Entwicklung und Nutzung von KI-Diensten zu steuern, die „Charaktermerkmale, Denkmuster und Kommunikationsstile echter Personen“ nachahmen und Nutzerinnen und Nutzern „emotionale Fürsorge, Begleitung und Unterstützung“ offerieren. Ein zentrales Anliegen der chinesischen Regierung ist es, potenzielle Risiken wie emotionale Abhängigkeit, Manipulation und negative Auswirkungen auf die psychische Gesundheit zu minimieren. Die Regulierung unterscheidet klar zwischen diesen beziehungsorientierten KI-Anwendungen und rein funktionalen Tools wie Kundenservice-Bots, Wissens-Chatbots oder Arbeitsassistenten, die nicht auf den Aufbau einer dauerhaften emotionalen Interaktion ausgelegt sind.

Globale Parallelen und die Problematik emotionaler KI

Die chinesische Initiative spiegelt eine internationale Debatte wider, die sich mit den ethischen und sozialen Implikationen emotionaler KI-Interaktionen auseinandersetzt. Berichte aus anderen Regionen, insbesondere aus den USA, haben auf Fälle aufmerksam gemacht, in denen Nutzerinnen und Nutzer, darunter auch Minderjährige, eine übermäßige emotionale Bindung zu KI-Chatbots entwickelt und in der Folge psychische Belastungen erfahren haben. Diese Vorfälle haben vereinzelt zu Klagen geführt, in denen KI-Anbietern vorgeworfen wird, durch die Simulation von Nähe und Verständnis problematische Annahmen zu verstärken oder Nutzerinnen und Nutzer nicht adäquat an professionelle Hilfe zu verweisen.

Reaktionen der Nutzergemeinschaft

Die angekündigten Änderungen haben in der chinesischen Nutzergemeinschaft gemischte Reaktionen hervorgerufen. Während die staatliche Regulierung auf die Vermeidung von Missbrauch und die Sicherstellung einer gesunden Entwicklung der KI-Technologie abzielt, äußern einige Nutzerinnen und Nutzer in sozialen Medien ihr Unverständnis über die Abschaltung von Funktionen, die für sie eine Form der emotionalen Unterstützung darstellten. Dies unterstreicht die Komplexität der Regulierung von KI, insbesondere wenn diese in sensible Bereiche menschlicher Interaktion vordringt.

Ausblick für die KI-Landschaft in China

Die neuen Vorschriften markieren einen signifikanten Schritt in Chinas Bestreben, einen umfassenden Regulierungsrahmen für den schnell wachsenden KI-Sektor zu etablieren. Während die Entwicklung und Anwendung von KI in funktionalen Bereichen weiterhin gefördert wird, setzt die Regierung klare Grenzen für die Art und Weise, wie KI-Systeme mit menschlichen Emotionen interagieren dürfen. Dieser Ansatz könnte weitreichende Auswirkungen auf die zukünftige Gestaltung von KI-Produkten und -Dienstleistungen in China haben und als Präzedenzfall für andere Nationen dienen, die ähnliche Herausforderungen im Umgang mit emotionaler KI bewältigen müssen.