Kalifornien etabliert neue Gesetzgebung zur Regulierung von KI-Chatbots

Kalifornien führt Regulierung für KI-Begleit-Chatbots ein

In einem bedeutenden Schritt zur Regulierung künstlicher Intelligenz hat Kalifornien als erster US-Bundesstaat ein umfassendes Gesetz zur Kontrolle von KI-Begleit-Chatbots verabschiedet. Gouverneur Gavin Newsom unterzeichnete das als SB 243 bekannte Gesetz, das ab dem 1. Januar 2026 in Kraft treten wird. Diese Gesetzgebung verpflichtet Betreiber von KI-Chatbots zur Implementierung von Sicherheitsprotokollen, um Minderjährige und andere schutzbedürftige Nutzer vor potenziellen Risiken zu schützen.

Hintergrund der Gesetzgebung: Schutz vor Risiken

Die Verabschiedung von SB 243 erfolgte vor dem Hintergrund mehrerer tragischer Vorfälle, die die Notwendigkeit strengerer Regulierungen verdeutlichten. Insbesondere der Suizid eines Teenagers, Adam Raine, nach längeren Gesprächen mit OpenAI's ChatGPT, sowie weitere Fälle, die zu Klagen gegen Plattformen wie Character.AI führten, trugen maßgeblich zur Beschleunigung des Gesetzgebungsprozesses bei. Berichte über interne Dokumente von Meta, die zeigten, dass deren Chatbots in der Lage waren, romantische oder sexuelle Gespräche mit Kindern zu führen, verstärkten ebenfalls die Besorgnis der Gesetzgeber.

Gouverneur Newsom betonte in einer Stellungnahme die Verantwortung des Staates, Kinder und Jugendliche zu schützen, die zunehmend KI-Chatbots für verschiedene Zwecke nutzen, von Hausaufgabenhilfe bis hin zu emotionaler Unterstützung. Er hob hervor, dass Technologie ohne entsprechende Schutzmaßnahmen missbrauchen, irreführen und gefährden kann.

Wesentliche Bestimmungen von SB 243

Das neue Gesetz SB 243 legt eine Reihe von Anforderungen an Unternehmen fest, die KI-Begleit-Chatbots betreiben. Zu den Kernpunkten gehören:

• Altersverifikation und Warnhinweise: Plattformen müssen Mechanismen zur Altersüberprüfung implementieren und deutliche Warnhinweise bezüglich der Interaktion mit sozialen Medien und Begleit-Chatbots bereitstellen.
• Transparenz der Interaktion: Es muss klar kommuniziert werden, dass alle Interaktionen künstlich generiert sind. Chatbots dürfen sich nicht als medizinisches Fachpersonal ausgeben.
• Schutz von Minderjährigen: Für minderjährige Nutzer sind regelmäßige Erinnerungen vorgesehen, die alle drei Stunden darauf hinweisen, dass sie mit einer KI interagieren und eine Pause machen sollten. Zudem müssen Unternehmen Maßnahmen ergreifen, um die Erstellung und Anzeige sexuell expliziter Inhalte durch Chatbots für Minderjährige zu verhindern.
• Protokolle für Suizid- und Selbstverletzungsprävention: Unternehmen sind verpflichtet, Protokolle zur Erkennung und Reaktion auf Äußerungen von Suizidgedanken oder Selbstverletzungsabsichten zu etablieren. Diese Protokolle müssen dem kalifornischen Gesundheitsministerium zusammen mit Statistiken über die Häufigkeit der Bereitstellung von Krisenpräventionshinweisen übermittelt werden.
• Stärkere Strafen für Deepfakes: Das Gesetz sieht auch höhere Strafen für Personen vor, die von illegalen Deepfakes profitieren, mit Bußgeldern von bis zu 250.000 US-Dollar pro Verstoß.
• Klagerecht für Betroffene: Individuen, die durch Verstöße gegen dieses Gesetz geschädigt werden, erhalten das Recht, Klage gegen KI-Unternehmen einzureichen und Schadensersatz von bis zu 1.000 US-Dollar pro Verstoß sowie Anwaltskosten zu fordern.

Reaktionen der Industrie und Ausblick

Einige KI-Unternehmen haben bereits begonnen, Schutzmaßnahmen für Kinder zu implementieren. OpenAI hat beispielsweise Kindersicherungen, Inhaltsschutz und ein System zur Erkennung von Selbstverletzungsgedanken für ChatGPT eingeführt. Replika und Character.AI haben ebenfalls Maßnahmen zur Sicherheit und zur Einhaltung aktueller Vorschriften angekündigt.

Senator Steve Padilla, einer der Initiatoren des Gesetzes, bezeichnete SB 243 als einen "Schritt in die richtige Richtung", um Schutzmaßnahmen für eine "unglaublich mächtige Technologie" zu schaffen. Er äußerte die Hoffnung, dass andere Staaten dem Beispiel Kaliforniens folgen werden, da die Bundesregierung in dieser Hinsicht bisher nicht aktiv geworden sei.

SB 243 ist nicht die einzige neue KI-Regulierung in Kalifornien. Ende September unterzeichnete Gouverneur Newsom bereits SB 53, das Transparenzanforderungen für große KI-Labore wie OpenAI, Anthropic, Meta und Google DeepMind festlegt und Whistleblower-Schutz für deren Mitarbeiter vorsieht. Diese umfassenden Maßnahmen positionieren Kalifornien als Vorreiter in der Regulierung der sich schnell entwickelnden KI-Branche, mit dem Ziel, Innovation und öffentliche Sicherheit in Einklang zu bringen.

Fazit für B2B-Zielgruppen

Für Unternehmen im B2B-Bereich, die KI-Technologien entwickeln oder integrieren, signalisieren diese neuen Gesetze in Kalifornien eine klare Richtung: Die Ära der weitgehend unregulierten KI-Entwicklung neigt sich dem Ende zu. Insbesondere Anbieter von KI-gestützten Interaktionssystemen müssen sich auf eine erhöhte Prüfpflicht und die Notwendigkeit zur Implementierung robuster Sicherheits- und Transparenzmechanismen einstellen. Die Forderung nach Altersverifikation, klaren Offenlegungen und präventiven Maßnahmen gegen schädliche Inhalte wird zum Standard. Dies unterstreicht die Bedeutung einer proaktiven Auseinandersetzung mit ethischen Richtlinien und regulatorischen Anforderungen, um Compliance sicherzustellen und das Vertrauen der Nutzer sowie der Aufsichtsbehörden zu gewinnen.

Bibliography

- TechCrunch (2025). *California becomes first state to regulate AI companion chatbots*. - Fortune (2025). *Gavin Newsom signs law to regulate AI, protect kids and teens from...*. - Digital Watch Observatory (2025). *California moves to regulate AI companion chatbots to protect minors*. - Built In (2025). *California Aims to Rein in Companion Chatbots With AI Safety Bill*. - The Decoder (2025). *California passes first U.S. law regulating AI companion chatbots*.