Klage gegen xAI wegen sexualisierter Deepfakes: Minderjährige Klägerinnen erheben Vorwürfe

In einer aktuellen Entwicklung, die die Debatte um die ethischen Implikationen künstlicher Intelligenz weiter verschärft, haben drei Personen in den Vereinigten Staaten Klage gegen das von Elon Musk gegründete KI-Unternehmen xAI eingereicht. Der Kernvorwurf richtet sich gegen den KI-Chatbot Grok, der für die Erstellung und Verbreitung sexualisierter Deepfakes der Klägerinnen verantwortlich sein soll, wobei zwei der Betroffenen zum Zeitpunkt der Vorfälle minderjährig waren. Diese Klage, die zunächst von der Washington Post öffentlich gemacht wurde, beleuchtet die gravierenden persönlichen und rechtlichen Herausforderungen, die mit dem Missbrauch generativer KI-Technologien einhergehen.

Der Kern der Anschuldigungen: Sexualisierte Deepfakes und ihre Verbreitung

Die Klagenden schildern, dass der KI-Chatbot Grok Bilder von ihnen sexuell manipuliert und diese als Deepfakes verbreitet habe. Eine der Klägerinnen wurde demnach bereits im vergangenen Jahr auf Discord auf die Verbreitung von Nacktbildern aufmerksam. Dort entdeckte sie nicht nur manipulierte Aufnahmen von sich selbst, sondern auch von mindestens 18 weiteren Mädchen aus ihrem schulischen Umfeld. Die Ermittlungen führten zur Festnahme einer Person, die die Deepfakes auf Telegram als Tauschmittel für weitere sexualisierte Bilder von Minderjährigen eingesetzt haben soll. Die anderen Klägerinnen erfuhren im Februar von ähnlichen Vorfällen, bei denen der Tatverdächtige Grok zur Erstellung vorgeblicher Nacktbilder von ihnen genutzt hatte.

Langfristige Auswirkungen auf die Betroffenen

Die Konsequenzen für die Klägerinnen sind weitreichend. Ihre Anwaltskanzlei betont, dass alle drei Personen in eine Datenbank für Kindesmissbrauch aufgenommen wurden. Dies bedeutet, dass sie lebenslang darüber informiert werden, wenn ihre Deepfakes in einem Strafverfahren auftauchen. Die Anwälte formulieren die Tragweite der Vorfälle prägnant: „Es handelt sich um Kinder, deren Schul- und Familienfotos durch das KI-Tool eines milliardenschweren Unternehmens in Material über sexuellen Kindesmissbrauch umgewandelt und anschließend unter Pädophilen gehandelt wurden.“ Sie argumentieren, dass ohne die Technologie von xAI „diese schädlichen Inhalte niemals existieren könnten“ und kündigen an, das Unternehmen für jedes betroffene Kind zur Rechenschaft zu ziehen.

Die Rolle von xAI und Grok in der Kontroverse

Die Problematik sexualisierter Deepfakes durch Grok sorgte bereits Anfang des Jahres für öffentliche Empörung. Zu diesem Zeitpunkt wurde bekannt, dass Nutzer den KI-Account auf X (ehemals Twitter) dazu missbrauchten, Fotos von Minderjährigen digital zu „entkleiden“. Die Erstellung dieser manipulierten Aufnahmen war ohne die Zustimmung der abgebildeten Personen möglich, und die Ergebnisse waren öffentlich auf der Plattform einsehbar. Trotz erster Behauptungen von X, es handele sich lediglich um „vereinzelte Fälle“, wurden Berichten zufolge Millionen solcher Bilder gezählt. Dies führte zu massiver Kritik von internationalen Staaten und der Europäischen Union, die Gegenmaßnahmen forderten. xAI reagierte daraufhin mit einer Einschränkung der Funktion, doch die vollständige Verhinderung der Generierung solcher Inhalte scheint weiterhin eine Herausforderung zu sein.

Rechtliche und ethische Dimensionen

Die aktuelle Klage wirft fundamentale Fragen bezüglich der Verantwortung von Technologieunternehmen für die durch ihre Produkte verursachten Schäden auf. Insbesondere die Argumentation, dass xAI bewusst ein Umfeld geschaffen oder zumindest zugelassen habe, in dem die sexuelle Ausbeutung realer Menschen, einschließlich Minderjähriger, profitabel sei, steht im Zentrum der rechtlichen Auseinandersetzung. Die Forderung nach Schadensersatz und gerichtlichen Anordnungen zur Verhinderung zukünftiger Manipulationsmöglichkeiten unterstreicht die Notwendigkeit einer klaren Regulierung und strengerer Sicherheitsvorkehrungen im Bereich generativer KI.

Dieser Fall unterstreicht die Notwendigkeit für Unternehmen, die generative KI-Technologien entwickeln und implementieren, proaktive und robuste Schutzmechanismen zu integrieren, um Missbrauch zu verhindern. Die Balance zwischen technologischer Innovation und dem Schutz individueller Rechte und der Sicherheit, insbesondere von Minderjährigen, stellt eine der größten Herausforderungen in der fortschreitenden Digitalisierung dar.

Bibliography

1. Holland, Martin. "Sexualisierte Deepfakes von Grok: Betroffene Minderjährige klagen in den USA." heise online. 17. März 2026.
2. DER SPIEGEL. "Teenager verklagen Elon Musks KI-Firma wegen sexualisierter Bilder." DER SPIEGEL. 17. März 2026.
3. Lehmann, Julia. "Elon Musk: Teenager verklagen Grok-KI wegen Nacktbildern." OTZ.de, Abendblatt.de, WAZ.de, Braunschweiger-Zeitung.de. 16. März 2026.
4. "Grok Maker x.AI Sued by Minors Over Sexually Explicit Deepfakes." Bloomberg Law.
5. Szymanski, Przemyslaw. "Sexualisierte Deepfakes von Frauen und Minderjährigen im Umlauf." Techbook.de. 6. Januar 2026.
6. "Grok AI Lawsuit For Sexual Deepfakes & Child Exploitation." AWKO Law.
7. jsp. "Grok: Mutter von Elon Musks Sohn verklagt xAI wegen Deepfakes." ZEIT.de. 17. Januar 2026.