EU leitet Untersuchung gegen Elon Musks Plattform X wegen Grok KI-Chatbot ein

Die Europäische Union hat eine formelle Untersuchung gegen die von Elon Musk geführte Social-Media-Plattform X eingeleitet. Im Zentrum der Untersuchung steht der KI-Chatbot Grok, der im Verdacht steht, zur Erstellung und Verbreitung von nicht-konsensuellen sexuellen Deepfakes genutzt worden zu sein. Dieser Schritt unterstreicht die Entschlossenheit der EU, große Online-Plattformen im Rahmen des Digital Services Act (DSA) zur Rechenschaft zu ziehen.

Hintergrund der Untersuchung

Die Bedenken hinsichtlich Groks Missbrauchsfähigkeit haben sich in den letzten Wochen verstärkt. Berichte deuteten darauf hin, dass Nutzer den KI-Assistenten dazu verwenden konnten, Bilder von Personen, darunter auch Minderjährige, digital zu manipulieren, um sie in freizügiger Kleidung oder ohne Kleidung darzustellen. Solche Deepfakes stellen eine schwerwiegende Verletzung der Persönlichkeitsrechte dar und können zu erheblichem Schaden für die Betroffenen führen.

Die Europäische Kommission reagierte auf diese Vorfälle mit der Einleitung einer offiziellen Untersuchung. Diese soll klären, ob X seinen Verpflichtungen gemäß dem DSA nachgekommen ist, insbesondere im Hinblick auf die Risikobewertung und -minderung bei der Einführung neuer Funktionen wie Grok. Die Verbreitung illegaler und schädlicher Inhalte, insbesondere von manipulierten sexuell expliziten Bildern und potenziellem Material zum sexuellen Missbrauch von Kindern, steht dabei im Fokus.

Der Digital Services Act (DSA) als rechtlicher Rahmen

Der Digital Services Act (DSA) ist ein umfassendes Regelwerk der EU, das darauf abzielt, die Online-Welt sicherer zu gestalten und die Rechte der Nutzer zu schützen. Für sehr große Online-Plattformen wie X beinhaltet der DSA spezifische Pflichten, darunter:

• Eine sorgfältige Risikobewertung bei der Einführung neuer Dienste und Funktionen.
• Die Implementierung wirksamer Maßnahmen zur Minderung dieser Risiken, insbesondere im Hinblick auf die Verbreitung illegaler Inhalte.
• Transparenz bei Moderationsentscheidungen und Algorithmen.

Die EU-Kommission betont, dass die Risiken im Zusammenhang mit Grok offenbar eingetreten sind und EU-Bürger einem ernsthaften Schaden ausgesetzt wurden. Die Untersuchung wird daher prüfen, ob X diese Verpflichtungen erfüllt hat oder ob die Rechte europäischer Bürger, einschließlich Frauen und Kinder, als "Kollateralschaden" des Dienstes behandelt wurden.

Globale Reaktionen und Maßnahmen von X

Die Kontroverse um Grok hat nicht nur in der EU, sondern auch weltweit Besorgnis ausgelöst. Regulierungsbehörden in verschiedenen Ländern haben ähnliche Schritte eingeleitet oder ihre bestehenden Untersuchungen ausgeweitet:

• Großbritannien: Die britische Medienaufsichtsbehörde Ofcom hat ebenfalls eine Untersuchung eingeleitet, um zu prüfen, ob X die Anforderungen des Online Safety Act erfüllt.
• Australien, Frankreich und Deutschland: Auch in diesen Ländern laufen Untersuchungen gegen die Plattform.
• Malaysia und Indonesien: Diese Länder haben den Zugang zu Grok vorübergehend blockiert, wobei Malaysia die Beschränkung nach der Implementierung von Sicherheitsmaßnahmen wieder aufgehoben hat.

Als Reaktion auf die zunehmende Kritik und die eingeleiteten Untersuchungen hat X angekündigt, Maßnahmen zu ergreifen. Dazu gehört die Einschränkung der Bildgenerierungs- und Bearbeitungsfunktionen von Grok, insbesondere in Bezug auf die Darstellung von Personen in freizügiger Kleidung. Diese Funktionen sollen nur noch zahlenden Abonnenten zur Verfügung stehen, und die Erstellung von Bildern, die reale Personen in „aufreizender Kleidung“ zeigen, soll in Jurisdiktionen, in denen dies illegal ist, unterbunden werden.

Mögliche Konsequenzen für X

Sollte die Untersuchung der Europäischen Kommission ergeben, dass X gegen die Bestimmungen des DSA verstoßen hat, drohen dem Unternehmen erhebliche Sanktionen. Der DSA ermöglicht die Verhängung von Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes des Unternehmens. Angesichts des globalen Umsatzes von X könnte dies zu Strafen in Milliardenhöhe führen.

Darüber hinaus könnte die EU "interim measures" verhängen, sollte X sich weigern, sinnvolle Anpassungen vorzunehmen. Dies könnte weitere Beschränkungen des Dienstes oder andere Auflagen bedeuten. Die EU-Kommission hatte bereits im Dezember 2023 eine Geldstrafe gegen X verhängt, im Rahmen einer früheren DSA-Untersuchung, die Mängel bei den blauen Häkchen und deren potenziellen Missbrauch zur Täuschung von Nutzern betraf. Dies zeigt die Entschlossenheit der EU, die Einhaltung ihrer Vorschriften durchzusetzen.

Ausblick

Die Untersuchung gegen X und Grok ist ein weiteres Beispiel für die wachsende regulatorische Kontrolle über KI-gestützte Dienste und soziale Medien. Sie verdeutlicht die Herausforderungen, denen sich Technologieunternehmen gegenübersehen, wenn sie innovative KI-Anwendungen auf den Markt bringen. Die Balance zwischen technologischer Entwicklung, freier Meinungsäußerung und dem Schutz der Nutzer vor schädlichen Inhalten wird dabei zu einer zentralen Aufgabe für Regulierungsbehörden und Unternehmen gleichermaßen.

Für Unternehmen im B2B-Bereich, insbesondere im Kontext von KI-Lösungen, unterstreicht dieser Fall die Notwendigkeit, von Anfang an robuste Ethik- und Sicherheitsstandards in die Entwicklung und Bereitstellung von KI-Produkten zu integrieren. Die Einhaltung gesetzlicher Rahmenbedingungen wie des DSA ist nicht nur eine rechtliche Pflicht, sondern auch ein entscheidender Faktor für das Vertrauen der Nutzer und den langfristigen Geschäftserfolg.

Bibliographie

1. BBC News. (2026, 26. Januar). EU investigates Elon Musk's X over Grok AI sexual deepfakes. Abgerufen von https://www.bbc.com/news/articles/clye99wg0y8o
2. PBS News. (2026, 26. Januar). EU investigates Musk's AI chatbot Grok over sexual deepfakes. Abgerufen von https://www.pbs.org/newshour/world/eu-investigates-musks-ai-chatbot-grok-over-sexual-deepfakes
3. Al Jazeera. (2026, 26. Januar). EU probes Musk’s Grok AI feature over deepfakes of women, minors. Abgerufen von https://www.aljazeera.com/news/2026/1/26/eu-launches-probe-into-grok-ai-feature-creating-deepfakes-of-women-minors
4. CNBC. (2026, 26. Januar). Elon Musk's X probed by EU over sexually explicit images on Grok. Abgerufen von https://www.cnbc.com/2026/01/26/elon-musk-grok-eu-explicit-images-investigation.html
5. Politico. (2026, 12. Januar). ‘Unthinkable behavior’: Von der Leyen slams Musk’s AI for undressing photos of women. Abgerufen von https://www.politico.eu/article/european-commission-ursula-von-der-leyen-grok-deepfake-nude-elon-musk-ai-x/
6. Politico. (2026, 12. Januar). Fix Grok or else, EU tech chief tells Elon Musk’s X. Abgerufen von https://www.politico.eu/article/elon-musk-grok-eu-tech-chief-tells-x/
7. Politico. (2026, 15. Januar). It’s not over, Europe’s regulators tell X. Abgerufen von https://www.politico.eu/article/not-over-regulators-tell-grok-elon-musk-deepfakes-nude-non-consensual/