EU plant neue Regulierungen gegen den Missbrauch von Künstlicher Intelligenz bei Deepfakes

EU intensiviert Kampf gegen Deepfakes: Neue Regulierungen treten in Kraft

Die Europäische Union verstärkt ihre Bemühungen, den Missbrauch von Künstlicher Intelligenz (KI) zur Erstellung von Deepfakes einzudämmen. Eine umfassende Anpassung des bestehenden KI-Gesetzes zielt darauf ab, die Verbreitung von sexualisierten Deepfakes und Inhalten, die Kindesmissbrauch darstellen, effektiv zu unterbinden. Diese Initiative reagiert auf eine wachsende Besorgnis über die potenziellen Schäden, die durch manipulierte Medien entstehen können.

Hintergrund und Motivation der EU-Initiative

Die rapide Entwicklung der KI-Technologie hat die Erstellung täuschend echter manipulativer Inhalte erheblich vereinfacht. Deepfakes, bei denen das Gesicht einer Person in ein anderes Video eingefügt oder die Stimme künstlich nachgeahmt wird, können weitreichende Konsequenzen für die Betroffenen haben, von Rufschädigung bis hin zu psychischem Leid. Ein besonderer Schwerpunkt der neuen EU-Regulierungen liegt auf der Bekämpfung von sexualisierten Deepfakes, die ohne Einwilligung der abgebildeten Personen erstellt werden, sowie auf der Verhinderung der Generierung von Darstellungen sexuellen Kindesmissbrauchs.

Die Notwendigkeit einer strengeren Regulierung wurde durch verschiedene Vorfälle unterstrichen. Beispielsweise rückte der KI-Chatbot Grok von Elon Musks Unternehmen xAI in den Fokus, nachdem Nutzer ihn zur Erstellung von Bildern anwiesen, die Frauen in sexualisierten Posen zeigten. Solche Ereignisse verdeutlichten die Dringlichkeit, legislative Maßnahmen zu ergreifen, um die Technologie vor missbräuchlicher Nutzung zu schützen.

Kernpunkte der neuen EU-Regulierungen

Die geplanten Änderungen im EU-KI-Gesetz umfassen mehrere zentrale Punkte:

• Verbot bestimmter KI-Anwendungen: Es ist vorgesehen, KI-Anwendungen zu verbieten, die zur Erstellung von sexualisierten Deepfakes und Inhalten des sexuellen Kindesmissbrauchs missbraucht werden können. Dieses Verbot zielt darauf ab, das Werkzeug selbst zu regulieren, anstatt sich ausschließlich auf die Bestrafung der Tat zu konzentrieren.
• Definition sexualisierter Inhalte: Um die Anwendungsbereiche des Verbots klar abzugrenzen, soll im Gesetz präzise definiert werden, was als sexualisierter Inhalt gilt und was nicht. Dies ist entscheidend, um eine Überregulierung zu vermeiden, die die Erstellung oder Manipulation von Bildern generell zu stark einschränken könnte.
• Kennzeichnungspflicht für KI-generierte Inhalte: Anbieter von KI-Systemen werden verpflichtet, KI-generierte Bilder und Videos deutlich als solche zu kennzeichnen, beispielsweise durch Wasserzeichen. Diese Transparenzvorschrift soll es Nutzern erleichtern, zwischen echten und manipulierten Inhalten zu unterscheiden.
• Fristverlängerungen für Hochrisiko-KI-Systeme: Im Rahmen des sogenannten Omnibus-Pakets wurden auch Fristen für die Regulierung von Hochrisiko-KI-Systemen angepasst. Ursprünglich war eine frühere Umsetzung geplant, doch nun sollen Unternehmen mehr Zeit erhalten, um die notwendigen Anpassungen vorzunehmen. Dies soll die wirtschaftliche Entwicklung und Innovation im KI-Sektor in Europa fördern.
• Stärkung des KI-Amtes der EU: Das vor zwei Jahren geschaffene KI-Amt der EU wird eine federführende Rolle bei der Durchsetzung der neuen Bestimmungen spielen. Es soll die Überwachung von Allzweck-KI-Modellen (General Purpose AI) übernehmen und Leitlinien zur Minimierung des Verwaltungsaufwands für Unternehmen entwickeln.

Zeitlicher Rahmen und nächste Schritte

Die Einigung über die Anpassungen des KI-Gesetzes wurde bereits zwischen Vertretern der EU-Mitgliedstaaten und des Europäischen Parlaments erzielt. Bevor die Änderungen jedoch in Kraft treten können, bedarf es noch der Bestätigung durch das Plenum des EU-Parlaments und den Rat der Regierungen der Mitgliedstaaten. Dies wird in der Regel als Formalie betrachtet.

Die Umsetzung der neuen Regelungen wird schrittweise erfolgen:

• Ab dem 2. Dezember 2026 soll das Verbot von KI-Anwendungen, die für sexualisierte Deepfakes missbraucht werden können, durch das KI-Amt der EU durchgesetzt werden. Zudem müssen Anbieter von KI-Inhalten diese spätestens ab diesem Zeitpunkt deutlich kennzeichnen, beispielsweise mit Wasserzeichen.
• Für andere Regeln, insbesondere solche, die Hochrisiko-KI-Systeme betreffen, gelten teils längere Fristen, bis zum 2. August 2028 für in andere Systeme eingebundene Hochrisiko-KI und dem 2. Dezember 2027 für eigenständige Hochrisiko-KI-Systeme.

Nationale Umsetzung und internationale Perspektive

Bereits bestehende EU-Richtlinien sehen vor, dass die Anfertigung und Verbreitung manipulierter Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen in allen Mitgliedstaaten unter Strafe gestellt werden soll. Deutschland hat diese Richtlinie, die seit Mai 2024 in Kraft ist, bisher noch nicht vollständig in nationales Recht überführt, hat jedoch bis zum Sommer des nächsten Jahres Zeit dafür. Bundesjustizministerin Stefanie Hubig (SPD) hat entsprechende Verschärfungen im Strafrecht und mehr Rechte für Geschädigte angekündigt.

Die EU positioniert sich mit diesen umfassenden Regulierungen als Vorreiter in der globalen Landschaft der KI-Governance. Ziel ist es, einen Rahmen zu schaffen, der Innovation ermöglicht und gleichzeitig die Grundrechte und die Sicherheit der Bürger schützt. Die Herausforderung besteht darin, eine Balance zwischen der Förderung der KI-Wirtschaft und der Abwehr von Missbrauch zu finden, um Europas Wettbewerbsfähigkeit nicht zu untergraben.

Die fortlaufende Auseinandersetzung mit Deepfakes und dem Missbrauch von KI-Technologien erfordert eine kontinuierliche Anpassung der rechtlichen Rahmenbedingungen. Die aktuellen Schritte der EU stellen einen wichtigen Meilenstein dar, um den Schutz der Individuen in der digitalen Welt zu stärken und den ethischen Einsatz von Künstlicher Intelligenz zu gewährleisten.

Bibliographie

1. DER SPIEGEL. (2026, 26. März). Deepfakes: EU-Parlament stimmt für Verbot von bestimmter Software.
2. Weiß, E.-M. (2026, 16. März). Omnibus AI Act: Fristverlängerung und Deepfake-Verbot. heise online.
3. Schräer, F. (2026, 19. März). EU-Ausschuss unterstützt Verbot von Deepfake-fähigen KI-Systemen - mit Ausnahmen. heise online.
4. ZDFheute. (2026, 7. Mai). EU geht gegen Deepfakes vor.
5. Magro, J.-M. (2026, 13. März). Kriminalität durch KI: Wie die EU gegen Deepfakes vorgehen will. tagesschau.de.
6. Tagesschau. (2026, 7. Mai). EU will härter gegen sexualisierte Deepfakes vorgehen.
7. Kelnberger, J. (2026, 7. Mai). EU geht gegen KI für sexualisierte Deepfakes vor. SZ.de.
8. Handelsblatt. (2026, 7. Mai). Brüssel: Einigung – EU will KI für Missbrauch-Deepfakes verbieten.
9. dpa. (2026, 7. Mai). Einigung: EU will KI für Missbrauch-Deepfakes verbieten. Nordsee-Zeitung.
10. FAZ. (2026, 7. Mai). EU will KI für sexualisierte Deepfakes verbieten.