Deepfakes und ihre rechtlichen Herausforderungen in der digitalen Welt

Die fortschreitende Entwicklung Künstlicher Intelligenz (KI) hat zu einer neuen Generation von Medieninhalten geführt, die als Deepfakes bekannt sind. Diese synthetischen Bilder, Audio- und Videoaufnahmen sind so überzeugend, dass sie kaum noch von der Realität zu unterscheiden sind. Während diese Technologie kreative Anwendungen in der Unterhaltungsbranche und im Bildungswesen ermöglicht, birgt sie gleichzeitig erhebliche Risiken für Individuen, Unternehmen und die Gesellschaft als Ganzes. Die juristische Landschaft reagiert auf diese Herausforderungen mit einer Kombination aus bestehenden Gesetzen und neuen Regulierungen, um Schutzmechanismen zu etablieren.

Die Definition und Funktionsweise von Deepfakes

Deepfakes sind ein Kofferwort aus "Deep Learning" – einer Methode des maschinellen Lernens und einem Teilbereich der Künstlichen Intelligenz – und "Fake", was Fälschung oder Imitation bedeutet. Sie bezeichnen mittels KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Objekten oder Ereignissen ähneln und fälschlicherweise als echt oder wahrheitsgemäß erscheinen können. Die KI-Verordnung der EU (Verordnung 2024/1689) liefert hierzu eine erste gesetzliche Definition.

Die Erstellung von Deepfakes basiert auf komplexen Algorithmen, oft sogenannten Generative Adversarial Networks (GANs). Dabei treten zwei neuronale Netze gegeneinander an: Ein Generator erzeugt neue Inhalte, während ein Diskriminator versucht, diese von echten Inhalten zu unterscheiden. Durch diesen Wettbewerb verbessert sich die Qualität der generierten Fälschungen kontinuierlich, bis sie für das menschliche Auge kaum noch als solche erkennbar sind.

Arten von Deepfakes

Es lassen sich verschiedene Formen von Deepfakes unterscheiden, die jeweils unterschiedliche Manipulationsgrade aufweisen:

• Face Swapping: Hierbei wird das Gesicht einer Person in einem Video durch das Gesicht einer anderen Person ersetzt. Dies kann dazu führen, dass Prominente in falschen Kontexten erscheinen oder sogar in pornografische Inhalte eingefügt werden.
• Voice Swapping: Bei dieser Methode wird die Stimme einer Person täuschend echt nachgebildet, um ihr Worte in den Mund zu legen, die sie nie gesprochen hat. Dies kann in Betrugsfällen oder zur gezielten Desinformation genutzt werden.
• Body Puppetry: Hierbei werden Bewegungen oder ganze Bewegungsabläufe einer Person auf eine andere übertragen, wodurch sich die simulierte Person in einem Video unrealistisch oder manipuliert verhält.

Die Gefahren und Auswirkungen von Deepfakes

Das Potenzial von Deepfakes für Missbrauch ist weitreichend. Sie können nicht nur den Ruf von Einzelpersonen schädigen, sondern auch den demokratischen Diskurs untergraben und Desinformation verbreiten. Beispiele reichen von gefälschten pornografischen Inhalten, die oft Frauen betreffen, bis hin zu manipulierten politischen Statements, die Wahlen beeinflussen oder Misstrauen in staatliche Institutionen säen sollen.

Ein bekanntes Beispiel ist das Auftauchen von Fake-Werbespots mit dem bekannten Arzt und Moderator Eckart von Hirschhausen, der vermeintlich Abnehmprodukte anpries. Auch der Fall eines Deepfake-Videos mit Bundeskanzler Olaf Scholz, das ein Parteiverbot für eine politische Partei ankündigte, verdeutlicht die politische Brisanz dieser Technologie.

Rechtliche Rahmenbedingungen und Schutzmechanismen

Obwohl es in Deutschland und der EU bislang keine spezifischen Gesetze gibt, die ausschließlich Deepfakes behandeln, bieten bestehende rechtliche Instrumente Ansatzpunkte für Betroffene. Die Rechtslage ist komplex und erfordert eine differenzierte Betrachtung.

Das Allgemeine Persönlichkeitsrecht und das Recht am eigenen Bild

Das Allgemeine Persönlichkeitsrecht, abgeleitet aus Artikel 2 Absatz 1 in Verbindung mit Artikel 1 des Grundgesetzes, schützt das Recht des Einzelnen, selbst zu bestimmen, wie er sich in der Öffentlichkeit darstellen möchte. Eine besondere Ausprägung dessen ist das Recht am eigenen Bild nach § 22 Kunsturheberrechtsgesetz (KUG), welches auch synthetisch hergestellte Bilder umfasst. Dies bedeutet, dass eine Manipulation und Verbreitung von Bildern einer Person ohne deren Einwilligung grundsätzlich unzulässig ist.

Strafrechtliche Relevanz

Die Erstellung und Verbreitung von Deepfakes kann auch strafrechtliche Konsequenzen nach sich ziehen. Je nach Inhalt und Kontext kommen folgende Straftatbestände in Betracht:

• Beleidigung, üble Nachrede, Verleumdung: Wenn Deepfakes darauf abzielen, eine Person öffentlich zu demütigen, zu beschimpfen oder unwahre Tatsachen über sie zu verbreiten.
• Pornografische Inhalte: Die Erstellung und Verbreitung von Deepfake-Pornografie, insbesondere wenn Minderjährige betroffen sind, kann schwerwiegende strafrechtliche Folgen haben.
• Betrug und Erpressung: Deepfakes können in betrügerische Machenschaften oder Erpressungsversuche eingebunden werden, etwa durch das Vortäuschen falscher Tatsachen zur Erlangung finanzieller Vorteile.

Zivilrechtliche Ansprüche

Betroffene von Deepfakes können zivilrechtliche Ansprüche geltend machen, um die Verbreitung zu unterbinden und entstandene Schäden zu kompensieren. Dazu gehören:

• Unterlassungs- und Beseitigungsansprüche: Gemäß § 1004 Absatz 1 BGB analog können Betroffene die Entfernung des Deepfake-Inhalts und das Unterlassen weiterer Verbreitung fordern.
• Schadensersatz und Schmerzensgeld: Bei besonders schwerwiegenden Persönlichkeitsrechtsverletzungen können Ansprüche auf Schadensersatz gemäß § 823 BGB und Schmerzensgeld entstehen.
• Kostenersatz: Die Kosten für anwaltliche Hilfe und Gerichtsverfahren können ebenfalls eingefordert werden.

Haftung von Plattformbetreibern

Der Digital Services Act (DSA) der EU verpflichtet soziale Netzwerke und Online-Plattformen, Mechanismen zum Melden illegaler Inhalte bereitzustellen und auf entsprechende Meldungen zu reagieren. Für sehr große Plattformen wie X (ehemals Twitter) gehen die Pflichten noch weiter: Sie müssen systemische Risiken bewerten und wirksame Gegenmaßnahmen ergreifen, um die Verbreitung illegaler Inhalte zu verhindern.

Ein Urteil des Oberlandesgerichts Frankfurt am Main im Fall von Eckart von Hirschhausen gegen Meta bestätigte, dass Plattformbetreiber nach einer Abmahnung eine Prüfpflicht haben und nicht nur den ursprünglichen Deepfake, sondern auch sinngleiche, leicht abgewandelte Inhalte entfernen müssen.

Der EU AI Act und Kennzeichnungspflichten

Mit dem Inkrafttreten des EU AI Act werden ab dem 02. Februar 2026 Transparenzpflichten für KI-Systeme eingeführt, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren. Betreiber solcher Systeme müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Kennzeichnungspflicht soll dazu beitragen, das Gefahrenpotenzial von Deepfakes zu begrenzen und Nutzern eine bessere Unterscheidung zwischen echten und synthetischen Inhalten zu ermöglichen.

Handlungsoptionen für Betroffene

Wenn Sie selbst von einem Deepfake betroffen sind, ist schnelles und überlegtes Handeln entscheidend:

- Beweise sichern: Erstellen Sie Screenshots des Deepfake-Inhalts, inklusive Profilnamen, Datum und Uhrzeit. Kopieren Sie die Links und dokumentieren Sie den Kontext der Veröffentlichung, bevor die Inhalte möglicherweise gelöscht werden. Vermeiden Sie dabei unbedingt, das Material selbst weiter zu verbreiten, um die Situation nicht zu verschlimmern. - Inhalt melden: Melden Sie den Deepfake direkt bei der Plattform, auf der er verbreitet wird. Formulieren Sie konkret, warum der Inhalt rechtswidrig ist (z.B. Verletzung des Persönlichkeitsrechts, nicht einvernehmliche Sexualisierung, Identitätsmissbrauch). - Anwaltliche Hilfe in Anspruch nehmen: Wenn die Plattform nicht reagiert oder der Inhalt wiederholt auftaucht, kann die Konsultation eines auf Medienrecht spezialisierten Anwalts sinnvoll sein. Dieser kann eine Abmahnung aussprechen, eine einstweilige Verfügung erwirken oder Lösch- und Unterlassungsansprüche durchsetzen. - Strafanzeige prüfen: Bei schwerwiegenden Fällen, insbesondere bei Beteiligung Minderjähriger, Drohungen, Erpressung oder massenhafter Verbreitung, sollten Sie eine Strafanzeige bei der Polizei prüfen. Viele Polizeien bieten hierfür spezielle Online-Wachen an. - Umfeld informieren: Wenn der Deepfake bereits in Ihrem persönlichen Umfeld kursiert, kann es hilfreich sein, Vertrauenspersonen oder im beruflichen Kontext die Personalabteilung und Vorgesetzte proaktiv zu informieren, um Gerüchten entgegenzuwirken.

Präventive Maßnahmen und Selbstschutz

Obwohl ein vollständiger Schutz vor Deepfakes im Internet nicht garantiert werden kann, existieren effektive Maßnahmen zur Reduzierung der potenziellen Angriffsfläche:

- Privatsphäre-Einstellungen überprüfen: Passen Sie die Privatsphäre-Einstellungen in sozialen Netzwerken an und überlegen Sie genau, welche Fotos und Videos öffentlich sichtbar sein sollen. Hochauflösende Porträts sind besonders anfällig für Manipulationen. - Sichere Passwörter und Zwei-Faktor-Authentifizierung: Schützen Sie Ihre Online-Konten mit starken, einzigartigen Passwörtern und aktivieren Sie die Zwei-Faktor-Authentifizierung, um den Missbrauch Ihrer digitalen Identität zu erschweren. - Regelmäßiges Monitoring: Suchen Sie regelmäßig nach Ihrem Namen im Internet und nutzen Sie Reverse-Image-Suchen, um Kopien Ihrer Bilder zu finden. Je früher Sie auf verdächtige Inhalte reagieren, desto geringer ist in der Regel die Verbreitung und der verursachte Schaden. - Medienkompetenz stärken: Seien Sie kritisch gegenüber Inhalten, die Sie online sehen. Achten Sie auf Ungereimtheiten wie unnatürliche Bewegungen, seltsame Lippen- oder Augenbewegungen, undeutliche Ränder oder Inkonsistenzen im Hintergrund. Überprüfen Sie die Glaubwürdigkeit der Quelle und suchen Sie nach Bestätigung aus vertrauenswürdigen Medien.

Ausblick und Fazit

Die Technologie hinter Deepfakes entwickelt sich rasant weiter, und damit auch die Herausforderungen für Recht und Gesellschaft. Während bestehende Gesetze einen gewissen Schutz bieten, ist eine kontinuierliche Anpassung und Weiterentwicklung der rechtlichen Rahmenbedingungen unerlässlich. Die Kennzeichnungspflichten des EU AI Act sind ein wichtiger Schritt in die richtige Richtung, doch es bleibt die Aufgabe von Gesetzgebung, Rechtsprechung und Plattformbetreibern, die Instrumente gegen Deepfakes weiter zu schärfen und konsequent durchzusetzen.

Für Unternehmen und Privatpersonen bedeutet dies, sich der Risiken bewusst zu sein, präventive Maßnahmen zu ergreifen und im Ernstfall schnell und informiert zu handeln. Die Stärkung der Medienkompetenz ist dabei ein zentraler Baustein, um in einer zunehmend von synthetischen Inhalten geprägten digitalen Welt fundierte Entscheidungen treffen zu können.

Bibliographie

- Bayer, Julia & Bouwmeester, Ruben. (2025, 04. April). Faktencheck: Wie erkenne ich Deepfakes? DW. - Garbe, Sophie. (2025, 23. Dezember). Deepfakes: Schöne, falsche Wirklichkeit - Anwaltsblatt. Anwaltsblatt. - Hammerich, Dr. Philipp. (2025, 10. August). Deepfakes: Die Gefahren Künstlicher Intelligenz. Anwalt.org. - Kipker, Dennis-Kenji. (2026, 09. Januar). Deepfake-Schwemme auf X: Was man dagegen tun kann und wer dafür haftet. CHIP. - Wetzel, Natalie. (2024, 10. Februar). Möglichkeiten und Gefahren von Deepfakes. TECHBOOK. - Wolters Kluwer. (2025, 13. August). Deepfakes bedrohen uns alle – aber schutzlos sind wir nicht. Wolters Kluwer. - Zeit Online. (2025, 26. März). "Jetzt müssen die Plattformen hinterherlaufen". Zeit Online. - 20 Minuten. (2024, 30. Januar). Deepfake: Wie wehre ich mich gegen Fake-Nacktbilder? 20 Minuten.