Herkunftserkennung von KI-generierten Inhalten im Fokus der Regulierung und Technologie

Die digitale Fälschung: Warum die Herkunft von KI-generierten Inhalten entscheidend wird

Die rasante Entwicklung der Künstlichen Intelligenz hat zu einer bemerkenswerten Fähigkeit geführt, realistische Medieninhalte zu generieren. Während dies neue kreative und effiziente Möglichkeiten eröffnet, birgt es gleichzeitig erhebliche Risiken, insbesondere im Bereich der sogenannten Deepfakes. Diese täuschend echten, KI-generierten oder manipulierten Bilder, Videos und Audioaufnahmen werden immer schwieriger von authentischen Inhalten zu unterscheiden. Dies stellt nicht nur Einzelpersonen vor Herausforderungen, sondern auch Unternehmen und politische Institutionen, die mit der Verbreitung von Desinformation, Betrug und Reputationsschäden konfrontiert sind.

Die Regulierung als erste Antwort

Die Europäische Union hat die potenziellen Gefahren von Deepfakes erkannt und reagiert mit regulatorischen Maßnahmen. Seit dem 2. August 2026 gilt eine Kennzeichnungspflicht für Videos, die ganz oder teilweise mit KI erstellt und für kommerzielle Zwecke genutzt werden. Diese Vorschrift soll ein Mindestmaß an Transparenz gewährleisten und Nutzern ermöglichen, die Herkunft der Inhalte besser einzuordnen. Die Notwendigkeit solcher Maßnahmen unterstreicht die wachsende Besorgnis über die Integrität digitaler Medien und die potenziellen Auswirkungen auf die Gesellschaft.

SAGA: Ein neues Werkzeug im Kampf gegen Deepfakes

Angesichts der zunehmenden Raffinesse von Deepfakes reicht es nicht mehr aus, lediglich festzustellen, ob ein Inhalt künstlich generiert wurde. Vielmehr wird die Identifizierung der Quelle – also des spezifischen KI-Modells, das für die Erstellung verwendet wurde – zu einem entscheidenden Faktor. Hier setzt die Entwicklung des Tools "Source Attribution of Generative AI (SAGA)" durch Forscher der University of California an.

Die Funktionsweise von SAGA

SAGA wurde entwickelt, um über die reine Erkennung von Deepfakes hinauszugehen. Das Tool identifiziert nicht nur die Authentizität eines Videos, sondern auch das zugrundeliegende KI-Modell, das zu seiner Erstellung verwendet wurde. Diese Fähigkeit ist von zentraler Bedeutung, da verschiedene KI-Modelle spezifische "Signaturen" oder Merkmale in den generierten Inhalten hinterlassen. Selbst wenn zwei unterschiedliche KI-Modelle dieselbe Eingabe erhalten und ähnliche Videos erzeugen, treten winzige, kaum sichtbare Unstimmigkeiten auf, die SAGA zur Herkunftsbestimmung nutzen kann.

Die Forscher konzentrierten sich zunächst auf die Erkennung gefälschter Videos und entwickelten darauf aufbauend ein Modell, das in der Lage ist, verschiedene Videoarten zu analysieren und zu erklären, warum ein Video als gefälscht eingestuft wird. Die Erweiterung auf die Ermittlung der verwendeten KI-Tools stellt einen signifikanten Fortschritt dar. SAGA hilft dabei, die am häufigsten für Deepfakes genutzten Modelle zu identifizieren. Dies könnte nicht nur zur Verbesserung der Schutzmaßnahmen durch die Entwickler selbst beitragen, sondern auch forensische Analysen erleichtern.

Zeitliche Signaturen als Schlüssel

Ein zentraler Aspekt der Funktionsweise von SAGA ist die Analyse zeitlicher Signaturen. Diese Signaturen beschreiben die zeitliche Entwicklung von Einzelbildern innerhalb eines Videos. Jedes KI-Modell hinterlässt hierbei charakteristische Spuren. Diese subtilen Abweichungen sind für das menschliche Auge oft nicht wahrnehmbar, können aber von spezialisierten Algorithmen wie denen in SAGA detektiert und analysiert werden. Die Robustheit von SAGA wird durch die Entwicklung auf Basis eines Foundation Models gewährleistet, welches auch bei Abweichungen von den Trainingsdaten zuverlässige Ergebnisse liefern soll.

Die Bedeutung für die B2B-Welt und darüber hinaus

Für Unternehmen, insbesondere in Branchen wie Medien, Sicherheit, Personalwesen und Finanzen, hat die präzise Erkennung und Zuordnung von Deepfakes weitreichende Implikationen. Die Fähigkeit, die Quelle eines manipulierten Videos zu bestimmen, kann entscheidend sein, um:

- Betrugsfälle aufzudecken, beispielsweise bei gefälschten Bewerbungen oder Identitätsdiebstahl. - Reputationsschäden durch die Verbreitung von Desinformation zu verhindern. - Die Authentizität von Kommunikationsinhalten zu gewährleisten. - Rechtliche Schritte gegen die Ersteller und Verbreiter von schädlichen Deepfakes einzuleiten. - Die Entwicklung von Schutzmaßnahmen und Standards in der KI-Branche voranzutreiben.

Die Einführung von Tools wie SAGA ist ein wichtiger Schritt in der Entwicklung von Gegenmaßnahmen gegen den Missbrauch generativer KI. Sie unterstreicht die Notwendigkeit, technologische Innovationen zur Erkennung und Rückverfolgung von KI-generierten Inhalten kontinuierlich voranzutreiben, um die Integrität digitaler Informationen in einer zunehmend von KI geprägten Welt zu sichern.

Ausblick und Herausforderungen

Obwohl die Fortschritte im Bereich der Deepfake-Erkennung vielversprechend sind, bleibt die Entwicklung ein dynamisches Feld. Die generative KI entwickelt sich ständig weiter, was bedeutet, dass auch die Erkennungstools kontinuierlich angepasst und verbessert werden müssen. Die Zusammenarbeit zwischen Forschungseinrichtungen, Technologieunternehmen und Regulierungsbehörden wird dabei entscheidend sein, um eine effektive Strategie im Umgang mit den Herausforderungen von Deepfakes zu etablieren und eine sichere digitale Umgebung für alle Beteiligten zu gewährleisten.

Bibliographie

- Bölling, Noëlle. "Im Kampf gegen Deepfakes: Dieses neue Tool spürt die Quelle von KI-Videos auf." heise online, 5. August 2026. - Bölling, Noëlle. "Dieses neue KI-Tool spürt die Quelle von Deepfakes auf." t3n.de, 4. August 2026. - Computer Vision Foundation. "SAGA: Source Attribution of Generative AI Videos." Whitepaper, CVPR 2026. - Dark Reading. "New Tool Advances AI-Generated Video Detection." Interview mit Rohit Kundu. - Fraunhofer IOSB. "Deepfake-Bilder zuverlässig erkennen und transparent erklären." Pressemitteilung, 30. Juni 2026. - Gartner. "Gartner Predicts 25% of Job Applications Will Be Deepfakes by 2028." Insights, 2024. - Kühl, Eike. "Deepfake-Erkennung: BSI und Fraunhofer entwickeln RealOrRender." t3n.de, 6. Juli 2026. - Nvidia. "Nvidia-KI erkennt Deepfake-Videos mit bis zu 92 Prozent." PC Games Hardware, 22. Juli 2026. - TechZeitGeist. "Kann man bei KI-Videos die Quelle erkennen? Was SAGA im Test zeigt." 25. Juli 2026. - Universität Erlangen-Nürnberg (FAU). "Deepfakes auf der Spur." FAU Magazin, 4. November 2025. - ZEIT ONLINE. "Internet: Deepfakes aufdecken: So arbeiten IT-Forensiker." 29. März 2026.