Fortschritte in der Deepfake-Technologie: Herzschlag als neue Herausforderung bei der Erkennung von Fälschungen
Artikel jetzt als Podcast anhören
KI-generierte Videos: Realistischer Herzschlag verwischt die Grenzen zwischen Fälschung und Realität
Die Technologie der Deepfakes entwickelt sich rasant, und die Unterscheidung zwischen echten und gefälschten Videos wird immer schwieriger. Ein Forschungsteam der Humboldt-Universität zu Berlin und des Fraunhofer Heinrich-Hertz-Instituts HHI hat nun gezeigt, dass selbst fortschrittliche Deepfake-Detektoren, die auf subtile Biosignale wie den Herzschlag achten, an ihre Grenzen stoßen.
Der menschliche Herzschlag ist für das bloße Auge unsichtbar, beeinflusst aber minimal die Hautfarbe. Mit jedem Herzschlag ändert sich das Blutvolumen in den Gefäßen, was zu einer subtilen Ausdehnung und Kontraktion führt. Diese Veränderungen beeinflussen die Lichtreflexion der Haut und erzeugen ein wellenartiges Muster, das mit speziellen Kameras und der sogenannten Photoplethysmographie (PPG) messbar ist. Auch Smartwatches nutzen dieses Verfahren zur Pulsmessung.
Die Remote-Photoplethysmographie (rPPG) ermöglicht die kontaktlose Pulsmessung über Videoaufnahmen und findet Anwendung in der Telemedizin. In der KI-Forschung wurde rPPG als vielversprechende Methode zur Deepfake-Erkennung gehandelt, da angenommen wurde, dass künstliche Intelligenz diese subtilen Veränderungen im Hautbild nicht reproduzieren kann.
Die Berliner Forscher widerlegen diese Annahme nun. In ihrer Studie, veröffentlicht in "Frontiers in Imaging", demonstrieren sie, dass moderne Deepfake-Software durchaus in der Lage ist, einen realistischen Herzschlag zu imitieren. Für ihre Untersuchung entwickelten die Wissenschaftler eine eigene "Deepfake-Pipeline" bestehend aus einem rPPG-basierten Deepfake-Detektor und einem Deepfake-Generator. Der Generator wurde mit Videos von zwölf Probanden trainiert, die aus verschiedenen Perspektiven und in kurzen Interaktionen gefilmt wurden.
Parallel dazu wurden die Probanden mit einem Elektrokardiogramm (EKG) verkabelt, um ihren tatsächlichen Herzschlag zu messen. Der Detektor konnte den Herzschlag in den echten Videos korrekt identifizieren und mit den EKG-Werten abgleichen. Erstaunlicherweise erkannte der Detektor auch in den generierten Deepfake-Videos einen realistischen Herzschlag, der mit den EKG-Daten korrelierte. Die KI hatte offenbar gelernt, die subtilen Hautveränderungen in den Trainingsdaten zu erkennen und in den Deepfakes zu reproduzieren.
Dieses Ergebnis stellt die bisherige Annahme in Frage, dass Deepfakes keine gültigen physiologischen Signale aufweisen. Die Studie unterstreicht die Notwendigkeit, fortschrittlichere Erkennungsmethoden zu entwickeln, die über die einfache Pulserkennung hinausgehen. Die Forscher betonen, dass die Anwendung von rPPG in der Deepfake-Erkennung bisher durch die oft unzureichende Videoqualität begrenzt war. Die Ergebnisse zeigen jedoch, dass mit modernen KI-Modellen und hochwertigen Trainingsdaten erstellte Deepfakes eine bisher unbekannte physiologische Konsistenz erreichen können.
Angesichts der zunehmenden gesellschaftlichen Relevanz von Deepfakes und der Schwierigkeit, diese zu erkennen, ist die Entwicklung neuer, zuverlässiger Detektionsmethoden von entscheidender Bedeutung. Die Messlatte für die Deepfake-Erkennung liegt höher denn je, und die Forschung muss mit der rasanten Entwicklung der Deepfake-Technologie Schritt halten.
Die Fähigkeit von KI, selbst subtile Biosignale wie den Herzschlag zu imitieren, verwischt die Grenzen zwischen Realität und Fälschung immer weiter und stellt eine Herausforderung für die Entwicklung effektiver Gegenmaßnahmen dar. Die Forschung steht vor der Aufgabe, innovative Lösungen zu finden, um die Integrität von Videoaufnahmen in Zukunft sicherzustellen.
Bibliographie: - t3n.de/news/berliner-forscher-zeigen-deepfakes-die-den-herzschlag-imitieren-koennen-1686043/ - threads.com/@technologyreview_de/post/DJUbQPEIqkR/uns-menschen-kann-man-den-herzschlag-buchst%C3%A4blich-am-gesicht-ablesen-diesen-umst - t3n.de/ - newstral.com/de/article/de/1266367566/berliner-forscher-zeigen-deepfakes-die-den-herzschlag-imitieren-k%C3%B6nnen - t3n.de/news/ - itbusiness.ch/news/studien-reports/deepfake-mit-puls - t3n.de/tag/kuenstliche-intelligenz/ - social.heise.de/@techreview_de
