Google verstärkt Maßnahmen gegen explizite Deepfakes

Die zunehmende Verbreitung von Deepfake-Technologie hat eine neue Welle von Herausforderungen für Technologieunternehmen und Gesetzgeber weltweit mit sich gebracht. Google, der führende Suchmaschinenanbieter, hat in einem signifikanten Schritt angekündigt, seine Werbepolitik zu aktualisieren, um die Förderung von Diensten zu verbieten, die zur Erstellung von Deepfake-Pornografie oder synthetischen Nacktaufnahmen verwendet werden können.

Hintergrund und Notwendigkeit der neuen Richtlinien

Deepfake-Technologie, die es ermöglicht, realistische, aber gefälschte Bilder und Videos von Personen zu erstellen, hat in den letzten Jahren erheblich zugenommen. Diese Technologie wird oft missbraucht, um nicht einvernehmliche intime Bilder zu erstellen und zu verbreiten, was erhebliche psychologische, soziale und rechtliche Konsequenzen für die Betroffenen haben kann.

Google hat bereits seit Jahren eine Richtlinie, die die Werbung für sexuell explizite Inhalte verbietet. Diese Richtlinie wurde nun erweitert, um explizit die Werbung für Dienste zu verbieten, die Deepfake-Pornografie oder synthetische Nacktaufnahmen erstellen. Diese Änderungen werden am 30. Mai 2024 in Kraft treten.

Die neuen Maßnahmen im Detail

Die aktualisierte Werbepolitik von Google verbietet jetzt ausdrücklich die Förderung von „synthetischen Inhalten, die verändert oder erzeugt wurden, um sexuell explizit zu sein oder Nacktheit zu enthalten“. Dies umfasst Websites, Apps und Dienste, die Werkzeuge oder Anleitungen zur Erstellung von Deepfake-Pornografien anbieten. Verstöße gegen diese Richtlinie werden als schwerwiegend eingestuft und können zur Sperrung des Werbekontos führen.

Technologische und rechtliche Maßnahmen

Google wird eine Kombination aus menschlicher Überprüfung und automatisierten Systemen einsetzen, um die Einhaltung der neuen Richtlinie sicherzustellen. Laut dem jährlichen Ads Safety Report hat Google im Jahr 2023 über 1,8 Milliarden Anzeigen entfernt, die gegen seine Richtlinien zu sexuellen Inhalten verstoßen haben.

Parallel zu den Maßnahmen von Google haben auch andere Technologieunternehmen wie Apple und Meta ähnliche Schritte unternommen, um die Verbreitung von Deepfake-Technologie zu kontrollieren. Apple hat kürzlich Apps aus seinem App Store entfernt, die zur Erstellung von nicht einvernehmlichen Nacktaufnahmen verwendet wurden.

Gesetzgeberische Bemühungen

In den USA wurde vor kurzem der DEFIANCE Act (Disrupt Explicit Forged Images and Non-Consensual Edits Act) im Senat verabschiedet. Dieses Gesetz ermöglicht es Opfern von nicht einvernehmlichen intimen Bildern, rechtliche Schritte gegen die Ersteller der Deepfakes einzuleiten und Schadensersatz zu fordern. Opfer können bis zu 150.000 US-Dollar an Schadensersatz erhalten, und in schwerwiegenden Fällen, die mit sexueller Gewalt oder Belästigung verbunden sind, können bis zu 250.000 US-Dollar gefordert werden.

Reaktionen der Betroffenen und der Öffentlichkeit

Die Maßnahmen von Google und die gesetzgeberischen Bemühungen wurden von vielen Opfern und ihren Anwälten positiv aufgenommen. Sie sehen darin einen wichtigen Schritt zur Bekämpfung der Verbreitung von Deepfake-Pornografie und zum Schutz der Privatsphäre und Würde der Betroffenen.

Es gibt jedoch auch Stimmen, die darauf hinweisen, dass diese Maßnahmen nicht ausreichen. Ehemalige Google-Mitarbeiter und Opfervertreter fordern noch strengere Regelungen und eine intensivere Überwachung, um die Verbreitung dieser Inhalte effektiv zu verhindern.

Die Rolle der Gesellschaft und weiterer Stakeholder

Die Bekämpfung der missbräuchlichen Nutzung von Deepfake-Technologie erfordert eine umfassende und kooperative Herangehensweise. Technologieunternehmen, Gesetzgeber und zivilgesellschaftliche Organisationen müssen gemeinsam daran arbeiten, robuste Richtlinien und Gesetze zu entwickeln, um diese Technologien verantwortungsvoll zu nutzen und den Missbrauch zu verhindern.

Darüber hinaus ist es wichtig, das öffentliche Bewusstsein und die Bildung über die Risiken von AI-generierten Inhalten zu erhöhen, insbesondere unter jüngeren Nutzern, die möglicherweise anfälliger für Ausbeutung sind. Schulen und Eltern spielen eine entscheidende Rolle dabei, Kindern Online-Sicherheit und den Respekt vor der Privatsphäre und dem Einverständnis anderer in der digitalen Welt zu vermitteln.

Fazit

Google's Entscheidung, die Werbung für Deepfake-Pornografie und synthetische Nacktaufnahmen zu verbieten, ist ein bedeutender Schritt in die richtige Richtung. Es zeigt das Engagement des Unternehmens, den Missbrauch von AI-Technologie zu bekämpfen und die Privatsphäre der Nutzer zu schützen. Dennoch bleibt viel zu tun, um die Herausforderungen, die durch die rasche Entwicklung der AI-Technologie entstehen, wirksam anzugehen. Eine koordinierte Anstrengung aller Beteiligten ist erforderlich, um sicherzustellen, dass diese Technologien verantwortungsvoll und ethisch genutzt werden.

Quellen

- https://www.wired.com/story/google-tries-to-crack-down-on-explicit-deepfakes/ - https://www.techspot.com/news/102872-no-more-ads-ai-porn-generators-google-cracks.html - https://facia.ai/news/google-set-to-crackdown-on-deepfake-pornographic-promotional-material/ - https://www.thehansindia.com/tech/google-cracks-down-on-deepfake-porn-services-in-updated-ad-policy-876467 - https://www.news9live.com/technology/tech-news/google-cracks-down-on-deepfake-adult-content-bans-ads-for-services-that-promote-synthetic-nudes-2523667 - https://aimojo.io/google-play-deepfake-nudes-apps/ - https://www.theverge.com/2024/7/24/24205275/senate-passes-defiance-act-non-consensual-intimate-ai-deepfakes - https://www.pcmag.com/news/google-updates-its-ad-policy-to-prohibit-promoting-deepfake-porn-apps - https://www.hi-network.com/google-play-cracks-down-on-ai-apps-amid-deepfake-concerns.html - https://www.ctol.digital/news/google-updates-ad-policy-to-ban-deepfake-services/