Neue gesetzliche Maßnahmen zur Bekämpfung von KI-generierten Missbrauchsdarstellungen von Kindern

Neue Gesetze gegen KI-generierte Missbrauchsdarstellungen von Kindern

Die britische Regierung hat vier neue Gesetze angekündigt, die die Bedrohung durch künstlich intelligente (KI) generierte Missbrauchsdarstellungen von Kindern bekämpfen sollen. Das Vereinigte Königreich ist damit das erste Land der Welt, das den Besitz, die Erstellung und die Verbreitung von KI-Tools, die zur Erstellung von kinderpornografischem Material (CSAM) entwickelt wurden, unter Strafe stellt. Strafen von bis zu fünf Jahren Gefängnis sind vorgesehen.

Auch der Besitz von sogenannten „Pädophilen-Handbüchern“, die Anleitungen zur Nutzung von KI für den sexuellen Missbrauch von Kindern enthalten, wird mit bis zu drei Jahren Haft geahndet. Innenministerin Yvette Cooper betonte, dass die Regierung nicht zögern werde, die Sicherheit von Kindern im Internet zu gewährleisten und die Gesetze an die neuesten Bedrohungen anzupassen.

Zwei weitere Gesetze betreffen den Betrieb von Websites, auf denen Pädophile kinderpornografisches Material teilen oder Ratschläge zur Anbahnung von sexuellen Kontakten mit Kindern geben (bis zu zehn Jahre Haft), sowie die Befugnis der Grenzschutzbehörden, Personen, die im Verdacht stehen, ein sexuelles Risiko für Kinder darzustellen, bei der Einreise ins Vereinigte Königreich zur Überprüfung ihrer digitalen Geräte aufzufordern (bis zu drei Jahre Haft). Dies ist relevant, da CSAM oft im Ausland produziert wird.

KI-generiertes CSAM umfasst Bilder, die teilweise oder vollständig computergeneriert sind. Software kann beispielsweise echte Bilder „entkleiden“ und das Gesicht eines Kindes durch das eines anderen ersetzen, wodurch realistisch wirkende Bilder entstehen. In einigen Fällen werden auch die echten Stimmen von Kindern verwendet, was bedeutet, dass Opfer von Missbrauch erneut viktimisiert werden. Gefälschte Bilder werden auch eingesetzt, um Kinder zu erpressen und zu weiterem Missbrauch zu zwingen.

Die Herausforderungen der Strafverfolgung und der Ruf nach weiteren Maßnahmen

Die National Crime Agency (NCA) nimmt monatlich rund 800 Personen im Zusammenhang mit Online-Bedrohungen für Kinder fest. Schätzungen zufolge stellen 840.000 Erwachsene – 1,6 % der erwachsenen Bevölkerung – eine Bedrohung für Kinder dar, sowohl online als auch offline. Innenministerin Cooper betonte die Notwendigkeit, Kindesmissbrauch sowohl online als auch offline zu bekämpfen, um die Öffentlichkeit besser zu schützen.

Experten begrüßen die neuen Gesetze, sehen aber auch noch Lücken. Professorin Clare McGlynn, Expertin für die rechtliche Regulierung von Pornografie, sexueller Gewalt und Online-Missbrauch, fordert ein Verbot von „Nackt-Apps“ und Maßnahmen gegen die „Normalisierung sexueller Aktivitäten mit jung aussehenden Mädchen auf Mainstream-Pornoseiten“. Sie beschreibt diese Videos als „simulierte Videos von Kindesmissbrauch“, die "erwachsene Schauspieler zeigen, die aber sehr jung aussehen und in Kinderzimmern mit Spielzeug, Zöpfen, Zahnspangen und anderen Merkmalen der Kindheit dargestellt werden". Dieses Material sei im Vereinigten Königreich im Gegensatz zu vielen anderen Ländern legal.

Der Anstieg von KI-generiertem CSAM und die Rolle der Technologieunternehmen

Die Internet Watch Foundation (IWF) warnt vor einem Anstieg von KI-generierten Missbrauchsbildern von Kindern im offenen Internet. Die Meldungen über CSAM sind im Vergleich zum Vorjahr um 380 % gestiegen. In einer Studie der IWF wurden innerhalb eines Monats über 3.500 KI-generierte Missbrauchsbilder auf einer Darknet-Website entdeckt. Experten betonen, dass KI-generiertes CSAM oft unglaublich realistisch aussieht, was die Unterscheidung zwischen echt und gefälscht erschwert.

Derek Ray-Hill, der Interimschef der IWF, betont, dass die Verfügbarkeit von KI-Inhalten sexuelle Gewalt gegen Kinder weiter anheizt und Täter ermutigt. Er begrüßt die neuen Maßnahmen als wichtigen ersten Schritt. Auch Lynn Perry, Geschäftsführerin der Kinderhilfsorganisation Barnardo's, begrüßt die Maßnahmen der Regierung und fordert Technologieunternehmen auf, ihre Plattformen für Kinder sicherer zu machen und stärkere Schutzmaßnahmen einzuführen.

Die neuen Maßnahmen sollen im Rahmen des Gesetzes über Kriminalität und Polizeiarbeit in den nächsten Wochen dem Parlament vorgelegt werden.

BBC News. “AI-generated child sex abuse images targeted with new laws.” *BBC News*, 12 Oct. 2025, www.bbc.com/news/articles/c8d90qe4nylo. The Guardian. “AI tools used for child sexual abuse images targeted in Home Office crackdown.” *The Guardian*, 1 Feb. 2025, www.theguardian.com/technology/2025/feb/01/ai-tools-used-for-child-sexual-abuse-images-targeted-in-home-office-crackdown. The Telegraph. “Border Force law: Yvette Cooper to crack down on AI child sex abuse images.” *The Telegraph*, 1 Feb. 2025, www.telegraph.co.uk/news/2025/02/01/border-force-law-yvette-cooper-ai-child-sex-abuse-images/. LBC. “AI images of child sexual abuse to become a criminal offence.” *LBC*, 1 Feb. 2025, www.lbc.co.uk/news/ai-images-child-sexual-abuse-criminal-offence/. Irish News. “Yvette Cooper launches crackdown on AI child sex abuse images.” *Irish News*, 1 Feb. 2025, www.irishnews.com/news/uk/yvette-cooper-launches-crackdown-on-ai-child-sex-abuse-images-WABRCKCOKZOLFMJSETQTBK3O5E/. Associated Press. “Justice Department targets AI-generated child sexual abuse images.” *Associated Press*, 1 Feb. 2025, apnews.com/article/ai-child-sexual-abuse-images-justice-department-42186aaf8c9e27c39060f9678ebb6d7b. Politics Home. “Creation of AI models and deep fake child sexual abuse to be criminalised.” *Politics Home*, 1 Feb. 2025, www.politicshome.com/news/article/creation-ai-models-deep-fake-child-sexual-abuse-criminalised-crime-policing-bill. Herald Scotland. “Yvette Cooper launches crackdown on AI child sex abuse images.” *Herald Scotland*, 1 Feb. 2025, www.heraldscotland.com/news/national/24903117.yvette-cooper-launches-crackdown-ai-child-sex-abuse-images/.