Herausforderungen und Fortschritte bei der Bekämpfung von KI-generiertem Kindesmissbrauch

Die rapide Entwicklung generativer künstlicher Intelligenz (KI) hat weitreichende Implikationen für diverse Lebensbereiche, darunter auch die Kriminalitätsbekämpfung. Insbesondere im Kontext von sexuellem Kindesmissbrauch stellt die Zunahme von KI-generierten Inhalten eine erhebliche Herausforderung für Ermittlungsbehörden dar. Dieser Artikel beleuchtet die aktuellen Entwicklungen in den USA, wo die Polizei bereits auf KI-Technologien setzt, um KI-generiertes Material von realem Kindesmissbrauch zu unterscheiden und somit effektiver gegen diese Form der Kriminalität vorzugehen.

Die Herausforderung durch KI-generiertes CSAM

Die oberste Priorität von Ermittlerinnen und Ermittlern im Kampf gegen sexuelle Gewalt an Kindern ist die Aufdeckung und Unterbindung aktuellen Missbrauchs. Die Verfügbarkeit von KI-Bildgeneratoren hat jedoch zu einem signifikanten Anstieg synthetischer Bilder und Videos geführt, die sexuellen Kindesmissbrauch (Child Sexual Abuse Material, CSAM) darstellen. Daten des National Center for Missing and Exploited Children (NCMEC) für 2024 zeigen einen Anstieg der Vorfälle im Zusammenhang mit generativer KI um 1325 Prozent. Diese Flut von KI-generiertem CSAM erschwert es den Ermittlungsbehörden, Bilder mit echten Opfern, die sich in akuter Gefahr befinden, zu identifizieren und zu priorisieren.

Automatisierte Analyse als Notwendigkeit

Die schiere Menge an digitalen Inhalten, die online zirkulieren, macht den Einsatz automatisierter Tools zur effizienten Verarbeitung und Analyse dieser Daten unerlässlich. Manuelle Überprüfungen sind angesichts des Umfangs und der psychologischen Belastung für Ermittlerinnen und Ermittler kaum mehr leistbar. Daher suchen Behörden nach innovativen Lösungen, um dieser Entwicklung entgegenzuwirken.

KI im Einsatz gegen KI-generierten Missbrauch

Als Reaktion auf diese Herausforderung experimentieren US-amerikanische Ermittlungsstellen mit dem Einsatz von KI. Das Cyber Crimes Center des Heimatschutzministeriums, das sich der internationalen Bekämpfung von Kindesmissbrauch widmet, hat einen Auftrag über 150.000 US-Dollar an das in San Francisco ansässige Unternehmen Hive AI vergeben. Dessen Software ist darauf ausgelegt, festzustellen, ob ein Inhalt KI-generiert wurde.

Hive AI: Ein Partner im Kampf gegen CSAM

Hive AI bietet eine Reihe von Tools zur Inhaltmoderation, die Gewalt, Spam und sexuelles Material kennzeichnen können. Das Unternehmen hat zudem eine Deepfake-Erkennungstechnologie entwickelt, die bereits vom US-Militär eingesetzt wird. Für die Erkennung von CSAM kooperiert Hive mit Thorn, einer gemeinnützigen Kinderschutzorganisation. Das entwickelte Tool nutzt ein "Hashing"-System, das CSAM-Inhalten eindeutige IDs zuweist und das Hochladen dieses Materials blockiert. Diese Systeme sind mittlerweile Industriestandard für Technologieunternehmen.

Die Besonderheit des neuen Tools von Hive liegt jedoch in seiner Fähigkeit, zu erkennen, ob Bilder generell durch KI generiert wurden. Kevin Guo, Mitbegründer und CEO von Hive, erklärt, dass die Software spezifische Pixelkombinationen in Bildern identifizieren kann, die auf eine KI-Generierung hindeuten, auch wenn das Tool nicht explizit für CSAM trainiert wurde. Diese Verallgemeinerungsfähigkeit ist entscheidend, um die stetig neuen Formen von KI-generiertem Material zu erfassen.

Potenzial und Herausforderungen der Technologie

Ein Tool, das echte Opfer erfolgreich identifizieren kann, wäre eine erhebliche Unterstützung bei der Priorisierung von Fällen. Die Konzentration der Ermittlungsressourcen auf Fälle mit realen Opfern maximiert die Wirkung der Programme und schützt gefährdete Personen, wie aus Regierungspapieren hervorgeht. Die geplante Testphase des Hive-AI-Erkenners wird drei Monate dauern, um dessen Wirksamkeit zu bewerten. Das National Center for Missing and Exploited Children hat sich bisher nicht zur tatsächlichen Effektivität solcher Erkennungsmodelle geäußert.

Kritische Betrachtung und ethische Richtlinien

Der Einsatz von KI in der Strafverfolgung erfordert jedoch eine sorgfältige Abwägung und die Einhaltung ethischer Richtlinien. Agenturen müssen sicherstellen, dass menschliche Aufsicht die Ergebnisse der Technologie überprüft, bevor diese in Ermittlungen verwendet werden. Während KI ungewöhnliche Muster in Daten erkennen kann, ist sie nicht in der Lage, kriminelles Verhalten, Absichten oder Motive zu identifizieren. Eine umfassende, aktuelle und menschliche Expertise berücksichtigende KI-Strategie ist daher unerlässlich.

Die Polk County Sheriff’s Office in Florida hat in Zusammenarbeit mit der Florida Polytechnic University ein KI-Labor eingerichtet, um dem potenziellen Missbrauch von KI-Technologie für kriminelle Zwecke entgegenzuwirken. Dieses Labor ist die erste Strafverfolgungseinheit dieser Art in den USA und hat bereits KI-generierte Kinderpornografie entdeckt, bei der Kindergesichter aus sozialen Medien auf andere Bilder montiert wurden. Die Arizonaer Polizei nutzt KI-generierte Phantombilder, um Verdächtige zu identifizieren, was die potenziellen Anwendungsbereiche von KI in der Kriminalitätsbekämpfung erweitert.

Ausblick

Die Einführung von KI-Erkennungstools durch US-Behörden markiert einen wichtigen Schritt im Kampf gegen die zunehmende Bedrohung durch KI-generiertes CSAM. Während die Technologie das Potenzial hat, Ermittlungen effizienter zu gestalten und echte Opfer besser zu schützen, bleiben die Entwicklung und Implementierung dieser Systeme eine fortlaufende Herausforderung, die eine konstante Anpassung an neue Technologien und eine sorgfältige ethische Rahmung erfordert. Die Zusammenarbeit zwischen Technologieunternehmen, Strafverfolgungsbehörden und Kinderschutzorganisationen wird entscheidend sein, um die negativen Auswirkungen generativer KI einzudämmen und die Sicherheit von Kindern im digitalen Raum zu gewährleisten.

Bibliography

- MIT Technology Review Online. (2025, September 30). KI soll KI-generierten Kindesmissbrauch erkennen: Amerikanische Polizisten nutzen die Technik bereits. t3n.de. - Petit, R. (2024, June 8). Polk County Sheriff’s Office partner with Florida Poly for first of its kind AI investigative unit. ABC Action News. - NewsGovt shutdown. (2024, October 31). AI helps local police catch alleged child predator. wwnytv.com. - Barnhart, J. (2025, April 17). How AI is transforming state and local investigations. route-fifty.com. - Maiberg, E., & Koebler, J. (2025, April 17). This ‘College Protester’ Isn’t Real. It’s an AI-Powered Undercover Bot for Cops. Wired. - Unger, C. (2023, July 13). Warum Fachleute jetzt vor Künstlicher Intelligenz warnen. morgenpost.de. - Neitzel, L. (2023, November 20). How digital intelligence technology can help end internet crimes against children. police1.com. - Marshall, M. (2025, April 15). Police use AI to generate photo of suspect who tried kidnapping a teen girl. kbtx.com. - heise online. (2025, October 1). Künstliche Intelligenz: News, Ratgeber und Tipps. heise.de. - Internet Watch Foundation. (n.d.). „Beunruhigende” KI-generierte Bilder von sexualisierter Gewalt gegen Kinder und Jugendliche auf versteckter Chatbot-Website gefunden. iwf.org.uk.