Anstieg umstrittener KI-Freundinnen Werbung auf sozialen Plattformen

In den sozialen Medien ist eine Flut von Werbeanzeigen für sogenannte "KI-Freundinnen" zu beobachten, die explizite Inhalte und virtuelle Gesellschaft anbieten. Diese Werbungen erscheinen zunehmend auf Plattformen wie Facebook und Instagram und bieten Interaktionen mit Chatbots an, die sexuell explizite Bilder und Texte generieren. Die Werbeanzeigen nutzen dabei nicht selten anzügliche Chatbeispiele und Bilder von künstlich erstellten, leicht bekleideten Frauen mit unrealistischen Körperproportionen. Trotz klarer Richtlinien der Plattformbetreiber gegen Erwachseneninhalte, einschließlich "Darstellungen von Personen in expliziten oder suggestiven Positionen oder Aktivitäten, die übermäßig suggestiv oder sexuell provokativ sind", scheinen diese Anzeigen erfolgreich zu sein und eine Lücke in den Moderationssystemen gefunden zu haben. Die virtuellen Frauen, die in den von WIRED geprüften Anzeigen zu sehen sind, wirken lebensecht, wenn auch etwas unheimlich, jung und stereotyp pornografisch. Potenzielle Kunden werden eingeladen, mit einer KI-"Stiefmutter" zu rollenspielen, sich mit einem computergenerierten Teenager im Hijab zu verbinden oder mit Avataren zu chatten, die versprechen, "Sie in einer Minute zum Höhepunkt zu bringen". Während einige echte Sexarbeiterinnen sich darüber beschweren, dass die Plattformen Chatbots zulassen, während sie selbst von diesen ausgeschlossen werden, gibt es auch Stimmen, die darauf hinweisen, dass diese KI-Apps ein neues Feld in der Debatte über den Zusammenstoß von KI und traditioneller Arbeit darstellen. So bemängeln beispielsweise Befürworter der Rechte von Sexarbeitern, dass die Unternehmen scheinbar einen doppelten Standard anwenden, indem sie Chatbot-Apps erlauben, NSFW-Erlebnisse zu bewerben, während menschliche Sexarbeiterinnen daran gehindert werden, dasselbe zu tun. Besonders auffällig ist, dass die Entwickler hinter den Apps, die explizite KI-Freundinnen bewerben, oft im Schatten bleiben. Viele dieser Apps haben suggestive Funktionen, wie die Möglichkeit, die KI-Freundin "auszuziehen" und die Bilder herunterzuladen. Es gibt wenig Informationen darüber, wie die KI-Apps gebaut werden oder wie die zugrundeliegenden Text- oder Bildgenerierungsalgorithmen trainiert werden. Die Anzeigen für KI-Freundinnen stellen nicht nur eine Herausforderung für die Moderationsrichtlinien der sozialen Plattformen dar, sondern werfen auch Fragen nach ethischen Standards und der Auswirkung auf die Wahrnehmung von Geschlechterrollen und Beziehungen in der Gesellschaft auf. Sie reflektieren eine breitere Bewegung, in der Entwickler versuchen, Kunden anzuziehen, die an sexuellen oder romantischen Verbindungen mit digitalen Charakteren interessiert sind. Die expliziten KI-Anzeigen haben in einigen Fällen bereits zu Aktionen der Plattformbetreiber geführt, die daraufhin mit einer Überprüfung und Entfernung der gegen ihre Richtlinien verstoßenden Inhalte begonnen haben. Nichtsdestotrotz bleibt das Problem bestehen, da neue Anzeigen regelmäßig auftauchen. Die Nutzung von KI für explizite Inhalte wirft auch Fragen nach der zukünftigen Regulierung von KI-generierten Medien auf, um Missbrauch, wie die Verwendung von Deepfakes durch böswillige Akteure, zu verhindern. In Australien beispielsweise wurde bereits über Fälle berichtet, in denen mithilfe von KI generierte sexuell explizite Bilder von Kindern eingesetzt wurden, um andere zu mobben. Es bleibt abzuwarten, wie sich dieser Trend entwickelt und wie Plattformen, Entwickler und die Gesellschaft insgesamt auf die ethischen und rechtlichen Herausforderungen reagieren, die durch die Verbreitung von KI-generierten Beziehungsoptionen entstehen. Sicher ist, dass diese Entwicklung eine fortlaufende Diskussion über die Rolle von KI in unserem sozialen Gefüge anregt und uns auffordert, über die Implikationen der Technologie für unsere menschlichen Beziehungen und unser Zusammenleben nachzudenken. Quellen: - Wired, "Ads for Explicit ‘AI Girlfriends’ Are Swarming Facebook and Instagram", Lydia Morrish, 25. April 2024 - NBC News, "Ads for AI sex workers are flooding Instagram and TikTok", David Ingram, 1. September 2023 - Campaign Asia, "Ads for 'AI girlfriends' offering sexual images and company are flooding social media", Matthew Keegan, 4. September 2023 - The New York Times, "Artificial Intelligence" Section - Tech Times, "AI Girlfriend Ads Are Reportedly on the Rise on Instagram, TikTok", Jace Dela Cruz, 2. September 2023 - Weitere Artikel und Berichte von Reddit, eviemagazine auf Instagram, Campaign Live und weiteren Online-Quellen.