KI-generierte Desinformation im Kontext des US-Iran-Konflikts

KI-generierte Kriegsbilder im Umlauf: Eine neue Ära der Desinformation

Die Verbreitung von KI-generiertem Bild- und Videomaterial in Kriegszeiten nimmt zu und stellt unabhängige Beobachter sowie Medien vor erhebliche Herausforderungen. Insbesondere im Kontext des jüngsten Konflikts zwischen den USA und Iran zeigten sich die Auswirkungen dieser Entwicklung deutlich. Eine Untersuchung der New York Times offenbarte die Existenz von über 110 einzigartigen, KI-generierten Fälschungen innerhalb von nur zwei Wochen, die Millionen von Menschen auf Plattformen wie X, TikTok und Facebook erreichten.

Die Rolle von KI in der Propagandastrategie

Die Analyse der aufgetauchten Fälschungen deutet darauf hin, dass ein Großteil davon pro-iranische Propaganda verbreitet. Ziel sei es, die militärische Leistungsfähigkeit Irans zu überzeichnen und die Auswirkungen des Krieges für die Verbündeten der USA als verheerender darzustellen, als sie tatsächlich sind. Diese Inhalte reichen von fiktiven Explosionen in Großstädten bis hin zu nicht-existenten protestierenden Soldaten. Die moderne KI-Technologie ermöglicht es nahezu jedem, mit geringem Aufwand täuschend echte Kriegsszenarien zu generieren.

Ein virales Beispiel zeigte scheinbare Raketeneinschläge in der Skyline von Tel Aviv. In einem anderen Fall, nachdem Irans Revolutionsgarden einen Angriff auf den Flugzeugträger USS Abraham Lincoln behaupteten, fluteten KI-generierte Bilder eines brennenden Schiffes die sozialen Medien, obwohl die USA den Angriff als gescheitert und das Schiff als unbeschädigt meldeten. Im Gegensatz zu realen Kampfaufnahmen, die oft aus der Ferne und bei Nacht entstehen, ähneln die KI-Fakes häufig Hollywood-Actionfilmen mit Pilzwolken und leuchtenden Hyperschallraketen.

Auswirkungen auf die Medienlandschaft

Die Desinformation erreicht auch etablierte Nachrichtenredaktionen. Deutsche Medien wie Der Spiegel, die Zeit und die Süddeutsche Zeitung mussten Bilder aus ihrer Berichterstattung über den Iran entfernen, die höchstwahrscheinlich KI-generiert waren. Diese Bilder gelangten über ein Netzwerk iranischer Agenturen in europäische Bilddatenbanken. Ein iranischer Fotograf gab zu, Bilder von einer Plattform der iranischen Revolutionsgarden in die Lieferkette eingespeist zu haben, ohne diese als solche zu kennzeichnen.

Erschwerte Verifizierung durch fehlende Echtzeitdaten

Die unabhängige Verifizierung von Ereignissen wird zusätzlich erschwert, da Open-Source Intelligence (OSINT), die systematische Analyse öffentlich verfügbarer Quellen wie Satellitenbilder, zunehmend an Effektivität verliert. Satellitenbildanbieter wie Planet Labs haben die Verzögerung für hochauflösende Bilder aus der Konfliktregion von vier Tagen auf zwei Wochen verlängert. Dies betrifft den gesamten Iran, verbündete Militärbasen und die Golfstaaten. Auch der Branchenführer Vantor (ehemals Maxar) blockiert Bilder von US-amerikanischen und alliierten Basen. Beide Unternehmen betonen, nicht auf Regierungsanweisung zu handeln.

Kritiker befürchten, dass diese Einschränkungen die öffentliche Meinungsbildung beeinflussen und die Transparenz bei Angriffen auf US-Basen mindern könnten. Die Lücken in der Echtzeitüberwachung erleichtern zudem die unkontrollierte Verbreitung von Desinformation und KI-generierten Inhalten, da Satellitenbilder oft als Beweis für erfolgreiche Angriffe dienen. Die regimefreundliche Tehran Times beispielsweise veröffentlichte ein angebliches Satellitenbild, das die Zerstörung einer US-Radaranlage in Katar zeigen sollte, welches sich jedoch als KI-manipuliertes Google-Earth-Bild herausstellte.

Die Herausforderung der Erkennung

OSINT-Analysten wie Tal Hagin weisen darauf hin, dass es im Nebel des Krieges schwierig ist, den Erfolg feindlicher Angriffe zu bewerten. OSINT entstand als Lösung, um Zensur in Ländern wie Iran durch die Nutzung öffentlich verfügbarer Satellitenbilder zu umgehen. Dieses Vertrauen wird jedoch nun von Desinformationsakteuren ausgenutzt. Gefälschte OSINT-Konten verbreiten in sozialen Medien KI-generierte Satellitenbilder als echte Geheimdienstinformationen und untergraben somit die Arbeit legitimer Ermittler.

Die rasante Verbesserung der KI-generierten Inhalte macht es zunehmend schwieriger, Fälschungen zu erkennen. Während früher Merkmale wie zusätzliche Finger oder unnatürliche Körperteile Hinweise gaben, sind moderne KI-Kreationen oft fehlerfrei in dieser Hinsicht. Experten raten dazu, Informationen aus glaubwürdigen journalistischen Quellen zu beziehen und eine kritische Haltung gegenüber sensationslüsternen Inhalten in sozialen Medien einzunehmen. Tools zur Erkennung von KI-generierten Inhalten sind zwar verfügbar, jedoch noch nicht perfekt und müssen kontinuierlich weiterentwickelt werden, um mit der Geschwindigkeit der technologischen Fortschritte Schritt zu halten.

Monetarisierung und Reichweite

Ein weiterer Aspekt ist die Monetarisierung von KI-generierten Fakes. Auf Plattformen wie X können Ersteller von Inhalten, die hohe Interaktionsraten erzielen, finanziell belohnt werden. Dies schafft einen Anreiz zur Produktion von viralen, oft sensationalistischen und gefälschten Inhalten. Obwohl X angekündigt hat, Ersteller, die KI-generierte Videos von bewaffneten Konflikten ohne entsprechende Kennzeichnung posten, vorübergehend oder dauerhaft vom Monetarisierungsprogramm auszuschließen, sind Zweifel an der effektiven Durchsetzung dieser Richtlinien vorhanden. Zudem sind die meisten Nutzer nicht Teil solcher Programme, was die Kontrolle weiter erschwert.

Bibliography: - The-decoder.com. "AI-generated war footage is going viral while real satellite imagery disappears from public view". Maximilian Schreiner. - Bbc.com. "AI-generated Iran war videos surge as creators use new tech to cash in". Thomas Copeland. - Al-monitor.com. "Fake AI satellite imagery spurs US-Iran war disinformation". Anuj Chopra. - Koat.com. "AI fakes flood social media during Iran war". Daniel Dale. - Cnn.com. "Fake, AI-generated images and videos of the Iran war are spreading on social media". Daniel Dale. - Facebook.com. "Fake AI-generated videos of war in Iran spread online". WPMT FOX43. - Rferl.org. "AI-Generated Videos Are Spreading Amid War In Iran". Serhiy Stetsenko. - Digitaljournal.com. "Fake AI satellite imagery spurs US-Iran war disinformation". AFP. - Youtube.com. "The Fake Videos Fooling the Internet | Vantage with Palki Sharma". WION.