ChatGPT-Konten, die mit iranischer Einflussoperation in Verbindung stehen, von OpenAI gesperrt

Einleitung

In einer bemerkenswerten Enthüllung hat OpenAI mehrere ChatGPT-Konten gesperrt, die mit einer verdeckten iranischen Einflussoperation in Verbindung stehen. Diese Operation zielte darauf ab, Inhalte über die bevorstehenden US-Präsidentschaftswahlen und andere Themen zu generieren und zu verbreiten. Diese Maßnahme unterstreicht die wachsende Bedeutung der Überwachung digitaler Plattformen, um die Verbreitung von Desinformation in sensiblen politischen Zeiten zu verhindern.

Hintergrund der Operation

Die verdeckte Operation, die als "Storm-2035" bekannt ist, nutzte ChatGPT, um Inhalte zu einer Vielzahl von Themen zu erstellen, darunter Kommentare zu Kandidaten beider Parteien in der US-Präsidentschaftswahl. Diese Inhalte wurden dann über soziale Medienkonten und Websites verbreitet. Microsoft hatte ebenfalls kürzlich über von Iran und anderen Ländern gesteuerte Manipulationsversuche berichtet, die von KI-Technologien unterstützt wurden.

Details der Operation

Die Operation verwendete ChatGPT auf zwei Arten: zur Erstellung längerer Artikel und kürzerer sozialer Medienbeiträge. In der ersten Methode wurden Artikel über US-Politik und Weltgeschehnisse auf fünf Websites veröffentlicht, die sich als progressive und konservative Nachrichtenportale ausgaben. In der zweiten Methode wurden kurze Kommentare in Englisch und Spanisch verfasst und auf sozialen Medien gepostet.

Betroffene Themen

Die von der Operation generierten Inhalte konzentrierten sich hauptsächlich auf den Gaza-Konflikt, Israels Teilnahme an den Olympischen Spielen und die US-Präsidentschaftswahlen. In geringerem Maße wurden auch die Politik in Venezuela, die Rechte der Latinx-Gemeinschaft in den USA (sowohl in Spanisch als auch in Englisch) und die schottische Unabhängigkeit behandelt.

Implementierung und Reichweite

OpenAI identifizierte zwölf Konten auf X (ehemals Twitter) und ein Konto auf Instagram, die an dieser Operation beteiligt waren. Einige der X-Konten gaben sich als progressiv aus, während andere sich als konservativ darstellten. Trotz der Bemühungen, die öffentliche Meinung zu beeinflussen, erzielte die Operation laut OpenAI keine signifikante Resonanz. Die meisten der gefundenen sozialen Medienbeiträge erhielten nur wenige oder gar keine Likes, Shares oder Kommentare, und die Artikel zeigten keine Anzeichen dafür, dass sie auf sozialen Medien geteilt wurden.

Auswirkungen generativer KI

Die bloße Existenz generativer KI erleichtert es, Zweifel an der Authentizität von Inhalten zu säen und das Vertrauen in die Medien zu untergraben, selbst wenn keine Manipulation stattgefunden hat. US-Präsidentschaftskandidat Donald Trump hat dies beispielsweise mindestens zweimal ausgenutzt, indem er behauptete, dass Fotos von einer begeisterten Menschenmenge bei einer Veranstaltung von Kamala Harris mit KI manipuliert worden seien.

Zusätzliche Erkenntnisse

Microsofts Bedrohungsintelligenzbericht, der letzte Woche veröffentlicht wurde, identifizierte die Gruppe Storm-2035 als Teil einer breiteren Kampagne zur Beeinflussung der US-Wahlen, die seit 2020 aktiv ist. Diese Gruppe richtete sich an US-Wählergruppen an entgegengesetzten Enden des politischen Spektrums und verwendete polarisierende Botschaften zu Themen wie den US-Präsidentschaftskandidaten, LGBTQ-Rechten und dem Israel-Hamas-Konflikt.

Schlussfolgerung

Die kürzliche Sperrung dieser ChatGPT-Konten durch OpenAI unterstreicht die Bedeutung, wachsam zu bleiben und Maßnahmen gegen die missbräuchliche Nutzung von KI-Technologien zu ergreifen. Die Verantwortung liegt nun sowohl bei Technologieunternehmen als auch bei Wahlbehörden, zusammenzuarbeiten, um das Informationsökosystem zu sichern. Das Ziel ist es, informierte Wahlentscheidungen zu ermöglichen, die frei von Manipulation und Desinformation sind.

Bibliographie

- https://openai.com/index/disrupting-a-covert-iranian-influence-operation/ - https://thehackernews.com/2024/08/openai-blocks-iranian-influence.html - https://www.axios.com/2024/08/16/openai-iran-disinformation-chatgpt - https://techcrunch.com/2024/08/16/openai-shuts-down-election-influence-operation-using-chatgpt/ - https://www.washingtonpost.com/technology/2024/08/16/openai-influence-iran-chatgpt-election-harris-trump/ - https://www.usatoday.com/story/news/politics/2024/08/16/iran-chatgpt-fake-news-accounts-banned-openai/74832702007/ - https://cyberscoop.com/openai-bans-accounts-linked-to-covert-iranian-influence-operation/ - https://www.theverge.com/2024/8/16/24221982/openai-iranian-chatgpt-accounts-banned-chatgpt-us-election - https://www.rferl.org/a/chatgpt-iran-ban-influence-election/33082420.html - https://evrimagaci.org/tpg/openai-disrupts-iranian-misinformation-campaign-targeting-us-elections-24001