Microsofts Copilot und die Folgen: Ein Fall von falscher Anschuldigung

Im digitalen Zeitalter, in dem künstliche Intelligenz (KI) eine immer größere Rolle spielt, stellt sich die Frage der Zuverlässigkeit und Verantwortung von KI-Anwendungen. Ein aktuelles Beispiel, das die Problematik verdeutlicht, ist der Fall des deutschen Gerichtsreporters Martin Bernklau, der von Microsofts Copilot fälschlicherweise schwerer Verbrechen beschuldigt wurde.

Der Vorfall

Martin Bernklau, ein erfahrener Gerichtsreporter aus Tübingen, gab in Microsofts Copilot seinen Namen und seinen Wohnort ein, um zu sehen, wie der Chatbot seine Artikel aufgreifen würde. Die Antworten des Systems waren schockierend und völlig falsch. Copilot behauptete, Bernklau sei wegen Kindesmissbrauchs und der Ausbeutung von Schutzbefohlenen angeklagt und verurteilt worden. Darüber hinaus behauptete das System, er sei aus einer psychiatrischen Einrichtung geflohen und habe trauernde Frauen als skrupelloser Bestatter ausgebeutet.

Die Reaktion und Maßnahmen

Bernklau war verständlicherweise entsetzt über diese falschen Anschuldigungen und wandte sich an einen Anwalt, um rechtliche Schritte zu prüfen. Microsoft versuchte, die falschen Einträge zu entfernen, aber sie tauchten nach einigen Tagen wieder auf. Die Staatsanwaltschaft in Tübingen lehnte es ab, Anklage zu erheben, da kein realer Mensch als Urheber der Anschuldigungen identifiziert werden konnte.

Ursachen und Hintergründe

Bernklau vermutet, dass die falschen Einträge darauf zurückzuführen sind, dass er seit Jahrzehnten über Missbrauchs-, Gewalt- und Betrugsfälle am Amtsgericht Tübingen berichtet. Die KI scheint diese Informationen online kombiniert und fälschlicherweise den Reporter selbst als Täter dargestellt zu haben. Dies zeigt die Unzuverlässigkeit von großen Sprachmodellen (LLMs) als Such- und Recherchewerkzeuge, da sie keine Unterscheidung zwischen Wahrheit und Falschheit treffen können.

Weitere Beispiele und Implikationen

Ähnliche Probleme traten auch bei anderen KI-Systemen wie Googles AI Overviews, OpenAIs SearchGPT und Elon Musks Grok auf. Diese Systeme haben ebenfalls falsche Informationen über Personen geliefert und deren Biografien durcheinandergebracht. Dies unterstreicht die Notwendigkeit, die Quellen der Informationen zu überprüfen und sich nicht blind auf die Antworten von KI-Systemen zu verlassen.

Rechtliche und ethische Fragen

Der Fall Bernklau wirft wichtige rechtliche und ethische Fragen auf. Unter der Datenschutz-Grundverordnung (DSGVO) haben Personen das Recht, falsche Informationen über sich löschen zu lassen. Dies stellt Anbieter von KI-Chatbots und großen Sprachmodellen vor erhebliche Herausforderungen, da sie kaum in der Lage sind, die gespeicherten Informationen vollständig zu korrigieren oder zu löschen.

Fazit

Der Fall Martin Bernklau zeigt eindrücklich die Grenzen und Gefahren von KI-basierten Sprachmodellen auf. Es ist entscheidend, dass Entwickler und Anbieter solcher Systeme Maßnahmen ergreifen, um die Verbreitung falscher Informationen zu verhindern und die Rechte der Betroffenen zu schützen. Gleichzeitig müssen Nutzer sensibilisiert werden, die Antworten von KI-Systemen kritisch zu hinterfragen und die Quellen zu überprüfen.

Quellen

https://www.heise.de/en/news/Copilot-turns-a-court-reporter-into-a-child-molester-9840612.html https://blogs.microsoft.com/on-the-issues/2023/09/07/copilot-copyright-commitment-ai-legal-concerns/ https://nytco-assets.nytimes.com/2023/12/NYT_Complaint_Dec2023.pdf https://yro.slashdot.org/story/24/07/10/0319259/judge-dismisses-lawsuit-over-github-copilot-ai-coding-assistant https://www.reuters.com/legal/transactional/ny-times-sues-openai-microsoft-infringing-copyrighted-work-2023-12-27/ https://yro.slashdot.org/story/24/03/29/2247214/congress-bans-staff-use-of-microsofts-ai-copilot https://www.bankinfosecurity.com/delta-versus-crowdstrike-microsoft-accusations-fly-a-25995 https://tjaglcs.army.mil/Portals/0/Publications/The%20Army%20Lawyer/2019/The%20Army%20Lawyer%202019%20Issue%204.pdf?ver=JGgngU3LY5vssCKmKybRaw%3D%3D https://www.techdirt.com/page/37/?url=http%3A%2F%2Fwww.qjfjsq.com