Fehlerhafte KI Anschuldigungen und ihre rechtlichen Folgen: Der Fall von Martin Bernklau
Mindverse News
KI-gestützt erstellt 9 Quellen Arbeitsweise
// Inhalt · 7 Abschnitte
Microsofts Copilot und die Folgen: Ein Fall von falscher Anschuldigung
Im digitalen Zeitalter, in dem künstliche Intelligenz (KI) eine immer größere Rolle spielt, stellt sich die Frage der Zuverlässigkeit und Verantwortung von KI-Anwendungen. Ein aktuelles Beispiel, das die Problematik verdeutlicht, ist der Fall des deutschen Gerichtsreporters Martin Bernklau, der von Microsofts Copilot fälschlicherweise schwerer Verbrechen beschuldigt wurde.
Der Vorfall
Martin Bernklau, ein erfahrener Gerichtsreporter aus Tübingen, gab in Microsofts Copilot seinen Namen und seinen Wohnort ein, um zu sehen, wie der Chatbot seine Artikel aufgreifen würde. Die Antworten des Systems waren schockierend und völlig falsch. Copilot behauptete, Bernklau sei wegen Kindesmissbrauchs und der Ausbeutung von Schutzbefohlenen angeklagt und verurteilt worden. Darüber hinaus behauptete das System, er sei aus einer psychiatrischen Einrichtung geflohen und habe trauernde Frauen als skrupelloser Bestatter ausgebeutet.
Die Reaktion und Maßnahmen
Bernklau war verständlicherweise entsetzt über diese falschen Anschuldigungen und wandte sich an einen Anwalt, um rechtliche Schritte zu prüfen. Microsoft versuchte, die falschen Einträge zu entfernen, aber sie tauchten nach einigen Tagen wieder auf. Die Staatsanwaltschaft in Tübingen lehnte es ab, Anklage zu erheben, da kein realer Mensch als Urheber der Anschuldigungen identifiziert werden konnte.
Ursachen und Hintergründe
Bernklau vermutet, dass die falschen Einträge darauf zurückzuführen sind, dass er seit Jahrzehnten über Missbrauchs-, Gewalt- und Betrugsfälle am Amtsgericht Tübingen berichtet. Die KI scheint diese Informationen online kombiniert und fälschlicherweise den Reporter selbst als Täter dargestellt zu haben. Dies zeigt die Unzuverlässigkeit von großen Sprachmodellen (LLMs) als Such- und Recherchewerkzeuge, da sie keine Unterscheidung zwischen Wahrheit und Falschheit treffen können.
Weitere Beispiele und Implikationen
Ähnliche Probleme traten auch bei anderen KI-Systemen wie Googles AI Overviews, OpenAIs SearchGPT und Elon Musks Grok auf. Diese Systeme haben ebenfalls falsche Informationen über Personen geliefert und deren Biografien durcheinandergebracht. Dies unterstreicht die Notwendigkeit, die Quellen der Informationen zu überprüfen und sich nicht blind auf die Antworten von KI-Systemen zu verlassen.
Rechtliche und ethische Fragen
Der Fall Bernklau wirft wichtige rechtliche und ethische Fragen auf. Unter der Datenschutz-Grundverordnung (DSGVO) haben Personen das Recht, falsche Informationen über sich löschen zu lassen. Dies stellt Anbieter von KI-Chatbots und großen Sprachmodellen vor erhebliche Herausforderungen, da sie kaum in der Lage sind, die gespeicherten Informationen vollständig zu korrigieren oder zu löschen.
Fazit
Der Fall Martin Bernklau zeigt eindrücklich die Grenzen und Gefahren von KI-basierten Sprachmodellen auf. Es ist entscheidend, dass Entwickler und Anbieter solcher Systeme Maßnahmen ergreifen, um die Verbreitung falscher Informationen zu verhindern und die Rechte der Betroffenen zu schützen. Gleichzeitig müssen Nutzer sensibilisiert werden, die Antworten von KI-Systemen kritisch zu hinterfragen und die Quellen zu überprüfen.
Quellen
- https://www.heise.de/en/news/Copilot-turns-a-court-reporter-into-a-child-molester-9840612.html
- https://blogs.microsoft.com/on-the-issues/2023/09/07/copilot-copyright-commitment-ai-legal-concerns/
- https://nytco-assets.nytimes.com/2023/12/NYT_Complaint_Dec2023.pdf
- https://yro.slashdot.org/story/24/07/10/0319259/judge-dismisses-lawsuit-over-github-copilot-ai-coding-assistant
- https://www.reuters.com/legal/transactional/ny-times-sues-openai-microsoft-infringing-copyrighted-work-2023-12-27/
- https://yro.slashdot.org/story/24/03/29/2247214/congress-bans-staff-use-of-microsofts-ai-copilot
- https://www.bankinfosecurity.com/delta-versus-crowdstrike-microsoft-accusations-fly-a-25995
- https://tjaglcs.army.mil/Portals/0/Publications/The%20Army%20Lawyer/2019/The%20Army%20Lawyer%202019%20Issue%204.pdf?ver=JGgngU3LY5vssCKmKybRaw%3D%3D
- https://www.techdirt.com/page/37/?url=http%3A%2F%2Fwww.qjfjsq.com
//Nächster Artikel
Audio & Musik
SGLang Omni unterstützt Fish Audio Drama 3 in INT4: Speicherbedarf, Architektur und Enterprise-Serving im ÜberblickSGLang Omni unterstützt Fish Audio Drama 3 in INT4: 20,8 GB Gewichtsspeicher, MoE-Architektur, H200-Benchmarks und technische Analyse für Ihr Unternehmen.
// Artikel teilen
// Dranbleiben
Mindverse News folgen
Neue Meldungen erhalten Sie über unseren RSS-Feed oder auf LinkedIn.
Passend dazu in Mindverse Studio
- KI-Chat mit allen führenden ModellenGPT, Claude und Gemini in einer Oberfläche — mit Websuche und Quellenangaben.
- DSGVO-konforme KI, gehostet in DeutschlandWo Ihre Daten liegen, wer sie sieht und welche Zertifizierungen dahinterstehen.
- Firmenwissen als KI-WissensdatenbankDokumente und Daten durchsuchbar machen — semantisch, mit Quellenangabe.
Recherchieren Sie KI-News wie diese selbst — mit Mindverse Studio.
7 Tage kostenlos testen — ohne Kreditkarte, mit 200 Credits. Für Fragen zur Umsetzung buchen Sie eine persönliche Demo.
//Chronik
Aus dem Archiv · rund um den 27. August 2024
← Davor erschienen