KI kann Erinnerungen verschieben: Experimente zeigen Risiken für Zeugenaussagen und Kontrollprozesse

Warum die Kontrolle durch Menschen schwierig werden kann

Das menschliche Gedächtnis funktioniert nicht wie eine unveränderliche Aufzeichnung. Die von der Frankfurter Rundschau zusammengefasste Berichterstattung beschreibt, dass Menschen nur einen Teil der Erlebnisse behalten, Details mit der Zeit verblassen und Erinnerungen sich beim erneuten Abruf verändern können. KI-Systeme können solche Lücken zwar mit gespeicherten Informationen füllen. Sie fassen Inhalte aber auch zusammen, deuten sie und können dabei falsche Details einbringen. [4]

Für Kontrollprozesse ist das bedeutsam: Eine Person soll KI-Ausgaben häufig gerade deshalb prüfen, weil das System Fehler machen kann. Wenn diese Person vorher eine falsche Zusammenfassung gelesen hat, kann die Information aber auch ihre Erinnerung beeinflussen. Mattea Sim von der Georgetown University wird in dem Bericht mit der Einschätzung wiedergegeben, menschliche Aufsicht könne deshalb weniger zuverlässig sein, als ein einfaches „Mensch in der Schleife“-Prinzip nahelegt. Das ist eine Warnung aus der Forschung, kein Beleg dafür, dass jede menschliche Prüfung wirkungslos wäre. [4]

Die im Unfall-Experiment berichtete Wirkung einer falschen Zusammenfassung macht die Schwierigkeit konkret: Wer die Originalszene selbst gesehen hat, kann später dennoch von einer fehlerhaften Beschreibung beeinflusst werden. Der bloße Umstand, dass eine Information als KI-generiert gekennzeichnet ist, reichte in diesem Versuch nicht aus, um den Effekt zu verhindern. Daraus folgt nicht, dass Kennzeichnungen generell nutzlos sind; der Bericht zeigt lediglich, dass sie in diesem konkreten Versuchsaufbau keinen vollständigen Schutz boten. [4]

Erinnerungshilfe und Erinnerungsrisiko liegen nah beieinander

Maes’ Forschungsarbeit zielt nicht ausschließlich auf mögliche Schäden. Ihre Gruppe hat laut dem Bericht Systeme namens Memoro und MemPal entwickelt, die mithilfe von KI und tragbaren oder mitgeführten Geräten Alltagserlebnisse festhalten und später abrufbar machen sollen. Das könnte etwa dabei helfen, sich an Gesprächsinhalte oder den Ablageort eines Gegenstands zu erinnern. Erste Tests mit älteren Menschen werden im Bericht als vielversprechend beschrieben; daraus folgt jedoch noch keine Aussage über einen breiten oder langfristigen Nutzen. [4]

Gerade diese Anwendungen verdeutlichen die zentrale Abwägung: Ein externes Gedächtnis kann fehlende Informationen verfügbar machen, aber es muss zuverlässig zwischen aufgezeichneter Quelle, späterer Zusammenfassung und Ergänzung unterscheiden. Das ist eine analytische Konsequenz aus den beschriebenen Systemen und Experimenten, nicht ein bereits nachgewiesenes Versagen von Memoro oder MemPal. Die verfügbaren Texte berichten nicht, dass diese Prototypen falsche Erinnerungen ausgelöst hätten. [4]

Auch die Frage, ob KI-Nutzung Denk- und Erinnerungsfähigkeiten schwächen kann, ist von der Frage nach falschen Erinnerungen zu trennen. Ein im Bericht beschriebenes Schreibexperiment mit 54 Personen verglich unter anderem Gruppen, die ohne Online-Hilfen, mit Google oder mit ChatGPT arbeiteten. Bei den ChatGPT-Nutzenden wurden schwächere Vernetzungsmuster in den gemessenen Hirnsignalen und größere Schwierigkeiten beim Zitieren eigener Texte berichtet. Die Untersuchung befand sich laut Bericht noch im Peer-Review-Verfahren. Das sind vorläufige Ergebnisse zu einer konkreten Schreibaufgabe, kein Nachweis eines dauerhaften Gedächtnisverlusts. [4]

Mögliche Folgen für Gerichte, Behörden und Unternehmen

Maes verweist laut den Berichten auf Gerichtsverfahren, in denen Aussagen von Zeugen eine Rolle spielen. Die Frankfurter Rundschau hebt zudem hervor, dass jahrzehntelange Forschung die Anfälligkeit von Zeugenerinnerungen für Verzerrungen dokumentiert. Daraus lässt sich ableiten, dass KI-generierte Inhalte in einem Umfeld, in dem Erinnerungen später als Beweismittel oder Grundlage einer Entscheidung dienen, besondere Sorgfalt erfordern. Die vorliegenden Quellen belegen jedoch nicht, dass ein konkretes Urteil durch KI veränderte Erinnerungen beeinflusst wurde. [1][2][4]

Für Organisationen ist nicht nur die Aussage vor Gericht relevant. Der Bericht nennt als Beispiele, dass Polizeibehörden KI-generierte Zusammenfassungen von Bodycam-Aufnahmen erproben und Krankenhäuser KI zur Zusammenfassung medizinischer Informationen nutzen. Solche Anwendungen können die Arbeit mit umfangreichen Aufzeichnungen erleichtern; zugleich besteht nach den beschriebenen Experimenten die Möglichkeit, dass eine fehlerhafte Zusammenfassung die spätere Erinnerung oder Bewertung einer Person mitprägt. Ob und in welchem Umfang dies in diesen praktischen Anwendungen geschieht, geht aus den Berichten nicht hervor. [4]

Als vorsorgliche Prozessgestaltung können Unternehmen daher erwägen, Originalmaterial und KI-Zusammenfassungen klar getrennt aufzubewahren, Herkunft und Änderungen nachvollziehbar zu kennzeichnen und Aussagen möglichst zu dokumentieren, bevor Beteiligte eine KI-Aufbereitung sehen. Bei strittigen Sachverhalten sollte eine Zusammenfassung nicht ohne Rückgriff auf die Quelle als alleinige Grundlage dienen. Das sind aus den beschriebenen Risiken abgeleitete Vorschläge; die vorliegenden Experimente haben ihre Wirksamkeit nicht geprüft. [4]

Was die Befunde noch nicht zeigen

Die Studienlage ist nach den verfügbaren Berichten noch im Aufbau. Die Ergebnisse umfassen unterschiedliche Aufgaben – das Betrachten veränderter Fotos, Gespräche mit Chatbots und die spätere Lektüre von Zusammenfassungen. Sie lassen sich nicht ohne Weiteres zu einer einheitlichen Aussage über alle KI-Systeme, Nutzungsformen oder Personengruppen zusammenfassen. Insbesondere enthält der Bericht zum Fotoexperiment keine Angaben, die eine präzise Einschätzung der Effektstärke oder der Dauer der Veränderungen erlauben. [1][2][4]

Die Frankfurter Rundschau hält ausdrücklich fest, dass die beschriebenen Befunde nicht beweisen, dass die übliche Nutzung von ChatGPT oder anderen KI-Agenten zwangsläufig zu kognitivem Abbau oder dauerhaftem Gedächtnisverlust führt. Menschen lagern Denk- und Gedächtnisleistungen zudem schon lange an Hilfsmittel aus; generative KI unterscheidet sich nach der Einordnung im Bericht dadurch, dass sie nicht nur Informationen speichert, sondern sie auch interpretiert und neu formuliert. [4]

Für Entscheider lautet die belastbare Schlussfolgerung deshalb nicht, KI aus allen erinnerungsrelevanten Prozessen auszuschließen. Die Experimente begründen vielmehr, KI-Ausgaben als potenziell einflussreiche Informationsquelle zu behandeln – auch dann, wenn sie als Hilfsmittel und nicht als Entscheidungsträger gedacht sind. Wo spätere Aussagen oder Bewertungen von persönlicher Erinnerung abhängen, ist die Trennung zwischen Originalbeleg, maschineller Zusammenfassung und eigener Erinnerung ein sinnvoller Prüfpunkt. [1][4]

Quellen

1. [1] MIT-Forscherin warnt: KI könnte bei Menschen falsche Erinnerungen erzeugen | heise online — https://www.heise.de/news/MIT-Forscherin-warnt-KI-koennte-bei-Menschen-falsche-Erinnerungen-erzeugen-11493982.html (abgerufen am 2026-10-20)
2. [2] Wie KI bei Menschen für falsche Erinnerungen sorgen könnte — https://t3n.de/news/ki-menschen-falsche-erinnerungen-1768784 (abgerufen am 2026-10-20)
3. [4] Falsche Erinnerungen durch KI: Was die Forschung aktuell zeigt — https://www.fr.de/wissen/falsche-erinnerungen-durch-ki-was-die-forschung-aktuell-zeigt-zr-94543939.html (abgerufen am 2026-10-20)