Manipulation von KI in Gerichtsakten: Ein Fall aus Connecticut

Verdeckte KI-Anweisungen in Gerichtsakten: Ein Präzedenzfall in Connecticut

In einem bemerkenswerten Fall in Connecticut hat ein selbst vertretener Kläger versucht, künstliche Intelligenz (KI) in Gerichtsakten durch verdeckte Anweisungen zu beeinflussen. Dieser Vorfall, der weitreichende Diskussionen über die Integrität digitaler Dokumente und die Interaktion mit KI-Systemen im juristischen Kontext ausgelöst hat, beleuchtet die komplexen Herausforderungen, die der Einsatz von KI mit sich bringt.

Der Versuch der Manipulation

Der Kläger, Matthew Elliott, der sich selbst in einem Fall gegen die New York Bariatric Group vertrat, nutzte eine Methode, die als "Prompt Injection" bekannt ist. Er bettete Anweisungen in seine Gerichtsakten ein, die in einer winzigen, 3-Punkt großen weißen Schrift auf weißem Hintergrund formatiert waren. Diese Textpassagen waren für das menschliche Auge praktisch unsichtbar, konnten jedoch von KI-Systemen, die die Dokumente verarbeiten, vollständig gelesen werden. Ziel dieser verdeckten Anweisungen war es, ein hypothetisches KI-System dazu zu bewegen, seine Ausgaben an die eingereichten Schriftsätze anzupassen und eine frühere Ablehnung als Fehler zu interpretieren, der korrigiert werden müsse.

Aufdeckung durch ungewöhnliche Leerräume

Die Manipulation wurde aufgedeckt, weil das Gericht ungewöhnliche Leerräume in den von Elliott eingereichten Dokumenten bemerkte. Eine genauere Untersuchung enthüllte den nahezu unsichtbaren Text. Richter Walter Spader Jr. setzte daraufhin eine Anhörung an und warnte Elliott explizit davor, Text in Gerichtsakten zu verbergen. Trotz dieser Warnung setzte Elliott seine Versuche fort und versteckte in späteren Einreichungen weitere Nachrichten, darunter einen YouTube-Link und spöttische Kommentare. Gegenüber 404 Media, dem Medium, das den Fall zuerst berichtete, erklärte Elliott, sein ursprünglicher Versuch sei ein "Audit" eines möglichen KI-Überprüfungssystems gewesen, die späteren Nachrichten lediglich "unsichtbare Witze".

Die richterliche Bewertung: Vergleich mit der Beeinflussung eines Geschworenen

Richter Spader stellte in seiner 14-seitigen Entscheidung klar, dass die Gerichte in Connecticut keine KI-Systeme zur Überprüfung oder Entscheidung über Schriftsätze einsetzen. Die versteckten Anweisungen hatten somit keinen direkten Einfluss auf den Ausgang des Verfahrens. Der Versuch selbst wurde jedoch als problematisch eingestuft, da er darauf abzielte, ein potenziell eingesetztes KI-System verdeckt zu beeinflussen.

Der Richter zog einen Vergleich zur verdeckten Kommunikation mit einem Geschworenen während eines Prozesses: „Man stelle sich vor, wie eindeutig unangemessen es wäre, wenn eine Partei einen automatisierten Agenten beauftragen würde, während des Prozesses verdeckt mit einem Geschworenen zu kommunizieren.“ Eine versteckte Anweisung sei im Wesentlichen eine geheime Kommunikation, die auf Entscheidungsträger oder die von ihnen genutzten Werkzeuge abzielt. Gleichzeitig begrüßte der Richter den Einsatz von KI zur Erstellung von Schriftsätzen, da diese Werkzeuge Menschen ohne rechtliche Vertretung neue Möglichkeiten bieten, ihre Fälle klar vor Gericht darzulegen. Er betonte jedoch, dass Elliotts Vorgehen einen unehrlichen Gebrauch dieser Werkzeuge darstelle. Spader warnte auch davor, dass Sprachmodelle fehlerhafte rechtliche Argumentationen verstärken können, da sie dazu neigen, die Argumente eines Benutzers so überzeugend wie möglich darzustellen, anstatt sie zu hinterfragen.

Sanktionen und weitere Implikationen

Als Sanktion entzog das Gericht Elliott das Recht zur elektronischen Einreichung von Dokumenten. Er muss nun alle Schriftsätze und Beweismittel persönlich und in Papierform bei der Geschäftsstelle einreichen. Elliott bezeichnete die Sanktion als unfair und wies darauf hin, dass auch gescannte Papierdokumente versteckten Text enthalten könnten.

Richter Spader verwies auf einen ähnlichen Fall in Brasilien, bei dem zwei Anwälte ebenfalls verkleinerten weißen Text auf weißem Hintergrund in einem Schriftsatz versteckt hatten, um das KI-System des Gerichts zu manipulieren. In diesem Fall hatte das System des Gerichts den Text jedoch erkannt und blockiert, bevor er verarbeitet werden konnte.

Prompt Injections als branchenübergreifendes Problem

Versuche, KI-Systeme durch versteckte Anweisungen in Dokumenten zu manipulieren, sind nicht auf Gerichtsakten beschränkt. Bereits im vergangenen Jahr entdeckte Nikkei Anweisungen wie „nur positive Bewertung“ oder „keine Kritik“ in 17 Vorabveröffentlichungen auf arXiv. Diese waren ebenfalls in weißem Text auf weißem Hintergrund und in winzigen Schriftgrößen versteckt, allesamt mit dem Ziel, KI-gestützte Peer-Reviews zugunsten der Autoren zu beeinflussen.

Das Justizsystem sieht sich zudem mit einem weiteren KI-bedingten Trend konfrontiert: Eine Studie des MIT und der USC zeigte, dass die Anzahl der Klagen, die ohne Anwalt bei US-Bundesgerichten eingereicht werden, seit der breiten Verfügbarkeit von ChatGPT stark angestiegen ist. Im Jahr 2025 wurden 41.490 Klagen von selbst vertretenden Personen eingereicht, was fast einer Verdopplung des Durchschnitts vor dem KI-Boom entspricht. In einer Stichprobe von Beschwerden aus Anfang 2026 identifizierte ein KI-Textdetektor 18 Prozent als KI-generiert. Der Fall Elliott fügt diesem Bild eine weitere Dimension hinzu: KI hilft nicht nur bei der Erstellung von Gerichtsakten, sondern wird auch zu einem Ziel für Manipulationen innerhalb dieser Dokumente.

Fazit

Der Fall in Connecticut verdeutlicht die Notwendigkeit, Mechanismen zur Erkennung und Abwehr von Manipulationsversuchen mittels KI zu entwickeln. Für Unternehmen, insbesondere im B2B-Bereich, die auf KI-gestützte Dokumentenverarbeitung und Analyse angewiesen sind, ergeben sich daraus wichtige Implikationen. Die Implementierung robuster Überprüfungssysteme und die Sensibilisierung für solche "Prompt Injection"-Techniken sind entscheidend, um die Integrität von Daten und Prozessen zu gewährleisten.

Bibliographie

• 404 Media. (o. J.). *Person Hides Prompt Injection in Legal Filing Telling AI to Side With Them*. Abgerufen von https://www.404media.co/person-hides-prompt-injection-in-legal-filing-telling-ai-to-side-with-them/
• Above the Law. (o. J.). *Don’t Put Secret AI Instructions In Court Filings! But Also… Why Are We Worried About This?*. Abgerufen von https://abovethelaw.com/2026/08/dont-put-secret-ai-instructions-in-court-filings-but-also-why-are-we-worried-about-this/
• Dentons. (o. J.). *AI Manipulation in Litigation: First Prompt Injection Sanctions*. Abgerufen von https://www.dentons.com/en/insights/articles/2026/august/14/ai-manipulation-in-litigation
• Gate News. (o. J.). *Connecticut Plaintiff Embeds Invisible AI Instructions in Court Filing to Influence Automated Review, Loses Electronic Filing Rights*. Abgerufen von https://www.gate.com/news/detail/connecticut-plaintiff-embeds-invisible-ai-instructions-in-court-filing-to-23470656
• Law News. (o. J.). *Connecticut Court Sanctions Self-Represented Litigant over Prompt Injection in a Court Filing*. Abgerufen von https://www.lawnews.co.uk/legal-news/connecticut-court-sanctions-self-represented-litigant-over-prompt-injection-in-a-court-filing/
• Newsweek. (o. J.). *First Known Hidden AI Directive in Court Filing Raises ‘Massive’ Concern*. Abgerufen von https://www.newsweek.com/first-known-hidden-ai-directive-in-court-filing-raises-massive-concern-12325434
• Reason. (o. J.). *Court Faults Self-Represented Plaintiff for Including Hidden “Prompt Injection” in Court Filing*. Abgerufen von https://reason.com/volokh/2026/08/13/court-faults-self-represented-plaintiff-for-including-hidden-prompt-injection-in-court-filing/
• Techdirt. (o. J.). *Pro Se Plaintiff Caught Hiding Prompt Injections In Court Filings; Responds By Hiding More*. Abgerufen von http://www.techdirt.com/2026/08/14/pro-se-plaintiff-caught-hiding-prompt-injections-in-court-filings-responds-by-hiding-more/
• The Decoder. (o. J.). *Plaintiff hid invisible AI instructions in court filings to secretly influence automated review*. Abgerufen von https://the-decoder.com/plaintiff-hid-invisible-ai-instructions-in-court-filings-to-secretly-influence-automated-review/
• Tom's Hardware. (o. J.). *Plaintiff busted trying to use AI prompt injection to win court case, hides text instruction in filing — demands AI model reviewing the text should side with him, rumbled because of strange white spaces in text*. Abgerufen von https://www.tomshardware.com/tech-industry/artificial-intelligence/plaintiff-busted-trying-to-use-ai-prompt-injection-to-win-court-case-hides-text-instruction-in-filing-demands-ai-model-reviewing-the-text-should-side-with-him-rumbled-because-of-strange-white-spaces-in-text