Herausforderungen durch KI-generierte Inhalte im juristischen Bereich

Die Integration künstlicher Intelligenz (KI) in den juristischen Arbeitsalltag eröffnet neue Möglichkeiten, birgt jedoch auch signifikante Risiken, wie jüngste Entscheidungen deutscher Gerichte, insbesondere des Kammergerichts Berlin, verdeutlichen. Die Justiz sieht sich zunehmend mit Schriftsätzen konfrontiert, die durch KI-Systeme generierte, aber inhaltlich falsche oder nicht existierende Informationen enthalten – sogenannte „Halluzinationen“.

KI-generierte Fiktionen im Rechtsverkehr: Eine wachsende Herausforderung

Die juristische Praxis basiert auf Präzision und Faktentreue. Gesetze und höchstrichterliche Urteile bilden das unverrückbare Fundament rechtlicher Argumentation. Mit dem vermehrten Einsatz generativer KI-Modelle in Anwaltskanzleien gerät dieses Fundament jedoch in Bewegung. Das Kammergericht Berlin hat in mehreren Fällen eine klare Position bezogen und eine deutliche Warnung an die Anwaltschaft ausgesprochen.

Der Fall der "Phantom-Urteile" im Familienrecht

Ein bemerkenswerter Fall, der vom Kammergericht Berlin behandelt wurde (Az.: 17 WF 144/25), betrifft einen Familienrechtsstreit. Eine Rechtsanwältin reichte im Rahmen einer Beschwerde gegen die Ablehnung von Verfahrenskostenhilfe Schriftsätze ein, die zur Untermauerung ihrer Argumentation ein angebliches Urteil des Bundesgerichtshofs (BGH) zitierten. Dieses Urteil, mit Aktenzeichen XII ZB 183/07 und einer Fundstelle in der Fachzeitschrift FamRZ 2008, Seite 137, erwies sich nach intensiver Recherche des Gerichts als frei erfunden. Weder in juristischen Datenbanken noch auf der Webseite des BGH konnte eine solche Entscheidung gefunden werden. Zwar existierte auf der genannten Seite der Zeitschrift ein BGH-Beschluss, dieser stammte jedoch aus einem anderen Jahr, trug ein abweichendes Aktenzeichen und behandelte einen gänzlich anderen Sachverhalt, nämlich die Einkommensbemessung eines Selbstständigen nach einer Verbraucherinsolvenz, ohne Bezug zur Verfahrenskostenhilfe. Das Kammergericht interpretierte dies als Ergebnis einer „fantasierenden“ KI. Zusätzlich enthielt die ursprüngliche Antragsschrift ein weiteres nicht auffindbares Zitat eines Beschlusses des Oberlandesgerichts Brandenburg.

"Dysfunktionale Verteidigung" durch Textbausteine

Ein weiterer Fall (KG, Beschl. v. 25.08.2025 – 3 ORbs 164/25) beleuchtet die Problematik der automatisierten Textbaustein-Verteidigung. In einem Bußgeldverfahren wegen der Nutzung elektronischer Geräte am Steuer reichte ein Anwalt Schriftsätze ein, die offensichtlich für Geschwindigkeitsverstöße konzipiert waren. Ein Großteil der Rechtsbeschwerde ergab laut Gericht „keinen Sinn“, da die verwendeten Textbausteine keinerlei Bezug zum eigentlichen Vorwurf hatten. Dieses Versäumnis wurde über mehrere Instanzen hinweg nicht korrigiert, obwohl das Gericht bereits früher ähnliche Verfehlungen desselben Anwalts beanstandet hatte. Das Kammergericht sprach hier von einer „dysfunktionalen und gedankenlosen Verteidigung“ und betonte, dass eine derart sinnlose Prozessführung selbst dann ohne Erfolg bleiben könnte, wenn sie zufällig einen an sich beachtlichen Rechtsfehler aufzeigen würde.

Die anwaltliche Prüfpflicht im Fokus

Die Gerichte machen deutlich, dass die Verantwortung für den Inhalt von Schriftsätzen stets bei den Rechtsanwälten liegt, unabhängig von den verwendeten Tools. Die Verwendung von KI-Systemen entbindet nicht von der Pflicht zur sorgfältigen Prüfung der generierten Inhalte. Rechtsanwälte sind als Organe der Rechtspflege und aufgrund ihres Mandatsverhältnisses zur Wahrheit und Sachlichkeit verpflichtet.

Berufsrechtliche und haftungsrechtliche Implikationen

Die ungeprüfte Übernahme von KI-Halluzinationen kann weitreichende Konsequenzen haben:

• Verletzung der anwaltlichen Berufspflichten: Das bewusste oder grob fahrlässige Verbreiten unwahrer Behauptungen oder das Zitieren nicht existierender Urteile kann einen Verstoß gegen § 43a Abs. 3 BRAO darstellen, der Anwälten unsachliches Verhalten im Beruf untersagt.
• Zivilrechtliche Haftung: Mandanten können Schadenersatzansprüche geltend machen, wenn ihnen durch eine "dysfunktionale Verteidigung" oder die Verwendung falscher Informationen Nachteile entstehen. Dies kann beispielsweise die Übernahme von Verfahrenskosten umfassen.
• Strafrechtliche Risiken: Im Straf- und Ordnungswidrigkeitenrecht könnte eine bewusst unsachliche und irreleitende Verteidigung unter Umständen den Tatbestand der Strafvereitelung (§ 258 StGB) erfüllen. Dies gilt insbesondere, wenn Anwälte trotz gerichtlicher Hinweise an fehlerhaften Ausführungen festhalten.
• Prozessuale Nachteile: Gerichte können dazu neigen, selbst berechtigte Rügen in einem Wust unsinnigen Vorbringens zu übergehen oder strenger zu prüfen. Im Extremfall kann die Zulassung von Rechtsmitteln verwehrt werden.

Internationale Präzedenzfälle

Die Problematik der KI-Halluzinationen in juristischen Dokumenten ist nicht auf Deutschland beschränkt. International bekannt wurde der Fall "Mata vs. Avianca" in den USA, bei dem ein New Yorker Anwalt fiktive Präzedenzfälle, die von ChatGPT generiert wurden, in einem Schriftsatz einreichte und dafür mit einer Geldstrafe belegt wurde. Auch in Deutschland mehren sich Berichte über solche "Zitier-Geister" in der Rechtsprechung, wie beispielsweise ein Beschluss des LG Frankfurt am Main (2-13 S 56/24) zeigt, in dem das Gericht die „komplette Fälschung“ von BGH-Zitaten rügte und dem Klägervertreter mangelnde Kompetenz im Umgang mit KI vorwarf.

Empfehlungen für den Einsatz von KI in der juristischen Praxis

Die aufgezeigten Fälle unterstreichen die Notwendigkeit eines verantwortungsvollen und kritischen Umgangs mit KI-Tools in der Anwaltschaft. Für eine rechtskonforme und effektive Nutzung von KI-basierten Anwendungen in der juristischen Praxis ergeben sich daraus folgende Handlungsempfehlungen:

• Grundlegende Prüfpflicht: Jeder durch KI generierte Inhalt, insbesondere Zitate, Aktenzeichen und Sachverhaltsdarstellungen, muss vor der Einreichung bei Gericht oder Behörden sorgfältig auf seine Richtigkeit und Existenz überprüft werden. Dies gilt als anwaltliche Kernpflicht.
• Inhaltliche Relevanz: Es ist sicherzustellen, dass KI-generierte Textbausteine oder Argumentationen stets auf den konkreten Fall zugeschnitten und inhaltlich relevant sind. Eine gedankenlose Übernahme von Standardformulierungen ohne Bezug zum Sachverhalt ist zu vermeiden.
• Qualitätskontrolle: Anwälte sollten interne Prozesse zur Qualitätskontrolle implementieren, die eine mehrfache Überprüfung von KI-generierten Schriftsätzen vorsehen.
• Schulung und Aufklärung: Kanzleien sollten ihre Mitarbeiter über die Risiken von KI-Halluzinationen informieren und den korrekten Einsatz von KI-Tools schulen.
• Reaktion auf Hinweise: Bei gerichtlichen oder behördlichen Hinweisen auf Unstimmigkeiten in Schriftsätzen ist unverzüglich zu reagieren und eine Korrektur vorzunehmen.

Die moderne Rechtsvertretung kann und sollte zeitgemäße Hilfsmittel wie KI einsetzen. Dies darf jedoch niemals ohne eigene juristische Wertung und Kontrolle geschehen. Die Verantwortung für die Qualität und Faktentreue juristischer Schriftsätze verbleibt letztlich uneingeschränkt beim Rechtsanwalt. Es geht um anwaltliche Maßarbeit statt Massenware, um eine erfolgreiche und verantwortungsvolle Verteidigung zu gewährleisten.

Fazit

Die Entscheidungen des Kammergerichts Berlin und anderer Gerichte markieren einen wichtigen Punkt in der Debatte um den Einsatz von KI in der Rechtswissenschaft. Sie verdeutlichen, dass die Potenziale der KI nur dann voll ausgeschöpft werden können, wenn die menschliche Expertise und die anwaltlichen Sorgfaltspflichten als Korrektiv und Kontrollinstanz fungieren. Für Mindverse, als Anbieter eines umfassenden KI-Tools, unterstreicht dies die Bedeutung, Lösungen bereitzustellen, die nicht nur Effizienz steigern, sondern auch die Integrität und Präzision juristischer Arbeitsprozesse unterstützen und Anwendern die Notwendigkeit menschlicher Verifikation bewusst machen.

Bibliographie

- Heise Online: Rechtsverkehr: Berliner Kammergericht rügt Anwälte wegen KI-Halluzinationen, Stefan Krempl, 2026. - Jura.cc: Dysfunktionale Verteidigung: Kammergericht Berlin rügt automatisierte Textbaustein-Verteidigung, Dr. jur. Jens Usebach LL.M, 2025. - Beck-aktuell: Gegen falschen Tatvorwurf verteidigt: KG verwirft KI-generierte Rechtsbeschwerde wegen Sinnlosigkeit, 2025. - DATEV Magazin: Kammergericht zu falschen Textbausteinen: „Dysfunktionale Verteidigung“, DATEV News-Redaktion, 2025. - Tarnkappe.info: Reinfälle mit künstlicher Intelligenz bei Gericht, Lars Sobiraj, 2025. - BRAK-Mitteilungen 5/2025: Berufs- und haftungsrechtliche Folgen von halluzinierten KI-Ergebnissen „Auf das (Aus)Maß kommt es an“, Christian Denz, 2025. - Anwaltsblatt: Halluzinationen in Schriftsätzen, 2025. - Haufe: FF 02/2026, Berufsrechtsverstoß durch Verwendung von KI-Halluzinationen im Schriftsatz, 2026. - Beck-aktuell: "Komplette Fälschung": Gericht führt Anwalt für halluzinierte Fundstelle vor, 2025.