EU diskutiert neue Haftungsregeln für Schäden durch künstliche Intelligenz

Wer könnte künftig stärker in der Verantwortung stehen?

Entwickler und Modellanbieter

Modellentwickler kontrollieren typischerweise die Architektur, die Trainingsverfahren und wesentliche Sicherheitsmechanismen eines Systems. Sie haben daher einen umfassenden Einfluss auf die grundlegenden Eigenschaften eines Modells. Eine erweiterte Haftungsregel könnte darauf abzielen, diese Verantwortung auch dann zu berücksichtigen, wenn der konkrete Schaden erst in einer späteren Anwendung entsteht.

Für Anbieter universell einsetzbarer Modelle ist das besonders relevant. Sie kennen häufig nicht alle späteren Einsatzgebiete ihrer Systeme. Gleichzeitig stellen sie Modelle bereit, die in sensible Bereiche integriert werden können. Eine zentrale rechtliche Frage lautet deshalb, wie weit die Verantwortung für vorhersehbare, aber nicht ausdrücklich vereinbarte Anwendungen reichen soll.

Anbieter von KI-Anwendungen

Zwischen dem Basismodell und dem Endnutzer stehen oft Unternehmen, die eine eigene Anwendung entwickeln. Sie ergänzen Anweisungen, Datenbanken, Geschäftslogik und automatisierte Aktionen. Dadurch können sie das Verhalten des Systems maßgeblich beeinflussen.

Ein Anbieter, der ein allgemeines Sprachmodell in eine Anwendung für Personalentscheidungen, medizinische Vorprüfungen oder Finanzprozesse integriert, schafft möglicherweise ein eigenes Produkt mit eigenem Risikoprofil. Die rechtliche Bewertung dürfte dann nicht allein vom ursprünglichen Modell abhängen. Entscheidend kann sein, welche Funktionen die Anwendung bietet, welche Werbeversprechen gemacht werden und welche Sicherheitsvorkehrungen vorgesehen sind.

Unternehmen als Betreiber

Unternehmen, die KI-Systeme einsetzen, tragen Verantwortung für die Auswahl, Konfiguration und Überwachung der Lösung. Das gilt insbesondere dann, wenn das System in Prozesse mit erheblichen Auswirkungen auf Personen oder Vermögenswerte eingebunden wird.

Ein Betreiber muss unter anderem prüfen, ob die Lösung für den vorgesehenen Zweck geeignet ist, ob der Anbieter ausreichende Informationen bereitstellt und ob die interne Organisation eine angemessene Kontrolle ermöglicht. Werden automatisierte Entscheidungen ohne Prüfung übernommen oder erhält ein Modell weitreichende Zugriffsrechte, kann dies die eigene rechtliche Position schwächen.

Integratoren und Dienstleister

Systemhäuser, Beratungen und Plattformanbieter verbinden häufig unterschiedliche Komponenten. Sie können dadurch selbst Einfluss auf die konkrete Funktionsweise eines Systems nehmen. Ihre Verantwortung kann sich aus Verträgen, allgemeinen gesetzlichen Regeln oder einer eigenen Produkt- beziehungsweise Dienstleistungserstellung ergeben.

Für die Praxis kommt es deshalb auf eine klare vertragliche Abgrenzung an. Regelungen zu Testpflichten, Freigaben, Änderungsmanagement, Informationspflichten, Haftungsobergrenzen und Versicherungen sollten die tatsächliche technische Rollenverteilung widerspiegeln. Eine rein formale Bezeichnung als „Vermittler“ oder „Nutzer“ wird die tatsächliche Verantwortung nicht zwingend bestimmen.

Die Beweislast als Kernproblem

Ein zentraler Streitpunkt der KI-Haftung ist die Informationsasymmetrie. Die geschädigte Partei kennt in vielen Fällen weder die technischen Abläufe noch die internen Prozesse des Anbieters. Sie kann möglicherweise nur das Ergebnis beobachten: eine falsche Entscheidung, eine fehlerhafte automatisierte Aktion oder einen finanziellen Verlust.

Anbieter und Betreiber verfügen dagegen über Protokolle, Konfigurationsdaten, Testberichte, Modellversionen und Zugriffsinformationen. Ohne diese Daten lässt sich häufig nicht feststellen, ob ein Fehler im Modell, in der Anwendung oder im Betrieb vorlag.

Der frühere Richtlinienvorschlag sah deshalb Mechanismen vor, die den Zugang zu relevanten Beweismitteln erleichtern sollten. Eine solche Beweiserleichterung könnte künftig erneut diskutiert werden. Dabei müsste der Gesetzgeber zwischen zwei Interessen abwägen: Betroffene benötigen einen realistischen Zugang zum Recht, Unternehmen müssen zugleich vor pauschalen oder unbegründeten Ansprüchen geschützt werden.

Für Unternehmen folgt daraus eine praktische Konsequenz: Protokollierung ist nicht nur eine technische oder regulatorische Aufgabe, sondern auch ein Bestandteil des Risikomanagements. Ohne belastbare Daten kann ein Unternehmen im Streitfall möglicherweise nicht nachweisen, wie das System eingesetzt wurde und welche Kontrollen stattgefunden haben.

Welche Auswirkungen eine neue Regelung auf Unternehmen haben könnte

Höhere Anforderungen an Governance und Dokumentation

Eine zusätzliche Haftungsregelung würde voraussichtlich den Druck erhöhen, Verantwortlichkeiten entlang der gesamten KI-Lieferkette zu dokumentieren. Unternehmen müssten möglicherweise noch genauer festhalten, welches Modell verwendet wird, welche Datenquellen angebunden sind, welche Version aktiv ist und welche Personen Freigaben erteilt haben.

Besonders wichtig wäre eine nachvollziehbare Dokumentation bei generativen Systemen, die ihre Ausgaben nicht deterministisch erzeugen oder deren Verhalten sich durch Aktualisierungen verändert. Dazu gehören unter anderem Testfälle, Fehlerraten, bekannte Einschränkungen, Sicherheitswarnungen und Ergebnisse regelmäßiger Überprüfungen.

Neue Anforderungen an Verträge

Verträge mit KI-Anbietern könnten sich stärker auf Haftung, Nachweise und Zusammenarbeit im Schadensfall konzentrieren. Unternehmen sollten insbesondere prüfen, ob der Anbieter Informationen über Modelländerungen rechtzeitig bereitstellt und ob relevante Protokolle über die vereinbarte Laufzeit zugänglich bleiben.

Zu klären sind außerdem Fragen der Datenverarbeitung, der Nutzung von Eingaben für weitere Trainingszwecke, der Verfügbarkeit bei Sicherheitsvorfällen und der Unterstützung bei behördlichen oder gerichtlichen Untersuchungen. Haftungsklauseln sollten nicht isoliert betrachtet werden. Sie müssen mit den tatsächlichen Kontrollmöglichkeiten der jeweiligen Partei übereinstimmen.

Mehr Aufwand für Tests und Freigaben

Unternehmen könnten verpflichtet sein, KI-Anwendungen vor der Einführung umfassender zu testen. Dabei reicht es nicht aus, nur die technische Leistungsfähigkeit zu messen. Je nach Einsatzgebiet müssen auch Fehlbedienung, missverständliche Eingaben, Manipulationsversuche und ungewöhnliche Nutzungsszenarien berücksichtigt werden.

Bei Anwendungen mit automatisierten Aktionen sollten Freigabestufen vorgesehen werden. Ein System, das lediglich Textvorschläge erstellt, unterscheidet sich haftungsrechtlich und organisatorisch deutlich von einem System, das Zahlungen auslöst, Zugriffsrechte verändert oder direkt mit externen IT-Systemen kommuniziert.

Veränderungen bei Versicherungen und Risikokosten

Eine klarere Haftungsverteilung könnte sich auch auf Versicherungsprodukte auswirken. Anbieter und Betreiber müssten ihre Risiken genauer erfassen, um angemessene Deckungssummen und Ausschlüsse zu bestimmen. Versicherer könnten Nachweise über Sicherheitsmaßnahmen, Zugriffskontrollen und Notfallverfahren verlangen.

Für kleinere Unternehmen besteht die Herausforderung darin, dass zusätzliche Prüf- und Dokumentationspflichten Kosten verursachen können. Gleichzeitig kann eine standardisierte Governance dazu beitragen, Risiken frühzeitig zu erkennen und Schäden unabhängig von einer späteren Gesetzesänderung zu begrenzen.

Warum die Diskussion für Anbieter generativer KI besonders relevant ist

Generative KI-Systeme erzeugen Inhalte, die plausibel wirken können, ohne in jedem Fall sachlich richtig zu sein. Fehler sind dabei nicht notwendigerweise auf eine einzelne fehlerhafte Information zurückzuführen. Sie können aus der Modellarchitektur, dem Kontextfenster, der Auswahl von Quellen, der Systemanweisung oder der fehlenden Verifikation entstehen.

In geschäftlichen Anwendungen werden solche Systeme zunehmend mit Werkzeugen verbunden. Sie durchsuchen Datenbanken, erstellen Dokumente, klassifizieren Anfragen oder steuern Arbeitsabläufe. Dadurch verschiebt sich das Risiko von einer fehlerhaften Information hin zu einer möglicherweise unmittelbar schädlichen Handlung.

Für die Haftungsbewertung dürfte daher relevant sein, welche Autonomie ein System besitzt. Je größer der Handlungsspielraum, desto wichtiger sind Begrenzungen, Freigaben und Überwachung. Ein System, das einen Vorschlag unterbreitet, hat ein anderes Risikoprofil als ein Agent, der ohne weitere Bestätigung Verträge versendet oder Produktionssysteme verändert.

Auch die Kommunikation des Anbieters spielt eine Rolle. Wird ein System als allgemeines Assistenzwerkzeug beschrieben oder als zuverlässige Lösung für einen sensiblen Fachbereich? Welche Warnhinweise erhalten Nutzer? Werden Grenzen der Genauigkeit transparent erklärt? Solche Faktoren können bei der Frage relevant werden, welche Sicherheitserwartungen berechtigt sind.

Die offene Frage der Vorhersehbarkeit

Eine besondere Schwierigkeit liegt in der Beurteilung unvorhersehbarer Systemreaktionen. KI-Modelle können in Situationen eingesetzt werden, die bei ihrer Entwicklung nicht vollständig bekannt waren. Gleichzeitig ist nicht jede unerwartete Ausgabe automatisch ein rechtlich relevanter Fehler.

Der Gesetzgeber muss deshalb definieren, welche Risiken ein Anbieter erkennen und beherrschen muss. Dabei könnten der Stand der Technik, die Größe und Reichweite des Modells, die vorhersehbare Nutzung und die verfügbaren Sicherheitsmaßnahmen berücksichtigt werden.

Eine zu weitgehende Haftung könnte Anbieter dazu veranlassen, bestimmte Systeme nur eingeschränkt bereitzustellen oder besonders risikoreiche Anwendungsfelder zu meiden. Eine zu enge Haftung könnte dagegen dazu führen, dass Betroffene ihre Ansprüche praktisch nicht durchsetzen können. Die politische Diskussion wird daher vermutlich zwischen Innovationsförderung, Rechtssicherheit und effektivem Verbraucherschutz vermitteln müssen.

Was Unternehmen bereits heute vorbereiten können

Auch ohne neue KI-Haftungsrichtlinie können Unternehmen ihre organisatorischen und technischen Vorkehrungen verbessern. Die folgenden Maßnahmen ersetzen keine rechtliche Prüfung, schaffen aber eine belastbarere Grundlage für den sicheren Betrieb und die spätere Aufklärung von Vorfällen.

• Verantwortlichkeiten festlegen: Bestimmen Sie, welche Abteilung für Auswahl, Freigabe, Betrieb, Überwachung und Abschaltung eines KI-Systems zuständig ist.
• Anwendungszweck dokumentieren: Halten Sie fest, welche Aufgaben das System erfüllen soll und welche Einsatzbereiche ausgeschlossen sind.
• Modell- und Versionsstände erfassen: Dokumentieren Sie Anbieter, Modellbezeichnung, Version, Update-Zeitpunkte und relevante Konfigurationsänderungen.
• Zugriffsrechte begrenzen: Vergeben Sie nur die Berechtigungen, die für den konkreten Zweck erforderlich sind. Besonders sensible Aktionen sollten zusätzliche Freigaben erfordern.
• Ausgaben überprüfen: Definieren Sie, in welchen Prozessen eine menschliche Kontrolle zwingend vorgesehen ist und welche Qualifikation die prüfende Person benötigt.
• Test- und Freigabeprozesse etablieren: Prüfen Sie Systeme vor dem produktiven Einsatz sowie nach wesentlichen Änderungen anhand realistischer und kritischer Szenarien.
• Vorfälle protokollieren: Sichern Sie Eingaben, Ausgaben, Systemzustände, Nutzeraktionen und externe Datenquellen, soweit dies datenschutzrechtlich zulässig ist.
• Lieferantenverträge prüfen: Regeln Sie Informationspflichten, Änderungsmanagement, Sicherheitsmeldungen, Nachweispflichten und Unterstützung bei Schadensfällen.
• Notfallverfahren vorbereiten: Legen Sie fest, wie ein System deaktiviert, auf eine frühere Version zurückgesetzt oder vorübergehend durch manuelle Prozesse ersetzt wird.
• Rechts- und Compliance-Funktionen einbinden: Bewerten Sie Hochrisiko-Anwendungen nicht ausschließlich aus technischer Sicht.

Die Rolle von Transparenz und Nachvollziehbarkeit

Transparenz ist im Zusammenhang mit KI-Haftung nicht mit vollständiger Offenlegung des Quellcodes gleichzusetzen. Für die rechtliche und operative Bewertung kann es genügen, wenn relevante Informationen über Funktionsweise, Grenzen, Datenquellen und Überwachungsmaßnahmen nachvollziehbar bereitgestellt werden.

Für Unternehmen stellt sich die Frage, welche Informationen intern verfügbar sein müssen und welche an Kunden, Beschäftigte oder betroffene Personen weitergegeben werden. Dabei sind Geschäftsgeheimnisse, Datenschutz und Sicherheitsinteressen zu berücksichtigen. Gleichzeitig darf die Berufung auf Vertraulichkeit nicht dazu führen, dass ein Schadensfall technisch nicht aufgeklärt werden kann.

Ein praktikabler Ansatz besteht in abgestuften Dokumentationskonzepten. Technische Details können für spezialisierte Prüfstellen verfügbar sein, während Nutzer eine verständliche Beschreibung der Funktionsweise und der Grenzen erhalten. Entscheidend ist, dass Informationen im relevanten Moment zugänglich und aktuell sind.

Wettbewerbliche Bedeutung für den europäischen KI-Markt

Die Ausgestaltung der Haftungsregeln kann die Wettbewerbsbedingungen im europäischen KI-Markt beeinflussen. Einheitliche Vorgaben könnten grenzüberschreitend tätigen Unternehmen mehr Rechtssicherheit geben. Unterschiedliche nationale Auslegungen könnten dagegen zu zusätzlichem Aufwand führen und die Kosten für Anbieter erhöhen.

Für europäische Unternehmen ist außerdem relevant, wie die Regeln auf Anbieter mit Sitz außerhalb der EU angewendet werden. Viele große KI-Modelle werden von internationalen Konzernen bereitgestellt. Eine wirksame Haftungsordnung müsste daher klären, unter welchen Voraussetzungen außereuropäische Anbieter erreichbar sind und welche Verantwortlichkeiten bei europäischen Vertriebspartnern oder Betreibern liegen.

Ein höheres Haftungsrisiko kann Investitionen in Tests, Sicherheitsforschung und robuste Kontrollmechanismen fördern. Gleichzeitig besteht die Möglichkeit, dass kleinere Anbieter Schwierigkeiten haben, die erforderlichen Ressourcen oder Versicherungen aufzubringen. Die konkrete Ausgestaltung von Schwellenwerten, Nachweispflichten und Haftungsgrenzen wird deshalb erhebliche wirtschaftliche Bedeutung haben.

Welche Fragen politisch noch offen sind

Der neue Vorstoß beantwortet noch nicht, wie eine künftige Regelung konkret aussehen soll. Mehrere Punkte dürften im weiteren Gesetzgebungsprozess eine zentrale Rolle spielen:

• Welche KI-Modelle sollen als universell einsetzbar oder besonders leistungsfähig gelten?
• Wann ist ein Modell als fehlerhaft einzustufen, wenn seine Ausgaben probabilistisch und kontextabhängig sind?
• Wie wird die Verantwortung zwischen Modellanbieter, Anwendungsentwickler, Integrator und Betreiber verteilt?
• Welche Beweiserleichterungen sind angemessen, ohne Unternehmen einer pauschalen Haftung auszusetzen?
• Wie werden laufende Updates, Feinabstimmungen und nachträgliche Erweiterungen rechtlich berücksichtigt?
• Welche Regeln gelten für Open-Source-Modelle und nichtkommerzielle Entwicklungen?
• Wie werden internationale Anbieter und grenzüberschreitende Schadensfälle einbezogen?
• Welche Rolle spielen vertragliche Haftungsbegrenzungen zwischen Unternehmen?
• Wie lassen sich die neuen Vorgaben mit dem AI Act und der Produkthaftungsrichtlinie überschneidungsfrei gestalten?

Einordnung für die Unternehmenspraxis

Für Unternehmen ist derzeit vor allem wichtig, zwischen geltendem Recht und politischer Perspektive zu unterscheiden. Eine neue, umfassende EU-Regelung zur KI-Haftung ist nach den vorliegenden Informationen noch nicht verabschiedet. Der politische Vorstoß kann den weiteren Gesetzgebungsprozess anstoßen, verändert aber nicht automatisch die aktuellen Pflichten.

Gleichzeitig sollten Unternehmen die Debatte nicht abwarten. Die bereits geltenden Anforderungen an Produktsicherheit, Datenschutz, Vertragsrecht, IT-Sicherheit, Arbeitsrecht und branchenspezifische Regulierung können je nach Anwendung bereits heute erhebliche Konsequenzen haben. Der AI Act ergänzt diese Vorgaben, ersetzt sie aber nicht.

Besonders risikoreich sind Systeme, die Entscheidungen über Personen vorbereiten oder treffen, sensible Daten verarbeiten, externe Handlungen auslösen oder in kritische Geschäftsprozesse eingebunden sind. In solchen Bereichen sollte die Einführung nicht allein anhand von Produktivität und Kosten bewertet werden. Erforderlich ist eine vollständige Betrachtung von Technik, Organisation, Recht und Geschäftsmodell.

Ein strukturiertes KI-Inventar kann dabei als Ausgangspunkt dienen. Es sollte alle eingesetzten Modelle und Anwendungen erfassen, ihre Geschäftsprozesse zuordnen und die jeweiligen Risiken bewerten. Auf diese Weise lässt sich erkennen, wo Dokumentation, Überwachung oder vertragliche Absicherung verbessert werden müssen.

Was die Entwicklung für KI-Nutzer bedeutet

Für Unternehmen, die KI als Bestandteil ihrer täglichen Arbeit einsetzen, dürfte die politische Debatte langfristig zu höheren Anforderungen an die interne Kontrolle führen. Das betrifft nicht nur große Konzerne. Auch mittelständische Betriebe können haftungsrechtlich relevant handeln, wenn sie KI in Kundenkommunikation, Personalprozessen, Qualitätskontrolle oder automatisierten Abläufen verwenden.

Die Verantwortung liegt dabei nicht zwangsläufig bei der Person, die eine Eingabe in ein System macht. Entscheidend ist die gesamte Organisation: Wer hat das System ausgewählt? Welche Hinweise wurden gegeben? Welche Prüfungen waren vorgesehen? Welche technischen Grenzen bestanden? Wer konnte die Ausgabe freigeben oder eine automatisierte Aktion stoppen?

Eine klare interne Richtlinie sollte deshalb nicht nur verbieten oder erlauben, sondern konkrete Arbeitsabläufe beschreiben. Dazu gehören zugelassene Werkzeuge, sensible Datenkategorien, Prüfpflichten, Eskalationswege und Regeln für die Nutzung externer KI-Dienste. Schulungen sollten sich nicht auf Bedienung beschränken, sondern auch typische Fehlerbilder und Verantwortlichkeiten erklären.

Fazit: Die Haftungslücke bleibt ein politisches und praktisches Thema

Die erneute Diskussion im Europäischen Parlament zeigt, dass die rechtliche Verantwortung für Schäden durch künstliche Intelligenz weiterhin nicht abschließend geklärt ist. Der Rückzug des früheren Richtlinienvorschlags hat die Debatte nicht beendet. Er hat vielmehr verdeutlicht, wie schwierig es ist, dynamische, lernende und häufig arbeitsteilig entwickelte Systeme in traditionelle Haftungskategorien einzuordnen.

Die bestehende Produkthaftungsrichtlinie und der AI Act bilden wichtige Bestandteile des europäischen Rechtsrahmens. Sie beantworten jedoch nicht jede Frage, die sich bei autonomen oder unvorhersehbaren Systemreaktionen stellt. Besonders offen sind die Abgrenzung zwischen Modellfehler und Fehlgebrauch, die Verteilung der Verantwortung entlang der Lieferkette sowie der Zugang zu technischen Beweismitteln.

Ob aus dem aktuellen politischen Vorstoß ein formeller Gesetzgebungsprozess entsteht, bleibt abzuwarten. Für Unternehmen ist die Entwicklung dennoch unmittelbar relevant. Wer KI-Systeme einsetzt oder anbietet, sollte bereits heute nachvollziehbare Zuständigkeiten, technische Kontrollen, belastbare Protokolle und klare Vertragsregelungen etablieren. Damit lassen sich nicht alle rechtlichen Risiken ausschließen. Die eigene Position im Fall einer Untersuchung oder eines Schadensereignisses kann dadurch jedoch deutlich besser nachvollziehbar werden.

Für Mindverse als KI-Partner von Unternehmen ergibt sich daraus eine grundsätzliche Orientierung: Der wirtschaftliche Nutzen von KI hängt nicht nur von Leistungsfähigkeit und Automatisierungsgrad ab, sondern auch von Transparenz, Kontrolle und einer verantwortbaren Einbettung in bestehende Prozesse. Unternehmen, die diese Faktoren frühzeitig berücksichtigen, schaffen bessere Voraussetzungen für einen rechtssicheren und nachhaltigen Einsatz von KI.

Bibliografie

1. heise online: „Schäden durch KI: EU diskutiert neue Haftungsregeln“, 22. September 2026. https://www.heise.de/news/Schaeden-durch-KI-EU-diskutiert-neue-Haftungsregeln-11461732.html
2. Politico, zitiert in heise online: Bericht über einen neuen Vorstoß von EU-Abgeordneten zur Haftung für Schäden durch KI-Modelle.
3. TCI Rechtsanwälte: „KI-Haftung: EU Kommission zieht Richtlinienvorschlag zurück“, 14. Februar 2025. https://www.tcilaw.de/eu-kommission-zieht-vorschlag-fuer-richtlinie-ueber-ki-haftung-zurueck/
4. Euractiv: „Europäisches Parlament diskutiert Haftung für künstliche Intelligenz“, 29. Mai 2024. https://euractiv.com/de/news/europaeisches-parlament-diskutiert-haftung-fuer-kuenstliche-intelligenz/
5. Euractiv: „EU-Rat klärt Haftungsregeln für Software-Updates und maschinelles Lernen“, 18. April 2023. https://euractiv.de/news/eu-rat-klaert-haftungsregeln-fuer-software-updates-und-maschinelles-lernen/
6. Noerr: „KI-Haftungsrichtlinie: Studie des Europäischen Parlaments zur Haftung für KI“, 20. September 2024. https://www.noerr.com/de/insights/ki-haftungsrichtlinie-studie-des-eu-parlaments-zur-haftung-fuer-ki
7. Europäisches Parlament: Legislative Train zur AI Liability Directive. https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-ai-liability-directive
8. Better in Europe: „KI-Haftungsrichtlinie, Vorschlag COM/2022/496“. https://betterineurope.eu/de/glossary/ai-liability-directive/
9. alarm.de: „KI-Haftung: Wer haftet, wenn künstliche Intelligenz Schaden anrichtet?“, Stand 2026. https://alarm.de/ki-haftung-wer-haftet-wenn-kuenstliche-intelligenz-schaden-anrichtet/