Haftungslücke bei autonom agierender KI: Wer trägt die Verantwortung?

‍

Einleitung

Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht und findet in immer mehr Bereichen Anwendung. Von autonomen Fahrzeugen über medizinische Diagnoseprogramme bis hin zu Chatbots – KI-Systeme werden zunehmend eigenständiger und treffen Entscheidungen, die erhebliche Auswirkungen haben können. Doch wer haftet, wenn diese Systeme Fehler machen und Schäden verursachen? Diese Frage ist juristisch komplex und bisher nicht eindeutig geklärt.

Herausforderungen des deutschen Haftungssystems

Das deutsche Haftungssystem basiert auf dem Prinzip des individuellen Fehlverhaltens und einem klaren Schaden. Doch bei KI-Systemen, die autonom agieren, stößt dieses System an seine Grenzen. Denn wer ist verantwortlich, wenn eine KI falsche Entscheidungen trifft?

- Der Hersteller der KI?
- Der Betreiber des Systems?
- Der Nutzer, der die KI einsetzt?

Diese Fragen sind nicht leicht zu beantworten, da die Entscheidungen einer KI oft als „Blackbox“ betrachtet werden können – die genauen Abläufe und Entscheidungsprozesse sind nicht immer nachvollziehbar.

Der AI Act und die Produkthaftungsrichtlinie der EU

Auf EU-Ebene wurde der AI Act verabschiedet, der klare Regelungen für den Einsatz von KI-Systemen schaffen soll. Ziel ist es, Rechtssicherheit zu schaffen und gleichzeitig Innovationen zu fördern. Doch auch der AI Act bringt bisher keine abschließende Klarheit, insbesondere wenn es um die Kombination mehrerer KI-Systeme oder deren Integration in haftungsrelevante Prozesse geht.

Parallel dazu wurde die EU-Produkthaftungsrichtlinie auf Softwarelösungen ausgeweitet. Dies betrifft künftig auch KI-Systeme, unabhängig davon, ob sie lokal installiert oder über die Cloud bereitgestellt werden. Hersteller solcher Systeme werden in die Pflicht genommen, doch bleibt offen, ob Schadensersatzansprüche an die Entwickler oder die Betreiber der KI-Anwendungen gestellt werden sollen.

Das AI Office der EU

Eine zentrale Rolle in der Umsetzung des AI Acts soll das AI Office der EU übernehmen. Dieses Büro soll für Rechtssicherheit in den 27 Mitgliedsstaaten der EU sorgen. Allerdings hat das AI Office seine Arbeit noch nicht aufgenommen, und es ist unklar, wie es personell ausgestattet sein wird.

Transparenz und Fairness: Anforderungen an KI-Systeme

Europäische Regulierungen fordern Transparenz und Fairness bei KI-Systemen. Doch wie setzt man dies bei einer Blackbox-KI durch? Softwarehersteller stehen unter zunehmendem Druck, ihre Algorithmen offenzulegen und für ihre Entscheidungen Verantwortung zu übernehmen. Die EU-Richtlinien zielen darauf ab, die Beweislast zu vereinfachen und Geschädigten den Zugang zu notwendigen Unterlagen zu ermöglichen.

Minenfeld für Softwarehersteller

Für Softwarehersteller und KI-Entwickler entsteht ein echtes Minenfeld aus möglichen Haftungsfällen. Die Herausforderungen sind vielfältig:

- Was, wenn eine KI Muster halluziniert, die nicht existieren?
- Was, wenn ein medizinisches Diagnoseprogramm eine Krankheit erkennt, die gar nicht da ist?
- Was, wenn die Kreditwürdigkeit von einem Algorithmus bestimmt wird, der den Menschen dahinter nicht versteht?

Diese Fragen zeigen, dass die Haftungsfragen rund um KI komplex bleiben und eine klare rechtliche Regelung erfordern.

Haftung im Straßenverkehr

Im Straßenverkehr gilt in Deutschland die verschuldensunabhängige Halterhaftung sowie die verschuldensabhängige Fahrzeugführerhaftung. Der Fahrzeugführer haftet, wenn ihn ein Verschulden trifft, während der Halter verschuldensunabhängig haftet. Bei einem Produktfehler des genutzten KI-Systems haften Halter und Hersteller gesamtschuldnerisch.

Neue Gesetzesvorschläge

Ziel der neuen Gesetzesvorschläge der EU ist es, die Produkthaftung an neue Technologien wie KI anzupassen. Der Produkthaftungsrichtlinien-Entwurf sieht vor, dass Software ausdrücklich unter den Begriff „Produkt“ fällt. Zudem soll die Richtlinie über KI-Haftung einen erleichterten Zugang zu Beweismitteln und die Vermutung eines Sorgfaltspflichtverstoßes schaffen.

Fazit

Die Haftungsfragen rund um KI sind und bleiben komplex. Während Europa bemüht ist, einen rechtlichen Rahmen zu schaffen, der Innovation fördert und gleichzeitig Verbraucher schützt, bleibt offenbar noch viel zu tun. Softwarehersteller, Regulierungsbehörden und Nutzer müssen gemeinsam an Lösungen arbeiten, um die Chancen der KI zu nutzen, ohne dabei die Risiken zu übersehen.

Bis dahin bleibt uns nur, wachsam zu sein und gelegentlich über die Skurrilitäten dieser Tage zu schmunzeln. Und dazu gehört auch, dass Apple Intelligence in der EU erst einmal nicht zur Verfügung stehen soll, da die europäischen Gesetze Anforderungen stellen, die die Datensicherheit und den Datenschutz der Apple-Nutzer gefährden könnten.
‍

‍
Bibliographie

‍
- https://t3n.de/news/ki-haftung-1634245/
- https://www.srd-rechtsanwaelte.de/blog/kuenstliche-intelligenz-haftung/
- https://www.iccgermany.de/magazin-post/wer-haftet-fuer-fehler-der-ki-geplante-neuregelungen-zu-ki-basierten-systemen-im-automobilsektor/
- https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf
- https://www.justiz.nrw/JM/justizpol_themen/digitaler_neustart/zt_fortsetzung_arbeitsgruppe_teil_5/Bericht-Digitaler-Neustart_Haftung-bei-KI.pdf
- https://dserver.bundestag.de/btd/19/237/1923700.pdf
- https://www.derstandard.de/story/3000000176281/wer-haftet-wenn-eine-kuenstliche-inte-fehler-macht
- https://lrz.legal/de/lrz/kuenstliche-intelligenz-wer-haftet
- https://www.wiwo.de/technologie/forschung/recht-wer-haftet-wenn-kuenstliche-intelligenz-fehler-macht/22719488.html