Forderungen nach einem neuen Rechtsrahmen für Künstliche Intelligenz zum Schutz der Menschenrechte

Parlamentarischer Aufruf für umfassende KI-Gesetzgebung zum Schutz der Menschenrechte

Ein parteiübergreifender Ausschuss des britischen Parlaments hat sich nachdrücklich für die Einführung eines neuen Gesetzespakets ausgesprochen, das die Menschenrechte vor den potenziellen Bedrohungen durch Künstliche Intelligenz (KI) schützen soll. Der Gemeinsame Ausschuss für Menschenrechte (JCHR) hat in einem detaillierten Bericht die Notwendigkeit einer umfassenden rechtlichen und regulatorischen Neuausrichtung betont, da die aktuellen Rahmenbedingungen den rasanten Entwicklungen und der zunehmenden Komplexität von KI-Systemen nicht gerecht werden.

Die Lücke im aktuellen Rechtsrahmen

Der JCHR hebt hervor, dass der derzeitige Gesetz- und Regulierungsansatz für KI in keiner Region der Welt, einschließlich des Vereinigten Königreichs, als zweckmäßig anzusehen ist. Die bestehenden Gesetze tendieren dazu, die Verantwortung primär auf die Nutzer von KI-Systemen abzuwälzen, anstatt die Entwickler und die gesamte Lieferkette in die Pflicht zu nehmen. Dies führt zu einer fragmentierten Landschaft, die Lücken im Schutz der Menschenrechte aufweist.

Ein zentraler Kritikpunkt ist die mangelnde Befugnis von Regulierungsbehörden, KI-Systeme vor ihrer Markteinführung umfassend zu testen und zu bewerten. Zudem fehle es an Mechanismen, die eine Veröffentlichung von Systemen mit inakzeptablen Risiken verhindern könnten. Die freiwillige Zusammenarbeit von Modellentwicklern mit Einrichtungen wie dem AI Security Institute ohne gesetzliche Grundlage wird als unzureichend erachtet.

Forderungen nach einem neuen KI-Gesetz

Der Ausschuss fordert ein umfassendes neues KI-Gesetz, das die gesamte Lieferkette und den Lebenszyklus von KI-Systemen abdeckt. Dieses Gesetz soll einen risikobasierten Ansatz verfolgen, bei dem Systeme mit geringem Risiko weniger strengen Anforderungen unterliegen, während Hochrisiko-Anwendungen strengere Auflagen erfüllen müssen. Ziel ist es, Innovationen nicht unnötig zu behindern, aber gleichzeitig einen robusten Schutz zu gewährleisten.

Zu den Kernforderungen des JCHR gehören:

• Einrichtung einer unabhängigen Aufsichtsbehörde: Eine zentrale, unabhängige KI-Aufsichtsbehörde soll gesetzlich etabliert werden. Diese Behörde würde als Anlaufstelle für Bedenken bezüglich des KI-Einsatzes dienen, die Überwachung und Bewertung von KI-Risiken übernehmen und über weitreichende Befugnisse zur Rechenschaftspflicht von KI-Anbietern verfügen, einschließlich der Festlegung von Verhaltenskodizes, Transparenzanforderungen und Sanktionsmöglichkeiten.
• Regulierung der gesamten Lieferkette: Verpflichtungen sollen für alle Phasen des KI-Lebenszyklus gelten, um sicherzustellen, dass alle Akteure in der Lieferkette – von Designern über Entwickler bis hin zu Nutzern – ihrer Verantwortung gerecht werden.
• Verbot bestimmter KI-Anwendungen: Einige KI-Anwendungen, die mit den Menschenrechten unvereinbar sind, sollen gänzlich verboten werden. Hierzu könnten subliminale Techniken, unangemessene Profilerstellung oder die Nutzung biometrischer Daten gehören. Eine öffentliche Konsultation soll die Details dieser Verbote klären.
• Mandatorische Transparenzanforderungen: Es sollen verbindliche Transparenzpflichten über den gesamten KI-Lebenszyklus eingeführt werden. Bei KI-Systemen, die erhebliche Auswirkungen auf Einzelpersonen oder Gruppen haben können, soll die Pflicht bestehen, den Einsatz von KI und dessen Funktionsweise offenzulegen.
• Stärkung der Datenschutzgesetze: Die bestehenden Datenschutzbestimmungen, insbesondere die UK GDPR, sollen gestärkt werden, um einen robusten Schutz vor dem Missbrauch automatisierter Entscheidungsfindung zu gewährleisten. Die bloße Anwesenheit eines „Human in the Loop“ wird dabei nicht als ausreichend für eine sinnvolle menschliche Beteiligung oder Intervention erachtet.
• Recht auf effektive Rechtsbehelfe: Die Möglichkeit für Einzelpersonen, wirksame Rechtsbehelfe gegen durch KI getroffene Entscheidungen einzulegen, muss gesichert sein. Dies erfordert ausreichende Transparenz über die Funktionsweise von KI-Systemen und effektive Mechanismen zur Anfechtung von Entscheidungen.

Konkrete Risiken und Fallbeispiele

Der Bericht des JCHR veranschaulicht die potenziellen Menschenrechtsrisiken durch konkrete Beispiele:

• Diskriminierung: KI-Systeme können, wenn sie mit voreingenommenen Daten trainiert werden, Diskriminierung verstärken. Beispiele hierfür sind Diskriminierung bei Einstellungsverfahren oder die Fehlidentifikation von Personen mit bestimmten ethnischen Merkmalen durch Gesichtserkennungssoftware.
• Verletzung der Privatsphäre: Der Einsatz von KI kann zu invasiven Datensammlungen führen, beispielsweise durch Gesichtserkennungstechnologien im öffentlichen Raum ohne Zustimmung der Betroffenen. Die Möglichkeit, anonymisierte Daten durch die Kombination verschiedener Datensätze wieder zu identifizieren, stellt ein erhebliches Risiko dar.
• Mangelnde Transparenz und Rechenschaftspflicht: Wenn öffentliche und private Einrichtungen KI zur Entscheidungsfindung einsetzen, fehlt es oft an Transparenz über die Funktionsweise dieser Systeme, was es Betroffenen erschwert, Entscheidungen anzufechten oder zu verstehen, wie sie zustande gekommen sind.
• Deepfakes und Fehlinformationen: Die Fähigkeit von KI, realistische, aber manipulierte Inhalte zu erstellen (Deepfakes), birgt erhebliche Risiken für die Verbreitung von Fehlinformationen und die Verletzung der persönlichen Integrität.

Internationale Zusammenarbeit und die Rolle des Vereinigten Königreichs

Der Ausschuss betont die Notwendigkeit internationaler Zusammenarbeit, um die globalen Auswirkungen von KI-Schäden zu adressieren und konsistente Standards zu fördern. Das Vereinigte Königreich solle weiterhin eine führende Rolle bei internationalen KI-Gipfeln spielen und sich an internationalen Erklärungen und Abkommen zur KI-Sicherheit beteiligen.

Die Diskussionen über die Regulierung von KI gewinnen weltweit an Bedeutung. Führende Persönlichkeiten der KI-Branche, wie Dario Amodei von Anthropic, haben sich ebenfalls für eine Verlangsamung der Entwicklungsgeschwindigkeit und eine stärkere Regulierung ausgesprochen. Diese Forderungen werden von anderen Branchengrößen wie Sam Altman von OpenAI und Elon Musk unterstützt, was die Dringlichkeit der Thematik unterstreicht.

Ausblick

Die Forderungen des Gemeinsamen Ausschusses für Menschenrechte markieren einen wichtigen Schritt in der Debatte um die Regulierung von Künstlicher Intelligenz. Sie unterstreichen die Notwendigkeit, proaktiv zu handeln und einen robusten rechtlichen Rahmen zu schaffen, der die Chancen der KI nutzt, aber gleichzeitig die Grundrechte und Freiheiten der Menschen schützt. Die Umsetzung dieser Empfehlungen würde eine erhebliche Neuausrichtung der Gesetzgebung und Aufsicht in Bezug auf KI bedeuten und könnte als Blaupause für andere Länder dienen, die sich ähnlichen Herausforderungen stellen.

Bibliographie

• BBC News. (2026, 14. September). Select committee calls for bill to address AI threat to human rights.
• Committees – UK Parliament. (2026, 14. September). Wide-ranging AI Bill needed to address severe human rights risks posed by AI.
• Computer Weekly. (2026, 14. September). UK lawmakers call for new law to protect human rights from AI systems.
• IT Pro. (2026, 14. September). Human rights committee calls for new AI safety law.
• Local Government Lawyer. (2026, 14. September). Human rights committee calls for AI Bill, single AI regulator and tougher UK GDPR rules on automated decisions.
• The Guardian. (2026, 14. September). UK MPs and Lords call for new laws to tackle AI threat to human rights.
• The European. (2026, 14. September). MPs and Peers Call for UK Ban on AI That Could Evade Human Control.