Neuer Rechtsrahmen für Künstliche Intelligenz in der EU

Der Europäische AI Act: Ein Regulierungsrahmen für Künstliche Intelligenz

Die Europäische Union arbeitet intensiv an der Schaffung eines umfassenden Rechtsrahmens für Künstliche Intelligenz (KI). Mit dem sogenannten AI Act soll ein weltweit einzigartiger Ansatz verfolgt werden, der darauf abzielt, die Entwicklung und den Einsatz von KI-Systemen zum Wohl der Gesellschaft zu steuern und gleichzeitig Innovationen zu fördern. Dieser Artikel beleuchtet die Kernaspekte des Entwurfs, seine potenziellen Auswirkungen auf Unternehmen und die breitere Debatte um seine Ausgestaltung.

Ein risikobasierter Ansatz als Kernprinzip

Der AI Act verfolgt einen primär risikobasierten Ansatz. Dies bedeutet, dass KI-Systeme je nach dem Grad des potenziellen Schadens, den sie für die Gesundheit, Sicherheit und die Grundrechte von Personen verursachen können, in verschiedene Risikokategorien eingeteilt werden. Diese Kategorisierung bestimmt die jeweils anzuwendenden regulatorischen Anforderungen.

Die vorgeschlagenen Risikokategorien umfassen:

• Unannehmbares Risiko: KI-Systeme, die eine klare Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte von Menschen darstellen. Diese Systeme sollen grundsätzlich verboten werden. Beispiele hierfür sind Sozial-Scoring-Systeme durch staatliche Stellen oder manipulative Subliminal-Techniken, die psychische oder physische Schäden verursachen können.
• Hochrisiko: KI-Systeme, die ein hohes Potenzial für Schäden in sensiblen Bereichen aufweisen. Hierzu gehören KI-Anwendungen in kritischen Infrastrukturen (z.B. Wasserversorgung, Verkehr), Bildung (z.B. Zugangsentscheidungen), Beschäftigung (z.B. Bewerberauswahl), Strafverfolgung (z.B. forensische Analysen), Migration und Asyl (z.B. Bewertung von Anträgen) sowie in der biometrischen Identifizierung und im Gesundheitswesen. Für diese Systeme gelten strenge Anforderungen.
• Geringes oder minimales Risiko: Die Mehrheit der KI-Systeme fällt voraussichtlich in diese Kategorie. Hierzu gehören Anwendungen wie Spam-Filter oder KI-gestützte Videospiele. Für diese Systeme sind die regulatorischen Anforderungen geringer, wobei Transparenzpflichten und Verhaltenskodizes angestrebt werden.

Anforderungen an Hochrisiko-KI-Systeme

Für Hochrisiko-KI-Systeme sieht der AI Act eine Reihe von strengen Anforderungen vor, die sowohl für Anbieter als auch für Betreiber relevant sind:

• Risikomanagementsysteme: Anbieter müssen robuste Risikomanagementsysteme etablieren, die über den gesamten Lebenszyklus des KI-Systems hinweg potenzielle Risiken identifizieren, bewerten und mindern.
• Datenqualität und Governance: Es müssen hohe Standards für die Qualität der Trainings-, Validierungs- und Testdaten gewährleistet sein, um Diskriminierung und Verzerrungen (Bias) zu minimieren.
• Technische Dokumentation und Aufzeichnung: Eine umfassende technische Dokumentation ist erforderlich, die eine transparente Nachvollziehbarkeit der Funktionsweise des KI-Systems ermöglicht. Zudem sind Protokollierungsfunktionen (Logging Capabilities) vorzusehen.
• Transparenz und Bereitstellung von Informationen: Nutzer von Hochrisiko-KI-Systemen müssen angemessen über deren Fähigkeiten, Grenzen und potenzielle Risiken informiert werden.
• Menschliche Aufsicht: Die Möglichkeit der menschlichen Aufsicht und Intervention muss gewährleistet sein, um Fehlentscheidungen von KI-Systemen korrigieren und verhindern zu können.
• Genauigkeit, Robustheit und Cybersicherheit: Die Systeme müssen ein hohes Maß an Genauigkeit, Robustheit und Cybersicherheit aufweisen, um unerwünschte Ergebnisse und Angriffe zu verhindern.
• Konformitätsbewertung: Vor dem Inverkehrbringen müssen Hochrisiko-KI-Systeme einem Konformitätsbewertungsverfahren unterzogen werden, das von einer benannten Stelle oder unter Selbstbewertung durchgeführt werden kann.

Verbotene KI-Praktiken

Der AI Act sieht ein Verbot für bestimmte KI-Praktiken vor, die als unannehmbares Risiko für die Grundrechte der Bürger eingestuft werden. Dazu gehören:

• Der Einsatz von KI-Systemen zur Manipulation menschlichen Verhaltens, die physischen oder psychischen Schaden verursachen können.
• KI-Systeme, die zur Ausnutzung von Schwachstellen bestimmter Personengruppen (z.B. Kinder, Menschen mit Behinderungen) eingesetzt werden.
• Der Einsatz von Sozial-Scoring-Systemen durch öffentliche Behörden, die eine allgemeine Bewertung der Vertrauenswürdigkeit von Personen vornehmen.
• Bestimmte Formen der Echtzeit-Biometrie-Identifizierung an öffentlich zugänglichen Orten durch Strafverfolgungsbehörden, mit eng definierten Ausnahmen.

Durchsetzung und Governance

Zur Sicherstellung einer kohärenten Umsetzung und Durchsetzung des AI Act ist die Einrichtung eines Europäischen Ausschusses für Künstliche Intelligenz (AI Board) vorgesehen. Dieser Ausschuss soll aus Vertretern der nationalen Aufsichtsbehörden bestehen und eine beratende Funktion für die Europäische Kommission einnehmen. Nationale Behörden werden für die Überwachung und Durchsetzung der Bestimmungen in ihren jeweiligen Mitgliedstaaten zuständig sein.

Zudem sind Sanktionen bei Verstößen vorgesehen, die je nach Schwere des Verstoßes erheblich sein können und bis zu einem hohen Prozentsatz des weltweiten Jahresumsatzes eines Unternehmens reichen. Dies unterstreicht die Ernsthaftigkeit, mit der die EU die Einhaltung dieser Vorschriften erwartet.

Auswirkungen auf Unternehmen und Innovation

Für Unternehmen, die KI-Systeme entwickeln, bereitstellen oder nutzen, ergeben sich aus dem AI Act erhebliche Implikationen. Insbesondere Anbieter von Hochrisiko-KI-Systemen müssen ihre internen Prozesse und Produktentwicklungszyklen an die neuen Compliance-Anforderungen anpassen. Dies umfasst Investitionen in Daten-Governance, Risikomanagement, Dokumentation und Cybersicherheit.

Gleichzeitig soll der AI Act einen Rahmen schaffen, der das Vertrauen in KI-Technologien stärkt und somit deren Akzeptanz und Verbreitung fördert. Die EU positioniert sich mit diesem Gesetz als Vorreiter in der ethischen und verantwortungsvollen Regulierung von KI, was langfristig zu einem Wettbewerbsvorteil für europäische Unternehmen führen könnte, die sich an diesen hohen Standards orientieren.

Es wird erwartet, dass der AI Act die Entwicklung von "Trustworthy AI" vorantreibt, indem er klare Richtlinien für Sicherheit, Transparenz und Rechenschaftspflicht vorgibt. Dies kann dazu beitragen, dass europäische KI-Lösungen weltweit als besonders vertrauenswürdig wahrgenommen werden.

Abschließende Gedanken und die Rolle von @thsottiaux

Die Verhandlungen über den AI Act sind ein komplexer und dynamischer Prozess, der die unterschiedlichen Interessen von Industrie, Forschung, Zivilgesellschaft und Mitgliedstaaten ausbalancieren muss. Die finale Form des Gesetzes wird entscheidend dafür sein, wie die EU ihre Ambitionen, ein globales Zentrum für vertrauenswürdige KI zu werden, umsetzen kann.

In diesen Diskussionen spielen Experten wie @thsottiaux, die sich intensiv mit den politischen, technischen und gesellschaftlichen Implikationen von KI auseinanderzusetzen, eine wichtige Rolle. Ihre Analysen und Beiträge helfen dabei, die komplexen Sachverhalte zu durchdringen und die Auswirkungen des AI Act auf die Praxis zu beleuchten. Die Perspektiven solcher Fachleute sind unerlässlich, um sicherzustellen, dass die Gesetzgebung nicht nur technologisch fundiert, sondern auch zukunftsorientiert und praktikabel ist.

Die kontinuierliche Beobachtung der Entwicklungen und die Anpassung an die kommenden Vorschriften werden für alle Akteure im KI-Ökosystem von entscheidender Bedeutung sein. Unternehmen sind gut beraten, sich frühzeitig mit den Anforderungen vertraut zu machen und proaktive Schritte zur Compliance einzuleiten, um die Chancen des AI Act zu nutzen und potenzielle Risiken zu minimieren.

Bibliography

- Europäische Kommission. (2021). Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union. Verfügbar unter: [https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52021PC0206](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52021PC0206) - Europäisches Parlament. (2023). Künstliche Intelligenz: Parlament stimmt Verhandlungsposition zum EU-Gesetz über KI zu. Verfügbar unter: [https://www.europarl.europa.eu/news/de/press-room/20230609IPR96213/kunstliche-intelligenz-parlament-stimmt-verhandlungsposition-zum-eu-gesetz-uber-ki-zu](https://www.europarl.europa.eu/news/de/press-room/20230609IPR96213/kunstliche-intelligenz-parlament-stimmt-verhandlungsposition-zum-eu-gesetz-uber-ki-zu) - Rat der Europäischen Union. (2022). Artificial Intelligence Act: Council calls for promoting safe and ethical AI. Verfügbar unter: [https://www.consilium.europa.eu/en/press/press-releases/2022/12/06/artificial-intelligence-act-council-calls-for-promoting-safe-and-ethical-ai/](https://www.consilium.europa.eu/en/press/press-releases/2022/12/06/artificial-intelligence-act-council-calls-for-promoting-safe-and-ethical-ai/)