Der EU AI Act und seine Implikationen für den Datenschutz

Der EU AI Act und der Datenschutz: Ein Balanceakt zwischen Innovation und Regulierung

Künstliche Intelligenz (KI) prägt zunehmend unseren Alltag und die Wirtschaft. Von Chatbots über Sprachmodelle bis hin zu komplexen Algorithmen in der Industrie – die Anwendungsmöglichkeiten sind vielfältig. Doch mit dem Fortschritt der KI wachsen auch die Bedenken hinsichtlich des Datenschutzes. Die Europäische Union (EU) hat mit dem AI Act ein umfassendes Regelwerk geschaffen, das den Spagat zwischen Innovationsförderung und dem Schutz der Grundrechte, insbesondere des Datenschutzes, versucht.

Der AI Act: Ein risikobasierter Ansatz

Der AI Act verfolgt einen risikobasierten Ansatz. KI-Systeme werden in vier Risikokategorien eingeteilt: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und niedriges Risiko. Je höher das potenzielle Risiko einer KI-Anwendung, desto strenger die Regulierung.

Systeme mit inakzeptablem Risiko, wie z.B. Social Scoring durch Behörden oder manipulative Emotionserkennung, sind verboten. Hochrisiko-KI-Systeme, die etwa in der medizinischen Diagnostik oder im Personalwesen eingesetzt werden, unterliegen strengen Anforderungen, darunter Transparenzpflichten, Qualitätskontrollen und menschliche Aufsicht. Für Systeme mit begrenztem Risiko, wie Chatbots, gelten Transparenzpflichten, während KI-Anwendungen mit niedrigem Risiko keiner besonderen Regulierung unterliegen.

Herausforderungen für KI-Modelle wie ChatGPT

Besonders im Fokus stehen sogenannte "General Purpose AI"-Modelle (GPAI) wie ChatGPT. Diese vielseitig einsetzbaren KI-Systeme, die Texte generieren, Bilder erstellen und komplexe Aufgaben lösen können, stellen den AI Act vor Herausforderungen. Die EU-Regulierung verlangt von GPAI-Anbietern unter anderem die Offenlegung von urheberrechtlich geschützten Trainingsdaten und die Kennzeichnung von KI-generierten Inhalten. Für besonders leistungsstarke GPAI gelten zusätzliche Pflichten, etwa die Überwachung schwerwiegender Vorfälle und Angriffstests.

Die Frage der Trainingsdaten ist zentral. KI-Modelle werden mit riesigen Datenmengen trainiert, darunter oft auch personenbezogene Daten aus dem Internet. Der AI Act und die DSGVO stellen sicher, dass diese Daten rechtmäßig erhoben und verarbeitet werden. Die Einhaltung der Betroffenenrechte, wie das Recht auf Auskunft und Löschung, ist bei der Nutzung von KI-Modellen jedoch komplex und stellt sowohl Anbieter als auch Nutzer vor Herausforderungen.

Datenschutzbehörden: Wichtige Rolle bei der Umsetzung

Die Datenschutzbehörden der Mitgliedsstaaten spielen eine entscheidende Rolle bei der Umsetzung des AI Act und der DSGVO im Kontext von KI. Sie überwachen die Einhaltung der Datenschutzbestimmungen und gehen Beschwerden nach. Die italienische Datenschutzbehörde Garante hat beispielsweise ChatGPT aufgrund von Datenschutzbedenken zwischenzeitlich sperren lassen. Dieses Beispiel zeigt die Bedeutung der Datenschutzbehörden bei der Durchsetzung der europäischen Datenschutzstandards im Bereich der KI.

Ausblick: Innovation und Datenschutz im Einklang

Der AI Act ist ein ambitioniertes Projekt, das die Entwicklung und den Einsatz von KI in Europa regulieren und gleichzeitig Innovationen fördern soll. Die Umsetzung des AI Act und die Zusammenarbeit zwischen den Datenschutzbehörden werden entscheidend sein, um ein Gleichgewicht zwischen Innovation und dem Schutz der Grundrechte zu gewährleisten. Die Diskussion um den Datenschutz im Kontext von KI wird die Entwicklung dieser Technologie in den kommenden Jahren maßgeblich prägen. Für Unternehmen, die KI-Systeme entwickeln oder einsetzen, ist es wichtig, die Anforderungen des AI Act und der DSGVO zu kennen und umzusetzen, um rechtliche Risiken zu vermeiden.

Bibliographie: - https://www.heise.de/newsticker/netzpolitik/ - https://www.datenschutzexperte.de/blog/chatgpt-datenschutz-welche-folgen-hat-die-nutzung-des-chatbots - https://www.computerbase.de/2023-04/ki-regulierung-digitalminister-wissing-will-keine-chatgpt-sperre-wie-in-italien/ - https://tarnkappe.info/artikel/kuenstliche-intelligenz/chatgpt-entspricht-nicht-den-datenschutzstandards-der-eu-296488.html - https://blogs.tu-berlin.de/datenschutz_notizen/2024/05/07/die-ki-verordnung-und-die-orientierungshilfe-der-datenschutzkonferenz-zu-ki/ - https://www.datenschutzticker.de/2024/06/meta-stoppt-vorerst-ki-training-in-der-eu/ - https://www.youtube.com/watch?v=qMzcAOkSmPc - https://www.ihk.de/darmstadt/produktmarken/digitalisierung/ai-act-die-eu-reguliert-ki-6261116 - https://www.betriebsrat.de/news/kuenstliche-intelligenz/innovation-vs-regulierung-eu-beschluss-zur-kuenstlichen-intelligenz-3001072