Debatte um die Regulierung von Künstlicher Intelligenz in Deutschland und die Rolle der Datenschutzbehörden

Debatte um die KI-Aufsicht: Niedersachsen warnt vor Kompetenzverlust der Datenschutzbehörden

Die Implementierung der europäischen KI-Verordnung in Deutschland und die damit einhergehende Gestaltung der nationalen Aufsichtsstrukturen rufen bei einigen Landesbehörden Besorgnis hervor. Insbesondere Niedersachsen hat durch seinen Landesbeauftragten für den Datenschutz, Herrn Denis Lehmkemper, deutliche Kritik an der geplanten Zentralisierung der Marktüberwachung bei der Bundesnetzagentur geäußert.

Kritik an der Zentralisierung und verfassungsrechtliche Bedenken

Herr Lehmkemper kritisierte im Rahmen seines Tätigkeitsberichts für das Jahr 2025 das Durchführungsgesetz zur KI-Verordnung. Seiner Ansicht nach verstößt die vorgesehene Konzentration der Marktüberwachungsaufgaben bei der Bundesnetzagentur nicht nur gegen europarechtliche Vorgaben, sondern auch gegen das Grundgesetz, insbesondere wenn es um den Einsatz von KI-Systemen in sensiblen Bereichen wie Schulen oder der Polizei geht. Die Datenschutzkonferenz von Bund und Ländern hat sich ebenfalls positioniert und fordert, die Durchsetzung der KI-Verordnung in Deutschland selbst zu übernehmen. Die Begründung hierfür liegt in der engen Verflechtung von KI-Systemen mit der Verarbeitung personenbezogener Daten. Eine Ansiedlung der Marktüberwachung bei einer Bundesbehörde birgt nach dieser Auffassung das Risiko, den etablierten Grundrechtsschutz zu untergraben.

Aus niedersächsischer Sicht wird die Ansiedlung der Marktaufsicht über in der Landesverwaltung genutzte KI-Systeme in Niedersachsen selbst als verfassungsrechtlich zwingend und wesentlich sinnvoller erachtet. Bislang fanden diese Appelle der Datenschützer jedoch wenig Gehör.

Herausforderungen im Datenschutzbereich und der Einfluss generativer KI

Parallel zur Debatte um die KI-Regulierung verdeutlichen die aktuellen Zahlen der niedersächsischen Datenschutzbehörde eine signifikant gestiegene Arbeitsbelastung. Das Berichtsjahr war von einem Rekordwert bei Bürgerbeschwerden, dem Aufkommen generativer KI und der Notwendigkeit digitaler Souveränität geprägt. Die Anzahl der Eingaben stieg um über 70 Prozent auf 4022 Fälle. Dieser Trend wird auch von anderen Landeskontrolleuren bestätigt.

Ein wesentlicher Faktor für diesen Anstieg sind KI-Chatbots, die bei Recherchen zu Datenschutzverstößen Musterschreiben generieren können. Diese Welle, die auch unvollständige Anträge umfasst, stellt die Aufsichtsbehörden vor erhebliche operative Herausforderungen.

KI als Beratungsschwerpunkt und die Forderung nach digitaler Souveränität

Künstliche Intelligenz hat sich zudem zu einem zentralen Beratungsschwerpunkt entwickelt. Die Behörde begleitete neben der Bearbeitung von 20 Beschwerden gegen KI-Betreiber auch Pilotversuche mit Systemen wie LLMoin und MS-Copilot Chat in der Verwaltung. Dabei wurden verschiedene Hürden identifiziert, darunter ein Mangel an spezifischen Rechtsgrundlagen sowie das Problem von KI-Halluzinationen und Verzerrungen, welche die Datenrichtigkeit in Verwaltungsverfahren beeinträchtigen können.

Herr Lehmkemper fordert vom Gesetzgeber die Schaffung klarer Rahmenbedingungen für das KI-Training sowie verbindliche Schulungen und präzisere Modelleinstellungen. Ein weiterer wichtiger Punkt ist die digitale Souveränität. Die bestehende Abhängigkeit von außereuropäischen IT-Monopolen wird als Risiko für die Sicherheit und Selbstbestimmung des Landes eingeschätzt. Anstelle proprietärer Angebote von US-Tech-Konzernen empfiehlt die Behörde die Nutzung europäischer Open-Source-Lösungen.

Im Jahr 2025 verhängte der Landesdatenschutzbeauftragte in 34 Erstbescheiden Bußgelder in Höhe von rund 705.000 Euro. Herr Lehmkemper betont, dass ein effektiver Grundrechtsschutz und Innovation Hand in Hand gehen müssen. Eine gut ausgestattete lokale Aufsicht sei dafür unverzichtbar.

Blick in die Zukunft: Die europäische KI-Verordnung und ihre nationalen Auswirkungen

Die europäische Verordnung über künstliche Intelligenz, der sogenannte AI Act, tritt am 1. August 2024 in Kraft und wird ab dem 1. Februar 2025 schrittweise angewendet. Dieser rechtliche Rahmen soll einen einheitlichen Ansatz für KI in der EU gewährleisten und gleichzeitig Innovationen fördern, während Risiken minimiert werden. Die nun diskutierten nationalen Umsetzungsmechanismen, insbesondere die Frage der Aufsichtszuständigkeiten, sind dabei von entscheidender Bedeutung für die praktische Wirksamkeit dieser Verordnung in Deutschland.

Fazit

Die Debatte um die KI-Aufsicht in Deutschland verdeutlicht die vielschichtigen Herausforderungen, die mit der rasanten Entwicklung künstlicher Intelligenz einhergehen. Die Forderungen des niedersächsischen Datenschutzbeauftragten und der Datenschutzkonferenz unterstreichen die Notwendigkeit, einen Ausgleich zwischen Innovationsförderung und dem Schutz grundlegender Rechte, insbesondere des Datenschutzes, zu finden. Die konkrete Ausgestaltung der nationalen Aufsichtsstrukturen wird maßgeblich darüber entscheiden, wie effektiv die KI-Verordnung in Deutschland umgesetzt werden kann und welche Rolle die Datenschutzbehörden dabei zukünftig spielen werden.

Bibliography:

1. heise online. (2026, 20. August). KI-Aufsicht: Niedersachsen warnt vor Entmachtung der Datenschutzbehörden. heise.de.
2. finanzen.at. (2026, 20. August). KI-Aufsicht: Niedersachsen warnt vor Entmachtung der Datenschutzbehörden. finanzen.at.
3. NG-IT in Hagen. (2026, 20. August). KI-Aufsicht: Niedersachsen warnt vor Entmachtung der Datenschutzbehörden. ng-it.de.
4. ad-hoc-news.de. (2026, 20. August). KI-Aufsicht: Datenschützer warnt vor Entmachtung durch Bundesnetzagentur. ad-hoc-news.de.
5. Der Landesbeauftragte für den Datenschutz Niedersachsen. (n.d.). Verordnung zur Künstlichen Intelligenz und der Datenschutz. lfd.niedersachsen.de.
6. de.headtopics.com. (2026, 20. August). KI-Aufsicht: Niedersachsen warnt vor Entmachtung der Datenschutzbehörden - Bundesnetzagentur. de.headtopics.com.
7. Bundesministerium für Digitales und Verkehr. (2026, 11. Februar). Kabinett beschließt schlanke KI-Aufsicht in Deutschland. bmds.bund.de.
8. Der Landesbeauftragte für den Datenschutz Niedersachsen. (n.d.). LfD Niedersachsen zu KI-Expertengesprächen: „Transparenz und Datenschutz von Beginn an sind der Schlüssel für eine vertrauenswürdige KI“. lfd.niedersachsen.de.
9. Der Landesbeauftragte für den Datenschutz Niedersachsen. (n.d.). Rechtliche Anforderungen bei KI-Nutzung. lfd.niedersachsen.de.
10. Der Landesbeauftragte für den Datenschutz Niedersachsen. (n.d.). 108. Datenschutzkonferenz: Beschlüsse zu KI, BKA-Gesetz und Onlinezugangsgesetz. lfd.niedersachsen.de.