Offene KI zwischen Cyberrisiko und demokratischer Kontrolle

Warum die Debatte auch die Demokratie betrifft

Die politische Dimension der KI-Debatte reicht über Cybersecurity hinaus. Der DIW-Präsident Marcel Fratzscher argumentiert in einem Beitrag, die demokratische Herausforderung liege auch in der Konzentration von Daten, Rechenleistung und Basismodellen bei wenigen privaten Akteuren. Dadurch könne sich Einfluss auf Märkte, Informationsflüsse und staatliche Handlungsfähigkeit verlagern. Das ist die Analyse des Autors, keine im Beitrag quantifizierte Messung der Machtverteilung. [2]

Hinzu kommen mögliche Folgen für öffentliche Debatten. Der DIW-Beitrag beschreibt, wie generative KI die Erstellung und zielgruppengerechte Verbreitung manipulativer Inhalte erleichtern könne. Ein Bericht über einen Vortrag von Markus Beckedahl nennt Deepfakes, Desinformation und koordinierte Online-Kampagnen als Risiken für Wahlkämpfe und digitale Öffentlichkeit. Diese Beiträge stützen die Relevanz des Themas, stellen aber keinen Nachweis dar, dass ein offenes Modell wie GLM-5.3 für solche Aktivitäten eingesetzt wurde. [2][5]

Für demokratische Institutionen ist zudem entscheidend, ob sie KI-Systeme, die in Verwaltung oder anderen sensiblen Bereichen eingesetzt werden, verstehen und kontrollieren können. Fratzscher warnt vor einer Verschiebung von Verantwortung in schwer überprüfbare Systeme; Beckedahl fordert unabhängige, gut ausgestattete Behörden und transparente Regulierung. Zusammengenommen markieren diese Positionen ein Governance-Problem: Technische Leistungsfähigkeit allein beantwortet nicht, wer Entscheidungen verantwortet und wie Betroffene sie anfechten können. [2][5]

Auch wirtschaftliche Interessen prägen die Auseinandersetzung

Der Titel des t3n-Beitrags verweist auf die finanziellen Interessen hinter der Debatte. Der zugängliche Textauszug enthält dazu jedoch keine konkreten Investitionssummen oder eine ausführliche Analyse der Geschäftsmodelle. Solche Zahlen lassen sich daraus nicht verlässlich ableiten. [1]

In der ZDFheute-Diskussion vertrat Kipker die Einschätzung, dass KI-Labore unter Investoren- und Wettbewerbsdruck stünden, neue Produkte auf den Markt zu bringen. Er deutete öffentliche Forderungen nach Regulierung zugleich als möglicherweise von wirtschaftlichen Interessen mitgeprägt, weil Unternehmen an der Ausgestaltung künftiger Regeln beteiligt sein könnten. Diese Aussagen sind die Einschätzung eines interviewten Experten; die Sendung belegt damit nicht unabhängig die Motive einzelner Unternehmen. [3]

Für die Debatte um offene Modelle ergibt sich daraus eine analytische Frage: Wer trägt die Kosten für Sicherheitsprüfungen, Dokumentation und mögliche Schäden, wenn ein Modell weit verbreitet ist? Die verfügbaren Quellen liefern darauf keine konkrete Antwort für GLM-5.3. Sie zeigen aber, warum Zugangsfragen nicht getrennt von Aufsicht, Verantwortlichkeit und den Anreizen für schnelle Produktveröffentlichungen diskutiert werden sollten. [1][3]

Was Unternehmen aus der Debatte ableiten können

Für Unternehmen ist weder ein pauschaler Ausschluss offener Modelle noch ihre uneingeschränkte Nutzung eine Schlussfolgerung, die sich aus den vorliegenden Quellen ergibt. Der Fall GLM-5.3 macht zunächst deutlich, dass Zugänglichkeit und Veränderbarkeit bei der Risikoprüfung berücksichtigt werden sollten. Die ZDFheute-Diskussion lenkt zusätzlich den Blick auf Konfiguration, Schutzmechanismen und die Frage, wie weit ein Agent im Betrieb handeln darf. [1][3]

Analytisch folgt daraus, Modellzugang und Einsatzrisiko getrennt zu bewerten. Eine Organisation sollte zunächst prüfen, welche konkrete Aufgabe das Modell übernehmen soll, welche Systeme und Daten es dafür erreichen kann und ob seine Ausgaben vor folgenreichen Aktionen überprüft werden. Das sind Governance-Empfehlungen, keine in den Quellen dokumentierten Vorgaben für GLM-5.3. Sie setzen bei den dort beschriebenen Risiken durch Fehlkonfiguration und weitreichende Integration an. [3]

Ebenso sollte die Beschaffung nicht allein auf der Bezeichnung „offen“ oder „geschlossen“ beruhen. Der verfügbare Berichtsauszug belegt bei GLM-5.3 Download- und Änderungsmöglichkeiten, enthält aber keine ausreichenden Informationen zu Trainingsdaten, Prüfverfahren oder Einsatzgrenzen. Wo diese Angaben für eine Entscheidung relevant sind, bleibt eine Prüfung durch Anbieterinformationen und eigene Tests erforderlich; aus den vorliegenden Texten lässt sich ihr Vorhandensein nicht bestätigen. [1]

Besondere Vorsicht ist angezeigt, wenn ein Modell als Agent nicht nur Inhalte erzeugt, sondern in Abläufe eingebunden wird, die externe Systeme oder kritische Prozesse berühren. Kipker warnte im ZDF-Gespräch vor zunehmenden Risiken durch die Integration agentischer Systeme in Unternehmen und kritische Bereiche. Daraus folgt nicht, dass jeder Agent unsicher ist; es spricht aber dafür, Berechtigungen und menschliche Kontrolle als Teil der Einführung zu behandeln. [3]

Regulierung kann Risiken begrenzen, aber nicht allein lösen

In der ZDFheute-Diskussion wurde der EU AI Act als wichtiger Schritt für einen rechtlichen Rahmen bewertet. Kipker hob dabei Sicherheits-, Transparenz- und Dokumentationspflichten sowie menschliche Kontrolle als relevante Ansatzpunkte hervor. Zugleich merkte er an, dass Kriminelle sich nicht an Regulierung halten. Die Quelle belegt damit die Position des Experten, nicht die Wirksamkeit einzelner Regeln in einem konkreten Angriffsszenario. [3]

Fratzscher fordert im DIW-Beitrag darüber hinaus, staatliche Institutionen technisch handlungsfähig zu machen und europäische Rechenkapazitäten sowie Beschaffungsstrategien auszubauen. Beckedahl spricht sich für offene digitale Infrastrukturen und unabhängige Behörden aus. Die Vorschläge unterscheiden sich in ihrer Reichweite, setzen aber an einer ähnlichen Frage an: Wie verhindern öffentliche Stellen, dass ihre Kontrollfähigkeit hinter der technischen und wirtschaftlichen Entwicklung zurückbleibt? [2][5]

Eine internationale Regelung bleibt nach Einschätzung des im ZDF interviewten Experten schwierig, solange Staaten KI auch als geopolitischen Wettbewerbsfaktor behandeln. Kipker sah dabei vor allem Transparenz über Sicherheitsvorfälle und nachvollziehbare Kontrollen als dringlich an. Für Unternehmen heißt das nicht, auf globale Standards zu warten: Interne Regeln für Zugriffsrechte, Prüfung und Verantwortlichkeit bleiben unabhängig vom Verlauf internationaler Verhandlungen relevant. [3]

Die Beweislage zum konkreten Modell bleibt begrenzt

Der belastbare Kern des aktuellen Anlasses ist schmaler als die politische Debatte, die er auslöst: Anthropic hat GLM-5.3 laut dem zugänglichen t3n-Auszug als erhebliches Cyberrisiko eingestuft; zugleich sei das Modell frei herunterladbar und veränderbar. Der Auszug erläutert weder die Bewertungsmethode noch konkrete Angriffe, die auf das Modell zurückzuführen wären. [1]

Die ergänzenden Quellen beschreiben allgemeine Cyber- und Demokratiefragen, nicht eine unabhängige Prüfung von GLM-5.3. Das DIW analysiert mögliche Machtverschiebungen und Risiken für Öffentlichkeit und Institutionen; ZDFheute dokumentiert Einschätzungen eines IT-Sicherheitsexperten; der Bericht über Beckedahls Vortrag fasst Forderungen zu digitaler Resilienz zusammen. Diese Texte liefern Kontext, aber keine Bestätigung der konkreten Anthropic-Bewertung. [2][3][5]

Die offene KI-Debatte sollte deshalb weder mit der Behauptung geführt werden, zugängliche Modelle seien automatisch gefährlich, noch mit der Annahme, Offenheit garantiere Kontrolle. Für Unternehmen und Politik ist die entscheidende Frage, welche Fähigkeiten ein Modell tatsächlich besitzt, wie es eingesetzt wird und ob Verantwortliche den Einsatz wirksam überwachen können. Die vorhandenen Quellen begründen diese Prüfaufgaben, beantworten sie für GLM-5.3 aber nicht abschließend. [1][2][3]

Quellen

1. [1] Offene Modelle: Demokratisierung oder Einladung für Hacker? — https://t3n.de/news/debatte-um-offene-ki-es-geht-um-cybersicherheit-demokratie-und-sehr-viel-geld-1768097 (abgerufen am 2026-10-21)
2. [2] DIW Berlin: Künstliche Intelligenz bedroht die Demokratie, aber anders als gedacht — https://www.diw.de/de/diw_01.c.1006279.de/nachrichten/kuenstliche_intelligenz_bedroht_die_demokratie__aber_anders_als_gedacht.html (abgerufen am 2026-10-21)
3. [3] Why Anthropic, OpenAI, and Co. are warning the UN Security Council about AI | ZDFheute live - YouTube — https://www.youtube.com/watch?v=Oj_Gpq6RlP0 (abgerufen am 2026-10-21)
4. [4] Künstliche Intelligenz trifft die Demokratie | Mehr Demokratie e.V. — https://www.mehr-demokratie.de/nachrichten/einzelansicht/kuenstliche-intelligenz-trifft-die-demokratie (abgerufen am 2026-10-21)
5. [5] Markus Beckedahl: Cybersicherheit als Demokratiefrage — Kommunikationstechnologien und Cybersicherheit — https://www.forschung-it-sicherheit-kommunikationssysteme.de/nationale-konferenz-it-sicherheitsforschung-2025/nachberichterstattung/markus-beckedahl-cybersicherheit-als-demokratiefrage (abgerufen am 2026-10-21)