KI zwischen Innovation und Verantwortung: Wege zu einer kontrollierten Nutzung

Warum die Kontrolle von KI an Bedeutung gewinnt

Künstliche Intelligenz entwickelt sich von einer spezialisierten Technologie zu einer grundlegenden Infrastruktur für Unternehmen, Behörden und die Gesellschaft. Sprachmodelle, automatisierte Analysewerkzeuge und generative Systeme werden zunehmend in Prozesse integriert, die bisher von Menschen oder klassischer Software ausgeführt wurden. Damit wächst nicht nur das wirtschaftliche Potenzial, sondern auch die Bedeutung von Fragen der Kontrolle, der Verantwortlichkeit und der technischen Sicherheit.

Das ZDF-heute-journal widmete sich am 16. September 2026 in einem Beitrag mit Professor Rupprecht Podszun möglichen Kontrollmöglichkeiten von KI, den Unternehmen hinter den Systemen und den Chancen Europas bei einer verlangsamt oder stärker reguliert verlaufenden Entwicklung. Der Beitrag verweist damit auf eine zentrale Entwicklung in der politischen und wirtschaftlichen Debatte: Nicht mehr allein die Frage, was KI leisten kann, steht im Mittelpunkt. Ebenso wichtig ist, unter welchen Bedingungen sie eingesetzt werden darf, wer für ihre Entscheidungen verantwortlich ist und wie Risiken begrenzt werden können.

Für Unternehmen ist diese Entwicklung von unmittelbarer Bedeutung. KI-Anwendungen können Prozesse beschleunigen, Inhalte erzeugen, Informationen strukturieren und Entscheidungen vorbereiten. Gleichzeitig können fehlerhafte, verzerrte oder nicht nachvollziehbare Ergebnisse operative, rechtliche und reputative Folgen haben. Je stärker ein System in Geschäftsprozesse eingebunden ist, desto wichtiger werden deshalb belastbare Kontrollstrukturen.

Von der technischen Leistungsfähigkeit zur institutionellen Verantwortung

Die Diskussion über KI wurde lange von technischen Fortschritten geprägt. Im Zentrum standen größere Modelle, bessere Trainingsverfahren, höhere Rechenleistung und neue Einsatzmöglichkeiten. Diese Perspektive bleibt für die wirtschaftliche Entwicklung relevant, reicht jedoch für den praktischen Betrieb komplexer KI-Systeme nicht aus.

Ein leistungsfähiges Modell ist nicht automatisch ein verlässliches oder für jeden Anwendungsfall geeignetes System. Die Qualität eines Ergebnisses hängt unter anderem von den verwendeten Daten, der konkreten Aufgabenstellung, der Einbindung in bestehende Software und der menschlichen Überprüfung ab. Auch die Art und Weise, wie ein Unternehmen ein Modell konfiguriert und nutzt, kann die Risiken maßgeblich beeinflussen.

Kontrolle bedeutet daher nicht ausschließlich, einen technischen Mechanismus zum Abschalten eines Systems vorzusehen. Sie umfasst mehrere Ebenen:

• die technische Überwachung von Eingaben, Ausgaben und Systemverhalten;
• die Festlegung klarer Verantwortlichkeiten innerhalb des Unternehmens;
• die Prüfung von Datenqualität, Datenschutz und Zugriffsrechten;
• die Dokumentation von Trainings-, Test- und Entscheidungsprozessen;
• die menschliche Kontrolle bei besonders sensiblen oder folgenreichen Anwendungen;
• die regelmäßige Neubewertung eines Systems, wenn sich Modelle, Daten oder Einsatzbedingungen ändern.

Für die Unternehmenspraxis ist dabei entscheidend, dass Kontrollmechanismen nicht erst nach einem Vorfall eingeführt werden. Sie müssen bereits bei der Auswahl eines Modells, der Definition des Anwendungsfalls und der Gestaltung des Arbeitsprozesses berücksichtigt werden.

Wer kann KI-Unternehmen kontrollieren?

Die Frage nach der Kontrolle von KI betrifft nicht nur einzelne Anwendungen, sondern auch die Unternehmen, die Modelle entwickeln, Rechenkapazitäten bereitstellen und digitale Plattformen betreiben. Diese Unternehmen verfügen häufig über erhebliche technische Ressourcen, große Datenbestände und umfangreiche finanzielle Mittel. Dadurch können sie Innovationen beschleunigen, zugleich entstehen jedoch Abhängigkeiten für Kunden, Partner und ganze Volkswirtschaften.

Eine wirksame Kontrolle muss deshalb auf mehreren Ebenen erfolgen. Staatliche Regulierung kann Mindestanforderungen für Sicherheit, Transparenz und Verantwortlichkeit schaffen. Unternehmen selbst müssen interne Kontrollsysteme etablieren. Zusätzlich spielen unabhängige Prüfstellen, wissenschaftliche Einrichtungen, zivilgesellschaftliche Organisationen und Kunden eine Rolle, indem sie Risiken untersuchen und Anforderungen an Anbieter formulieren.

Keine dieser Ebenen kann die anderen vollständig ersetzen. Staatliche Vorgaben können allgemeine Standards definieren, aber nicht jeden technischen Einzelfall erfassen. Interne Unternehmensrichtlinien sind näher am konkreten System, unterliegen jedoch den wirtschaftlichen Interessen des jeweiligen Anbieters. Unabhängige Prüfungen können zusätzliche Transparenz schaffen, benötigen dafür aber Zugang zu ausreichenden Informationen.

Für B2B-Anwender entsteht daraus eine praktische Konsequenz: Unternehmen sollten sich nicht allein auf Versprechen von Anbietern verlassen. Vor der Einführung eines KI-Systems ist zu prüfen, welche Informationen über Modell, Datenverarbeitung, Sicherheitsmaßnahmen, Aktualisierungen und Verantwortlichkeiten verfügbar sind. Auch vertragliche Regelungen können festlegen, wie mit Ausfällen, Datenschutzverletzungen oder fehlerhaften Ergebnissen umgegangen wird.

Die besondere Bedeutung menschlicher Aufsicht

Bei vielen KI-Anwendungen ist die menschliche Aufsicht ein zentrales Element der Risikosteuerung. Das gilt insbesondere dann, wenn die Ergebnisse erhebliche Auswirkungen auf Personen oder Unternehmen haben. Beispiele sind Personalentscheidungen, Kreditprüfungen, medizinische Einschätzungen, sicherheitsrelevante Prozesse oder die Bewertung rechtlich sensibler Inhalte.

Menschliche Kontrolle darf allerdings nicht auf eine formale Freigabe reduziert werden. Wenn Mitarbeitende lediglich automatisch erzeugte Ergebnisse bestätigen, ohne sie fachlich prüfen zu können, entsteht eine Scheinsicherheit. Wirksam ist Aufsicht nur dann, wenn die verantwortlichen Personen ausreichend geschult sind, die Grenzen des Systems verstehen und bei Bedarf eingreifen können.

Unternehmen müssen daher klären, welche Entscheidungen vollständig automatisiert werden dürfen, bei welchen Vorgängen eine verpflichtende Prüfung notwendig ist und wann ein System nicht eingesetzt werden sollte. Ebenso wichtig ist die Frage, wie Mitarbeitende Fehler melden und Entscheidungen nachvollziehen können. Ein klarer Eskalationsprozess kann verhindern, dass problematische Ergebnisse unbemerkt in operative Abläufe gelangen.

Die Einführung von KI verändert damit auch Arbeitsrollen. Beschäftigte benötigen nicht nur technisches Bedienwissen, sondern ein Verständnis für Datenqualität, Modellgrenzen und mögliche Fehlinterpretationen. In vielen Bereichen wird sich die Verantwortung von der manuellen Bearbeitung einzelner Aufgaben hin zur Überwachung automatisierter Prozesse verlagern.

Europas mögliche Einstiegschance

Im ZDF-Beitrag wird auch die europäische Perspektive angesprochen. Eine gedrosselte Entwicklung, eine stärkere Regulierung oder eine vorsichtigere Markteinführung internationaler KI-Systeme könnte für Europa eine besondere Ausgangslage schaffen. Während eine langsamere Entwicklung kurzfristig Wettbewerbsnachteile befürchten lässt, kann sie zugleich Raum für eigene Standards, Geschäftsmodelle und Infrastrukturen eröffnen.

Europa verfügt über einen großen Binnenmarkt, eine starke Forschungslandschaft und eine ausgeprägte Tradition des Datenschutzes und der Regulierung digitaler Technologien. Daraus kann ein Wettbewerbsvorteil entstehen, wenn es gelingt, verlässliche KI-Systeme zu entwickeln und gleichzeitig attraktive Bedingungen für Unternehmen zu schaffen. Voraussetzung ist, dass Regulierung nicht isoliert betrachtet wird, sondern mit Forschung, Investitionen, Fachkräfteentwicklung und leistungsfähiger digitaler Infrastruktur verbunden wird.

Eine europäische Strategie steht dabei vor einem Spannungsfeld. Einerseits sollen Risiken für Bürgerinnen, Bürger und Unternehmen begrenzt werden. Andererseits müssen Entwicklungszeiten, Kosten und bürokratische Anforderungen so gestaltet sein, dass neue Anwendungen nicht ausschließlich außerhalb Europas entstehen oder betrieben werden.

Für Unternehmen ergibt sich daraus eine doppelte Perspektive. Sie müssen einerseits beobachten, welche gesetzlichen und technischen Anforderungen für ihre KI-Anwendungen gelten. Andererseits können sie von einem Markt profitieren, in dem Vertrauen, Nachvollziehbarkeit und geprüfte Qualität zu wichtigen Auswahlkriterien werden. Gerade in Branchen mit hohen Anforderungen an Sicherheit, Datenschutz und Dokumentation können europäische Standards eine Grundlage für langfristige Geschäftsmodelle bilden.

Was eine langsamere Entwicklung für den Markt bedeuten würde

Eine Verlangsamung der KI-Entwicklung kann unterschiedliche Ursachen haben. Dazu zählen strengere gesetzliche Vorgaben, begrenzte Rechenkapazitäten, höhere Kosten für hochwertige Trainingsdaten, Sicherheitsprüfungen oder eine vorsichtigere Investitionspolitik. Der Begriff beschreibt daher nicht zwingend einen vollständigen Stillstand, sondern kann auch eine Phase bedeuten, in der Entwicklung und Markteinführung stärker geprüft werden.

Für Anbieter könnte dies längere Entwicklungszyklen und höhere Anforderungen an Tests und Dokumentation zur Folge haben. Für Anwender könnte sich die Auswahl von Systemen verändern. Nicht allein die Frage nach der maximalen Modellleistung wäre ausschlaggebend, sondern auch nachweisbare Zuverlässigkeit, Datenschutz, Integrationsfähigkeit und die Möglichkeit, ein System kontrolliert zu betreiben.

Eine solche Entwicklung könnte den Wettbewerb auf dem KI-Markt neu ordnen. Anbieter mit besonders großen Modellen hätten möglicherweise weiterhin Vorteile bei Rechenleistung und Forschung. Gleichzeitig könnten spezialisierte Systeme an Bedeutung gewinnen, die für bestimmte Branchen oder Aufgaben optimiert sind und sich leichter überprüfen lassen. Auch kleinere Modelle, die lokal oder in geschützten Unternehmensumgebungen betrieben werden können, könnten für sensible Anwendungen attraktiver werden.

Für die Wirtschaft wäre entscheidend, ob eine stärkere Regulierung zu verlässlicheren Märkten führt oder ob sie den Zugang zu wichtigen Technologien erschwert. Diese Wirkung hängt unter anderem davon ab, wie klar die Anforderungen formuliert sind, wie schnell Behörden und Prüfstellen arbeiten und ob Unternehmen ausreichende Unterstützung bei der Umsetzung erhalten.

Risiken für Unternehmen: Fehler, Intransparenz und Abhängigkeit

Der Einsatz von KI kann eine Reihe von Risiken bündeln. Ein System kann falsche Informationen erzeugen, Quellen unzutreffend zusammenführen oder in bestimmten Situationen überzeugend formulierte, aber sachlich unbrauchbare Ergebnisse liefern. Bei generativen Anwendungen wird dieses Problem häufig als sogenannte Halluzination bezeichnet. Die Bezeichnung darf jedoch nicht darüber hinwegtäuschen, dass es sich im Unternehmenskontext um konkrete Qualitäts- und Haftungsfragen handelt.

Hinzu kommen Risiken durch verzerrte Daten. Wenn Trainings- oder Referenzdaten bestimmte Gruppen, Regionen oder Sachverhalte unvollständig abbilden, können die Ergebnisse systematisch unausgewogen sein. Auch Änderungen am Modell oder an der zugrunde liegenden Plattform können die Resultate beeinflussen, ohne dass Anwender dies sofort erkennen.

Ein weiteres Risiko liegt in der Abhängigkeit von einzelnen Anbietern. Unternehmen, die zentrale Arbeitsprozesse auf einen externen KI-Dienst stützen, müssen Verfügbarkeit, Preise, Schnittstellen und Nutzungsbedingungen berücksichtigen. Ein Anbieterwechsel kann technisch aufwendig sein, insbesondere wenn Datenformate, Workflows oder interne Anwendungen eng an ein bestimmtes System gebunden sind.

Für das Risikomanagement sollten Unternehmen deshalb unter anderem folgende Fragen beantworten:

• Welche Geschäftsprozesse hängen von der KI-Anwendung ab?
• Welche Folgen hätte ein fehlerhaftes oder nicht verfügbares System?
• Welche Daten werden verarbeitet, wo werden sie gespeichert und wer kann darauf zugreifen?
• Wie werden Ergebnisse dokumentiert und nachträglich überprüft?
• Welche Alternativen stehen bei einem Ausfall oder Anbieterwechsel zur Verfügung?
• Wer trägt die fachliche und rechtliche Verantwortung für die Nutzung?

Die Rolle von KI im B2B-Arbeitsalltag

Für B2B-Unternehmen liegt der Nutzen von KI häufig in der Unterstützung bestehender Prozesse. Systeme können Texte entwerfen, Dokumente zusammenfassen, Wissensbestände durchsuchen, Bilder erstellen, Recherchen strukturieren oder interne Informationen aufbereiten. Der wirtschaftliche Wert entsteht dabei nicht allein durch das Modell, sondern durch seine Einbettung in einen klar definierten Arbeitsablauf.

Ein verlässlicher Prozess legt fest, welche Aufgaben die KI übernimmt, welche Informationen sie verwenden darf und an welcher Stelle ein Mensch das Ergebnis kontrolliert. Je klarer diese Arbeitsteilung ist, desto besser lassen sich Effizienzgewinne und Qualitätsanforderungen miteinander verbinden.

Plattformen wie Mindverse können in diesem Zusammenhang als Schnittstelle für unterschiedliche KI-gestützte Aufgaben dienen. Für Unternehmen ist bei der Auswahl einer solchen Lösung nicht nur die Zahl der verfügbaren Funktionen relevant. Ebenso wichtig sind eine nachvollziehbare Bedienung, sichere Datenverarbeitung, geeignete Freigabeprozesse und die Möglichkeit, Ergebnisse in bestehende Arbeitsumgebungen zu integrieren.

Gerade bei der Erstellung von Inhalten, der Recherche und der automatisierten Aufbereitung von Informationen bleibt die fachliche Prüfung entscheidend. KI kann die Geschwindigkeit erhöhen und Zugang zu Werkzeugen vereinfachen. Die Bewertung der Relevanz, Aktualität und rechtlichen Verwendbarkeit eines Ergebnisses muss jedoch weiterhin in den jeweiligen Verantwortungsbereich des Unternehmens eingebettet werden.

Kontrolle als Wettbewerbsvoraussetzung

Die zunehmende Bedeutung von Kontrollmechanismen bedeutet nicht zwangsläufig, dass Unternehmen auf Innovation verzichten müssen. Vielmehr kann eine strukturierte Kontrolle dazu beitragen, KI schneller und sicherer in den Betrieb zu integrieren. Wenn Zuständigkeiten, Datenflüsse und Prüfprozesse frühzeitig festgelegt sind, lassen sich spätere Korrekturen und Betriebsunterbrechungen besser vermeiden.

Für die Wettbewerbsfähigkeit wird dabei nicht nur die technische Leistungsfähigkeit eines Modells ausschlaggebend sein. Unternehmen müssen auch zeigen können, dass sie KI nachvollziehbar und verantwortungsvoll einsetzen. Das kann bei Kunden, Geschäftspartnern und Aufsichtsbehörden zunehmend zu einem Vertrauensfaktor werden.

Ein professioneller Umgang mit KI umfasst deshalb mehrere Schritte:

• Identifikation geeigneter und ungeeigneter Anwendungsfälle;
• Bewertung der Risiken vor der Einführung;
• Festlegung von Rollen und Verantwortlichkeiten;
• Schulung der betroffenen Mitarbeitenden;
• technische und fachliche Prüfung der Ergebnisse;
• regelmäßige Überwachung der Systemleistung;
• Dokumentation von Änderungen, Vorfällen und Korrekturmaßnahmen.

Diese Maßnahmen können an den jeweiligen Risikograd angepasst werden. Ein Werkzeug zur Unterstützung bei der Formulierung interner Texte erfordert in der Regel andere Kontrollen als ein System, das Entscheidungen über den Zugang zu Finanzierungen oder über Beschäftigungsverhältnisse vorbereitet.

Ausblick: Die nächste Phase der KI-Debatte

Die Diskussion, die der ZDF-Beitrag mit Professor Rupprecht Podszun aufgreift, verweist auf eine grundlegende Veränderung des politischen und wirtschaftlichen Blicks auf künstliche Intelligenz. Die zentrale Frage lautet zunehmend nicht mehr, ob KI eingesetzt wird, sondern wie dieser Einsatz gestaltet und begrenzt werden kann.

In den kommenden Jahren dürfte sich der Wettbewerb zwischen Technologieanbietern daher auf mehrere Ebenen ausweiten. Neben Modellgröße und Geschwindigkeit werden Sicherheit, Transparenz, Datenschutz, Energieverbrauch, Integrationsfähigkeit und regulatorische Anschlussfähigkeit an Bedeutung gewinnen. Anbieter müssen ihre Systeme nicht nur leistungsfähig, sondern auch für Kunden und Prüfstellen nachvollziehbar machen.

Für Unternehmen bedeutet dies, KI nicht als isoliertes Softwareprodukt zu betrachten. Sie ist Teil einer organisatorischen, technischen und rechtlichen Infrastruktur. Wer ihre Einführung plant, sollte daher neben dem erwarteten Produktivitätsgewinn auch die langfristigen Anforderungen an Kontrolle, Dokumentation und Verantwortlichkeit einbeziehen.

Europa steht dabei vor der Aufgabe, einen eigenen Weg zwischen technologischer Offenheit und wirksamer Begrenzung von Risiken zu finden. Eine mögliche Verlangsamung der Entwicklung könnte diesen Prozess erschweren, zugleich aber die Gelegenheit schaffen, belastbare Standards und vertrauenswürdige Anwendungen zu etablieren. Ob daraus ein wirtschaftlicher Vorteil entsteht, hängt davon ab, wie konsequent Forschung, Regulierung und praktische Umsetzung miteinander verbunden werden.

Fest steht: Je stärker KI in Unternehmen und öffentliche Strukturen integriert wird, desto dringender wird die Frage nach ihrer Kontrolle. Technologische Innovation und verantwortungsvolle Governance sind dabei keine voneinander getrennten Ziele. Für einen nachhaltigen Einsatz müssen sie gemeinsam gedacht und in konkrete Prozesse übersetzt werden.

Bibliografie ZDF, heute journal: „Bei KI wird es (...) noch dringender“, veröffentlicht am 16.09.2026. https://www.zdf.de/video/magazine/heute-journal-104/sgs-podszun-gellinek-100 ZDFheute, Beitragseintrag: „Bei KI wird es (...) noch dringender“, 16.09.2026. https://www.zdfheute.de/video/heute-journal/sgs-podszun-gellinek-100.html ZDF, heute journal – Magazinübersicht. https://www.zdf.de/magazine/heute-journal-104