KI in der Cybersecurity: Unterstützung ja, Sicherheitsverantwortung bleibt beim Menschen

Ein Kursangebot, keine Wirksamkeitsstudie

Der heise-Beitrag beschreibt ein Weiterbildungsprogramm zu KI in der Cybersecurity. Im Mittelpunkt stehen Sprachmodelle, Coding-Agenten, Angriffe auf KI-Systeme und Deepfakes – sowie mögliche Anwendungen für Verteidigungsteams. Der Text ist damit vor allem eine Darstellung von Kursinhalten und angekündigten Terminen, keine unabhängige Untersuchung der Sicherheitslage. [1]

Diese Einordnung ist für die Bewertung der Aussagen wichtig: Der Beitrag behauptet, Angreifende nutzten KI, um effizienter und zielgerichteter vorzugehen, und verweist auf tatsächliche Vorfälle. Er nennt in dem vorliegenden Text aber weder konkrete Fälle noch Daten zu Häufigkeit, Schadenshöhe oder eingesetzten Methoden. Auch Messwerte zur Wirksamkeit der beschriebenen Schutzansätze fehlen. [1]

Eine zusätzliche Kurzfassung beschreibt KI ebenfalls als Quelle neuer Herausforderungen und Möglichkeiten, liefert jedoch keine weitergehenden Belege. Sie bestätigt die Kernausrichtung des Themas, nicht unabhängig die im heise-Beitrag genannten Bedrohungsentwicklungen. [3]

• Der Beitrag skizziert Themen und Lernziele, aber keine empirischen Ergebnisse. [1]
• Die ergänzende Kurzfassung ist keine eigenständige Bestätigung von Vorfällen oder Schutzwirkungen. [3]

Was der Text belegt – und was offenbleibt

Belegt ist, welche Themen das Programm behandeln soll: unter anderem sichere Modellauswahl, Datenschutz, Prompt Injection, Red Teaming sowie Angriffe auf Netzwerke und Webanwendungen. Offen bleibt, welche konkreten Werkzeuge oder Verfahren in den Sessions eingesetzt werden und wie deren Wirksamkeit geprüft wird. [1]

Der heise-Beitrag kündigt an, reale Vorfälle als Anschauungsmaterial heranzuziehen, führt diese aber nicht aus. Aus dem Text lässt sich deshalb weder ableiten, wie verbreitet KI-gestützte Angriffe sind, noch ob sie gegenüber herkömmlichen Angriffen nachweislich erfolgreicher sind. [1]

KI als Assistenz für Verteidigungsteams

Als Leitidee nennt das Angebot die Augmentierung der Verteidigenden: KI soll wiederkehrende oder arbeitsintensive Aufgaben unterstützen, während Admins und IT-Sicherheitsverantwortliche sich auf komplexere Bedrohungen konzentrieren. Als mögliche Anwendungsfelder führt der Beitrag die Suche nach Schwachstellen, OSINT zur Verringerung der eigenen Angriffsfläche und ein beschleunigtes Patch-Management auf. [1]

Auch Coding-Agenten sollen laut Programm mit bestehenden Werkzeugen verbunden werden können, um Sicherheitswerkzeuge zu erstellen oder vorhandene Abläufe zu unterstützen. Der Text belegt damit, dass solche Anwendungsfälle Gegenstand der Weiterbildung sind; er berichtet jedoch nicht von einem bereits nachgewiesenen Produktivitätsgewinn oder einer konkreten Implementierung in einem Unternehmen. [1]

Für Unternehmen ergibt sich daraus eine praktische Prüffrage: Welche Aufgaben lassen sich unterstützend automatisieren, und an welchen Stellen müssen Fachkräfte Ergebnisse kontrollieren oder Entscheidungen selbst treffen? Das ist eine Analyse der im Beitrag beschriebenen Arbeitsteilung, kein dort dokumentierter Erfahrungswert. [1]

• Genannte Verteidigungsfelder sind OSINT, Schwachstellensuche und Patch-Management. [1]
• Coding-Agenten werden als Möglichkeit beschrieben, vorhandene Werkzeuge zu verbinden und Sicherheitswerkzeuge zu bauen; konkrete Resultate nennt der Text nicht. [1]

Die Schnittstellen werden Teil der Sicherheitsfrage

Der Beitrag hebt hervor, dass ein sicheres Modell allein noch kein sicheres System ergibt. Zugleich behandelt er den Aufbau einer Infrastruktur mit RAG – ausgeschrieben Retrieval Augmented Generation – und MCP, dem Model Context Protocol, sowie den Schutz von Daten. Damit rückt das Zusammenspiel von Modell, angebundenen Komponenten und organisatorischem Einsatz in den Blick. [1]

Für die Praxis folgt daraus als Analyse: Bei jeder Integration sollten Unternehmen nicht nur das Modell betrachten, sondern auch festlegen, welche Daten und Werkzeuge in den jeweiligen Ablauf einbezogen werden und wer dessen Ergebnisse prüft. Der Beitrag selbst beschreibt keine konkreten Berechtigungsmodelle oder technischen Referenzarchitekturen; weitergehende Aussagen dazu wären durch die vorliegenden Quellen nicht gedeckt. [1]

Prompt Injection, Leitplanken und Red Teaming

Ein weiterer Schwerpunkt ist der Schutz von LLM-Systemen gegen Prompt Injection. Der Beitrag nennt außerdem Guardrails, also Schutzleitplanken, Red-Teaming-Werkzeuge für Belastungstests und Frameworks zur Risikobewertung. Er stellt diese Maßnahmen als Themen der Weiterbildung vor, macht aber keine Angaben zu konkreten Testverfahren, Ergebnissen oder geprüften Systemen. [1]

Die Abfolge verweist auf einen wichtigen Zusammenhang: Schutzmaßnahmen müssen nicht nur eingerichtet, sondern auch geprüft werden. Dass Red Teaming im Programm zur Überprüfung der Leitplanken vorgesehen ist, beschreibt den geplanten Ansatz; es belegt nicht, dass bestimmte Schutzmechanismen Angriffe zuverlässig verhindern. [1]

Für Verantwortliche ist deshalb zwischen vorhandener Kontrolle und nachgewiesener Kontrolle zu unterscheiden. Eine dokumentierte Leitplanke ist zunächst eine Maßnahme; belastbar wird ihre Aussagekraft erst durch nachvollziehbare Tests. Diese Einordnung ist eine Schlussfolgerung aus den im Beitrag genannten Schutz- und Testthemen. [1]

• Der Text nennt Prompt Injection als Risiko für LLM-Systeme. [1]
• Guardrails, Red Teaming und Risikobewertungs-Frameworks werden als Schutz- beziehungsweise Prüfthemen aufgeführt. [1]

Ein Modell ist nicht das ganze System

Die Unterscheidung zwischen Modell und Gesamtsystem ist für Unternehmen zentral, weil das Angebot ausdrücklich vor dem Schluss warnt, ein sicheres Modell bedeute automatisch ein sicheres System. Zugleich behandelt es RAG, MCP und Coding-Agenten als Bestandteile einer KI-gestützten Sicherheitsinfrastruktur. [1]

Daraus lässt sich ableiten, dass die Prüfung nicht bei der Auswahl eines Modells enden sollte. Ebenso relevant sind die konkreten Verbindungen und Einsatzabläufe, die das Unternehmen aufbaut. Welche technischen Prüfungen dafür erforderlich sind, führt der Beitrag allerdings nicht aus. [1]

Auch die Angreiferseite bleibt Teil des Programms

Die angekündigten Inhalte beschränken sich nicht auf Verteidigung. Der Beitrag nennt Angriffe auf KI-Systeme, Sprachmodelle, Agenten, MCP-Server und Skills sowie Themen wie Netzwerke, Active Directory, Webanwendungen, Schadcode, Reverse Engineering und Deepfakes. Er stellt damit unterschiedliche Teile einer IT-Umgebung und mehrere Formen generativer KI in den Lehrplan. [1]

Zu Deepfakes und weiteren Angriffsthemen verweist der Text auf reale Vorfälle, ohne diese zu benennen. Für eine belastbare Einschätzung der konkreten Methoden, ihrer Verbreitung oder der betroffenen Branchen reicht diese Darstellung daher nicht aus. Eine weitergehende Fallanalyse lässt sich aus dem vorliegenden Material nicht erstellen. [1]

Die thematische Breite ist dennoch für Sicherheitsverantwortliche relevant: Sie zeigt, dass das Angebot KI-Risiken nicht auf die Qualität generierter Inhalte reduziert, sondern auch Agenten, Infrastrukturen und klassische IT-Angriffsflächen einbezieht. Diese Einordnung beschreibt den Kurszuschnitt, nicht eine unabhängige Bewertung der tatsächlichen Bedrohungslage. [1]

• Als Themen nennt der Beitrag unter anderem Angriffe auf Netzwerke, Active Directory und Webanwendungen sowie Deepfakes. [1]
• Konkrete Vorfälle oder Fallbeschreibungen werden im vorliegenden Text nicht ausgeführt. [1]

Verantwortung bleibt bei den Menschen

Der Beitrag formuliert ausdrücklich, dass die Verantwortung für Security weiterhin beim Menschen liegen soll und KI als weiteres Werkzeug zu verstehen ist. Das passt zur angekündigten Ausrichtung auf Unterstützung statt vollständiger Automatisierung. [1]

Für Unternehmen bedeutet das als Analyse: Zuständigkeiten sollten auch dann klar bleiben, wenn KI Aufgaben vorbereitet oder mit Werkzeugen verbunden wird. Der heise-Text nennt dieses Verantwortungsprinzip, beschreibt aber keine konkreten Freigabeprozesse oder Organisationsmodelle. [1]

Fünf angekündigte Sessions im November und Dezember

Das Programm umfasst laut heise fünf jeweils vierstündige Sessions, die von 9 bis 13 Uhr stattfinden sollen. Die Termine sind für den 10. und 17. November sowie den 24. November und den 8. und 15. Dezember 2026 angekündigt. [1]

Inhaltlich reichen die geplanten Einheiten von Angriffen auf KI-Systeme und dem Aufbau eines LLM-Ökosystems über generative KI für Verteidigungsteams bis zu Cybercrime, Schadcode, Reverse Engineering und Deepfakes. Der Beitrag kündigt außerdem Aufzeichnungen und Übungsmaterialien für die spätere Vertiefung an. Diese Angaben beschreiben das Angebot; sie sind kein Nachweis für die Qualität oder den Lernerfolg der Sessions. [1]

Für B2B-Entscheider ist die wichtigste belastbare Aussage daher weniger eine konkrete Prognose über KI-Angriffe als die im Programm erkennbare Arbeitslogik: KI soll Sicherheitsaufgaben unterstützen, ihre Ergebnisse müssen aber in ein geprüftes Gesamtsystem und menschliche Verantwortlichkeit eingebettet bleiben. Der Beitrag liefert dafür Themen und Leitlinien, aber keine unabhängigen Messdaten, mit denen Unternehmen den Nutzen oder die Wirksamkeit bestimmter Ansätze quantifizieren könnten. [1]

• Die angekündigten Sessions behandeln sowohl Schutzmaßnahmen als auch Angriffsformen. [1]
• Der Beitrag nennt Aufzeichnungen und Übungsmaterialien als Bestandteile des Angebots. [1]

Quellen

1. [1] KI in der Cybersecurity – Sicherheit trotz Coding-Agenten, LLMs und Deepfakes | heise online — https://www.heise.de/news/KI-in-der-Cybersecurity-Sicherheit-trotz-Coding-Agenten-LLMs-und-Deepfakes-11447465.html (abgerufen am 2026-10-27)
2. [3] heise-Angebot: KI in der Cybersecurity – Sicherheit trotz Coding-Agenten, LLMs und Deepfakes - NG-IT in Hagen — https://www.ng-it.de/heise-angebot-ki-in-der-cybersecurity-sicherheit-trotz-coding-agenten-llms-und-deepfakes-3 (abgerufen am 2026-10-27)