Wie Unternehmen sich gegen autonome KI-Agenten in Cyberangriffen wappnen

Wenn Angriffe nicht mehr auf menschliche Taktgeber warten

Die Automatisierung von Cyberangriffen tritt in eine neue Phase ein. Künstliche Intelligenz wird nicht mehr nur genutzt, um einzelne Arbeitsschritte zu beschleunigen, etwa beim Erstellen von Phishing-Texten oder bei der Auswertung von Sicherheitsinformationen. Zunehmend geht es um Systeme, die mehrere Aufgaben miteinander verknüpfen, Entscheidungen vorbereiten und den weiteren Verlauf eines Angriffs an den jeweiligen Kontext anpassen können.

Diese Entwicklung verändert die Risikolage für Unternehmen. Ein Angreifer benötigt künftig möglicherweise weniger Zeit und Personal, um eine große Zahl von Zielen zu untersuchen. Gleichzeitig können Angriffe flexibler und schwerer vorhersehbar werden. Die technische Herausforderung liegt daher nicht allein in der Erkennung einzelner Schadprogramme. Sie besteht zunehmend darin, autonome oder teilautonome Aktivitäten über längere Zeiträume hinweg zu erkennen, einzuordnen und zuverlässig zu stoppen.

Das angekündigte Webinar von heise security setzt genau an diesem Punkt an. Nach den vorliegenden Veranstaltungsinformationen soll die Veranstaltung zunächst erläutern, welche Möglichkeiten KI-gestützte Angreifer bereits besitzen. Anschließend wird die Perspektive auf die Verteidigung gewechselt. Dabei geht es um die Frage, an welchen Stellen Unternehmen ansetzen können, welche Grenzen der Einsatz von KI besitzt und wo etablierte Sicherheitsansätze weiterhin Vorteile haben.

Was einen KI-Agenten von einem herkömmlichen Werkzeug unterscheidet

Ein klassisches Sicherheitstool erfüllt in der Regel eine klar definierte Funktion. Ein Scanner prüft beispielsweise Systeme auf bestimmte Merkmale, ein Virenschutz erkennt verdächtige Dateien und ein Regelwerk blockiert festgelegte Verbindungen. Ein KI-Agent arbeitet potenziell anders: Er kann ein Ziel analysieren, aus Zwischenergebnissen weitere Schritte ableiten und verschiedene Werkzeuge in einer Abfolge einsetzen.

Damit ist nicht zwangsläufig gemeint, dass ein Agent vollständig unabhängig handelt. In der Praxis dürfte es zunächst häufiger hybride Szenarien geben. Menschen legen Ziele und Grenzen fest, während automatisierte Systeme die technische Aufklärung, Priorisierung oder Ausführung einzelner Schritte übernehmen. Der entscheidende Unterschied liegt in der Geschwindigkeit und in der Fähigkeit, auf neue Informationen zu reagieren.

Für die Verteidigung entstehen dadurch mehrere Konsequenzen:

• Angreifer können mehr Systeme in kürzerer Zeit untersuchen.
• Die Auswahl von Zielen kann stärker datengetrieben und dynamisch erfolgen.
• Ein Angriff kann in kleinere, unauffällige Einzelschritte zerlegt werden.
• Automatisierte Systeme können unterschiedliche Werkzeuge miteinander kombinieren.
• Die Grenze zwischen vorbereitender Recherche und tatsächlicher Ausführung wird weniger deutlich.

Diese Eigenschaften erhöhen den Druck auf Sicherheitsorganisationen. Wer erst reagiert, wenn ein Angreifer bereits weit in das Netzwerk vorgedrungen ist, verliert bei schnell ablaufenden Angriffen wertvolle Zeit. Erforderlich sind deshalb möglichst vollständige Sichtbarkeit, gut vorbereitete Reaktionsprozesse und Sicherheitskontrollen, die nicht nur auf bekannte Angriffsmuster angewiesen sind.

Die Angreifersicht als Ausgangspunkt für bessere Schutzmaßnahmen

Das Webinar soll laut Veranstaltungsbeschreibung die Perspektive der Angreifer einnehmen. Referent Frank Ully will demnach unter anderem demonstrieren, welche Werkzeuge zur Verfügung stehen und wie sich deren Einsatz auf den Ablauf eines Angriffs auswirkt. Die angekündigten Beispiele beziehen sich auf mehrere für Unternehmen besonders relevante Bereiche.

Automatisierte Analyse von Webanwendungen

Webanwendungen gehören zu den am häufigsten erreichbaren Bestandteilen einer Unternehmens-IT. Sie sind für Kunden, Beschäftigte und Geschäftspartner oft direkt über das Internet zugänglich und verfügen häufig über Schnittstellen zu Datenbanken, Identitätsdiensten oder internen Geschäftsprozessen.

Ein agentenbasiertes System kann eine Anwendung systematisch untersuchen, beobachtete Antworten auswerten und seine nächsten Prüfschritte darauf abstimmen. Im Unterschied zu einem rein statischen Scan kann ein solcher Ansatz stärker auf den konkreten Aufbau einer Anwendung reagieren. Für Verteidiger bedeutet das, dass regelmäßige Sicherheitsprüfungen, sichere Entwicklungsprozesse und eine lückenlose Inventarisierung öffentlich erreichbarer Systeme an Bedeutung gewinnen.

Besonders wichtig ist dabei die Verbindung zwischen Entwicklung und Betrieb. Schwachstellen müssen nicht nur gefunden, sondern priorisiert, behoben und anschließend verifiziert werden. Ohne klare Zuständigkeiten und dokumentierte Fristen bleiben auch leistungsfähige Prüfverfahren wirkungslos.

Active Directory und Identitätsinfrastrukturen

Identitäten und Berechtigungen sind ein zentraler Bestandteil moderner Unternehmensnetzwerke. Active Directory und vergleichbare Verzeichnisdienste steuern Zugriffe auf Arbeitsplätze, Server, Anwendungen und Daten. Fehlkonfigurationen, überprivilegierte Konten oder unzureichend geschützte Anmeldedaten können einem Angreifer ermöglichen, sich innerhalb einer Umgebung weiterzubewegen.

Nach den Angaben zum Webinar sollen auch Agenten thematisiert werden, die sich autonom durch eine Active-Directory-Umgebung arbeiten. Aus Sicht der Verteidigung ist dabei nicht entscheidend, welches konkrete Werkzeug verwendet wird. Maßgeblich ist die Fähigkeit, ungewöhnliche Beziehungen zwischen Konten, Geräten und Ressourcen zu erkennen.

Unternehmen sollten insbesondere prüfen:

• Welche Konten besitzen weitreichende administrative Rechte?
• Wo werden privilegierte Konten verwendet?
• Welche Systeme können sich gegenseitig erreichen?
• Wie werden Dienstkonten verwaltet und überwacht?
• Wie schnell lassen sich kompromittierte Identitäten sperren?
• Werden Anmeldeereignisse und Berechtigungsänderungen zentral ausgewertet?

Eine wirksame Verteidigung setzt hier nicht zwingend künstliche Intelligenz voraus. Rollenbasierte Zugriffsmodelle, Multifaktor-Authentifizierung, Netzwerksegmentierung, getrennte Administrationskonten und regelmäßige Berechtigungsüberprüfungen gehören zu den etablierten Maßnahmen. KI kann bei der Analyse großer Ereignismengen ergänzen, ersetzt aber keine saubere Identitätsverwaltung.

Quellcodeanalyse und Reverse Engineering

Große Sprachmodelle können Quellcode strukturieren, beschreiben und nach bestimmten Auffälligkeiten durchsuchen. Auch bei der Analyse von Binärdateien oder bei der Rekonstruktion technischer Zusammenhänge können sie unterstützend eingesetzt werden. Für Angreifer kann dies die Vorbereitung erleichtern, für Verteidiger eröffnet die Technologie zugleich Möglichkeiten bei der Untersuchung von Schadsoftware und der Bewertung eigener Anwendungen.

Die Ergebnisse solcher Systeme müssen jedoch fachlich überprüft werden. Sprachmodelle können Zusammenhänge plausibel darstellen, obwohl die Schlussfolgerung unvollständig oder falsch ist. In sicherheitskritischen Situationen ist daher eine nachvollziehbare Validierung erforderlich. Das gilt insbesondere dann, wenn aus einer automatisierten Analyse direkte Entscheidungen über Abschaltungen, Quarantäne oder Schwachstellenbehebungen abgeleitet werden.

Warum Geschwindigkeit allein kein ausreichendes Verteidigungskonzept ist

Die Diskussion über KI in der Cybersecurity konzentriert sich häufig auf Geschwindigkeit. Angreifer können Systeme schneller prüfen, Sicherheitsverantwortliche können Warnmeldungen schneller zusammenfassen und Analysten können sich wiederholende Aufgaben automatisieren. Geschwindigkeit ist zweifellos relevant. Sie löst jedoch nicht alle Probleme.

Ein Sicherheitssystem muss auch zuverlässig, kontrollierbar und nachvollziehbar sein. Eine automatisierte Maßnahme, die zu viele Fehlalarme erzeugt, kann den Betrieb ebenso beeinträchtigen wie ein Angriff. Werden Systeme ohne ausreichende Begrenzung mit weitreichenden Rechten ausgestattet, entsteht zudem ein eigenes Risiko. Ein fehlerhaft konfigurierter oder manipulierte Agent könnte Daten verändern, vertrauliche Informationen offenlegen oder falsche Reaktionen auslösen.

Für Unternehmen ergibt sich daraus ein dreifacher Prüfmaßstab:

• Wirksamkeit: Verbessert die KI-Anwendung nachweisbar die Erkennung, Analyse oder Reaktion?
• Kontrollierbarkeit: Können Verantwortliche Aktionen begrenzen, überprüfen und bei Bedarf sofort stoppen?
• Nachvollziehbarkeit: Ist dokumentiert, warum ein System eine bestimmte Bewertung oder Maßnahme vorgenommen hat?

Diese Kriterien sollten vor einer Einführung festgelegt werden. Ein Produkt ist nicht allein deshalb für den operativen Einsatz geeignet, weil es mit künstlicher Intelligenz arbeitet. Entscheidend ist, ob es in die vorhandene Sicherheitsarchitektur passt und dort einen messbaren Beitrag leistet.

Wo KI in der Verteidigung sinnvoll eingesetzt werden kann

Der Einsatz von KI kann für Sicherheitsabteilungen insbesondere dort interessant sein, wo große Datenmengen verarbeitet und wiederkehrende Aufgaben durchgeführt werden. Security Operations Center müssen täglich Protokolle, Netzwerkdaten, Endpunktmeldungen, Identitätsereignisse und Informationen aus externen Quellen zusammenführen. Eine automatisierte Vorstrukturierung kann Analysten dabei unterstützen, relevante Zusammenhänge schneller zu erkennen.

Mögliche Einsatzfelder sind:

• die Zusammenfassung und Priorisierung von Sicherheitsmeldungen;
• die Unterstützung bei der Analyse verdächtiger Aktivitäten;
• die Erstellung erster Hypothesen für eine Untersuchung;
• die Suche nach ähnlichen Vorfällen in historischen Daten;
• die Unterstützung bei der Dokumentation von Sicherheitsereignissen;
• die Analyse von Konfigurationsabweichungen;
• die Begleitung von Schwachstellenmanagement und Risikobewertung.

In allen diesen Bereichen sollte die Rolle des Menschen klar definiert bleiben. Für besonders folgenreiche Entscheidungen empfiehlt sich ein Freigabeprinzip, bei dem automatisierte Systeme Vorschläge machen, eine verantwortliche Person die Maßnahme jedoch bestätigt. Je größer die möglichen Auswirkungen einer Aktion sind, desto niedriger sollte der Grad autonomer Ausführung sein.

Wo klassische Sicherheitsmaßnahmen weiterhin unverzichtbar bleiben

Viele grundlegende Schutzmaßnahmen verlieren durch KI nicht an Bedeutung. Im Gegenteil: Je leistungsfähiger automatisierte Angreifer werden, desto wichtiger wird eine solide technische Basis. Dazu gehören zeitnahe Sicherheitsupdates, sichere Standardkonfigurationen, belastbare Backups und eine konsequente Segmentierung der Infrastruktur.

Auch organisatorische Maßnahmen bleiben entscheidend. Dazu zählen klare Notfallpläne, definierte Eskalationswege, Übungen für den Ernstfall und eine verlässliche Kommunikation zwischen IT, Informationssicherheit, Datenschutz, Rechtsabteilung und Geschäftsleitung. Ein Unternehmen kann über hochentwickelte Analysewerkzeuge verfügen und dennoch schlecht vorbereitet sein, wenn niemand weiß, wer im Krisenfall welche Entscheidung treffen darf.

Ein weiterer zentraler Faktor ist die Begrenzung von Berechtigungen. Agentenbasierte Angriffe können vorhandene Schwachstellen besonders effizient ausnutzen. Je weniger weitreichend einzelne Konten und Systeme miteinander verbunden sind, desto schwieriger wird eine unkontrollierte Ausbreitung. Das Prinzip der geringsten Rechte ist daher auch im Zeitalter künstlicher Intelligenz eine grundlegende Sicherheitsmaßnahme.

Die Risiken des KI-Einsatzes in Sicherheitsprozessen

Der Einsatz von KI in der Verteidigung schafft nicht automatisch mehr Sicherheit. Unternehmen müssen zunächst klären, welche Daten verarbeitet werden und ob diese Daten an externe Dienste übermittelt werden. Sicherheitsprotokolle können personenbezogene Informationen, Geschäftsgeheimnisse oder technische Details über interne Systeme enthalten. Eine unkontrollierte Nutzung von Cloud-Diensten kann dadurch zusätzliche Datenschutz- und Compliance-Risiken erzeugen.

Hinzu kommen bekannte technische Grenzen großer Sprachmodelle. Sie können falsche Informationen erzeugen, Prioritäten fehlerhaft einschätzen oder durch manipulierte Eingaben beeinflusst werden. In sicherheitskritischen Umgebungen ist deshalb eine Trennung zwischen Analyse und Ausführung besonders wichtig. Ein System sollte nicht ohne weitere Kontrollen Aktionen mit weitreichenden Folgen auslösen können.

Unternehmen sollten außerdem festlegen, wie Modelle aktualisiert werden, wer ihre Ergebnisse überwacht und wie Änderungen an Prompts, Datenquellen oder Berechtigungen dokumentiert werden. KI-Governance ist damit nicht nur ein Thema für Innovationsabteilungen. Sie betrifft unmittelbar die Informationssicherheit und muss in bestehende Richtlinien integriert werden.

Was Sicherheitsverantwortliche aus der Veranstaltung mitnehmen können

Das Webinar ist nach Angaben der Veranstalter redaktionell unabhängig und werbefrei angelegt. Im Mittelpunkt steht damit nicht die Präsentation eines einzelnen Produkts, sondern die Einordnung von Angriffsmöglichkeiten und Abwehrmaßnahmen. Für B2B-Entscheider ist dieser Ansatz relevant, weil die Einführung von KI in der Security häufig von widersprüchlichen Versprechen begleitet wird.

Eine praxisorientierte Bewertung sollte sich auf konkrete Fragen konzentrieren:

• Welche Angriffsszenarien sind für die eigene Branche und Infrastruktur realistisch?
• Welche Teile des eigenen Netzwerks sind von außen erreichbar?
• Wie schnell werden neue Schwachstellen erkannt und behoben?
• Welche Aktivitäten werden derzeit noch nicht ausreichend protokolliert?
• Welche Prozesse lassen sich sicher automatisieren?
• Bei welchen Entscheidungen muss zwingend ein Mensch eingebunden bleiben?
• Wie werden KI-Anwendungen selbst gegen Missbrauch und Manipulation geschützt?

Wer diese Fragen vor einer Veranstaltung oder einer Produktauswahl beantwortet, kann neue Informationen besser in die eigene Sicherheitsstrategie einordnen. Das Ziel sollte nicht darin bestehen, jede verfügbare KI-Funktion einzusetzen. Sinnvoller ist eine priorisierte Roadmap, die zunächst Transparenz, Zugriffsschutz und Reaktionsfähigkeit verbessert.

Einordnung für Unternehmen mit eigener KI-Nutzung

Die Debatte über angreifende KI-Agenten betrifft nicht nur klassische IT-Systeme. Auch Unternehmen, die selbst generative KI oder autonome Arbeitsagenten einsetzen, müssen ihre Angriffsfläche neu bewerten. Agenten erhalten häufig Zugriff auf Dokumente, Anwendungen, Wissensdatenbanken oder Automatisierungsschnittstellen. Werden diese Zugriffe nicht ausreichend begrenzt, kann ein kompromittierter Agent als Ausgangspunkt für weitere Angriffe dienen.

Mindverse positioniert sich als KI-Partner für Unternehmen und bündelt Anwendungen für Text, Inhalte, Bilder und Recherche. Für Organisationen, die solche Werkzeuge in ihre Arbeitsabläufe integrieren, ergeben sich daraus typische Governance-Fragen. Dazu gehören die Verwaltung von Rollen und Zugriffsrechten, die Kontrolle sensibler Eingaben, die Nachvollziehbarkeit von Ergebnissen sowie klare Regeln für die Nutzung im Unternehmen.

Besonders wichtig ist die Unterscheidung zwischen einem assistierenden System und einem System mit eigenständigen Handlungsmöglichkeiten. Ein Assistent, der einen Entwurf erstellt, hat ein anderes Risikoprofil als ein Agent, der selbstständig E-Mails versendet, Datensätze verändert oder externe Anwendungen steuert. Mit zunehmender Autonomie müssen auch Freigaben, Protokollierung und technische Begrenzungen präziser gestaltet werden.

Veranstaltungsdaten und Zielgruppe

Die vorliegenden Informationen nennen als Termin für das Webinar den 8. Oktober 2026 mit einer Veranstaltungsdauer von 10:00 bis 12:30 Uhr. Zusätzlich wird ein weiterer Termin am 30. November genannt. Interessierte sollten die aktuellen Angaben direkt auf der Veranstaltungsseite prüfen, da Termine, Preise und Teilnahmebedingungen geändert werden können.

Als regulärer Preis werden 295 Euro netto angegeben. Für einen begrenzten Frühbucherzeitraum soll ein reduzierter Preis von 259 Euro netto gelten. Mitglieder von heise security PRO können laut Veranstalter kostenlos teilnehmen. Darüber hinaus soll eine Aufzeichnung im Anschluss verfügbar sein. Ein weiteres Webinar mit dem Schwerpunkt auf dem praktischen Nutzen von KI für Verteidiger wird für den 21. Oktober angekündigt. Beide Formate behandeln unterschiedliche Perspektiven: Während die Veranstaltung zu angreifenden Agenten den Bedrohungsprozess und die Abwehr in den Mittelpunkt stellt, geht es im zweiten Format stärker um KI-Funktionen in Sicherheitsprodukten.

Die Angaben zur Veranstaltung dienen der Orientierung. Für verbindliche Informationen zu Termin, Verfügbarkeit, Kosten und Zugang ist die jeweils aktuelle Seite des Veranstalters maßgeblich.

Fazit: Vorbereitung beginnt vor dem ersten autonomen Angriff

KI-Agenten werden die Cybersecurity nicht in allen Bereichen grundlegend verändern. Sie können jedoch bestehende Angriffs- und Verteidigungsprozesse beschleunigen, miteinander verknüpfen und in Teilen automatisieren. Dadurch steigt der Wert guter Daten, sauberer Berechtigungsstrukturen und klarer Sicherheitsprozesse.

Für Unternehmen bedeutet das: Sie sollten autonome Angriffsszenarien in ihre Risikoanalysen aufnehmen, ohne sich ausschließlich auf Zukunftsprognosen zu verlassen. Viele der notwendigen Maßnahmen sind bereits heute bekannt. Dazu gehören eine aktuelle Systemlandschaft, konsequentes Patch- und Identitätsmanagement, eine belastbare Protokollierung, segmentierte Netze und regelmäßig getestete Notfallverfahren.

KI kann diese Maßnahmen ergänzen, aber nicht ersetzen. Ihre Einführung sollte anhand konkreter Sicherheitsziele, kontrollierter Pilotprojekte und überprüfbarer Ergebnisse erfolgen. Genau diese Verbindung zwischen realistischer Bedrohungsanalyse und pragmatischer Verteidigungsplanung bildet den Schwerpunkt des angekündigten heise-security-Webinars.

Bibliografie heise online: „heise security Webinar: So verteidigt man sich gegen angreifende KI-Agenten“, Jürgen Schmidt, https://www.heise.de/news/heise-security-Webinar-So-verteidigt-man-sich-gegen-angreifende-KI-Agenten-11411969.html heise online: „Autonome KI-Angreifer: Ihr Leitfaden zur IT-Verteidigung“, Jürgen Schmidt, https://www.heise.de/news/heise-security-Webinar-So-verteidigt-man-sich-gegen-angreifende-KI-Agenten-11461303.html heise Conferences: Veranstaltungsseite zum Webinar „So verteidigt man sich gegen angreifende KI-Agenten“, https://heise-conferences.de/webinar/so-verteidigt-man-sich-gegen-angreifende-ki-agenten-77Fmd87ObO9Szy heise Conferences: Ticket- und Veranstaltungsinformationen, https://tickets.heise-conferences.de/Agenten1026/ heise Conferences: „KI für Verteidiger 2026“, https://heise-conferences.de/webinar/ki-fur-verteidiger-2026-WWq3dxp7zqocrV Mindverse News: „Neue Herausforderungen in der Cybersicherheit durch autonome KI-Agenten“, https://www.mind-verse.de/news/neue-herausforderungen-cybersicherheit-autonome-ki-agenten