Sicherheitsrisiken durch selbstverbreitenden KI-Wurm in Microsoft Copilot für Word

Die Integration künstlicher Intelligenz in alltägliche Geschäftsanwendungen verspricht Effizienzsteigerung und innovative Arbeitsweisen. Zugleich wirft sie neue Fragen bezüglich der IT-Sicherheit auf. Ein aktuelles Beispiel hierfür ist die Entdeckung eines sich selbst verbreitenden "KI-Wurms" im Microsoft Copilot für Word, der durch einen Sicherheitsforscher nachgewiesen wurde. Dieses Phänomen beleuchtet die komplexen Herausforderungen, die sich aus der Interaktion von großen Sprachmodellen (LLMs) mit Benutzerdaten und Systemfunktionen ergeben.

Die Funktionsweise des "KI-Wurms"

Der norwegische Datenwissenschaftler Håkon Måløy demonstrierte, wie eine scheinbar harmlose Word-Datei zum Träger eines sich selbst verbreitenden Angriffs werden kann. Die Methode basiert auf einer sogenannten Prompt-Injection-Technik, bei der bösartige Anweisungen in einem Dokument versteckt werden. Diese Anweisungen sind für den menschlichen Betrachter nicht sichtbar, beispielsweise durch die Verwendung von weißem Text auf weißem Hintergrund oder einer extrem kleinen Schriftgröße.

Versteckte Anweisungen und ihre Wirkung

Wenn Microsoft Copilot für Word ein solches präpariertes Dokument zur Erstellung oder Bearbeitung von Inhalten heranzieht, entfernt das System die Formatierungen wie Farbe und Schriftgröße, bevor es den Text an das zugrunde liegende Sprachmodell weitergibt. Dadurch werden die versteckten Anweisungen für Copilot lesbar und als Teil der Benutzeranfrage interpretiert. Der Clou des Wurms besteht darin, dass eine dieser Anweisungen Copilot dazu veranlasst, den gesamten bösartigen Prompt – inklusive der versteckten Anweisungen – in das neu erstellte oder bearbeitete Dokument zu kopieren. Dieses neue Dokument wird somit selbst zu einem Träger des Wurms.

Die Selbstverbreitung erfolgt, wenn ein solches infiziertes Dokument als Grundlage für weitere Copilot-Operationen dient. Ein Beispiel hierfür könnte eine manipulierte Marktanalyse sein, die aus dem Internet heruntergeladen wird. Wenn diese Analyse dann von Copilot verwendet wird, um einen Finanzbericht zu erstellen, könnten die versteckten Anweisungen die Zahlen im Bericht manipulieren und sich gleichzeitig in den neuen Finanzbericht kopieren. Dieser Finanzbericht wiederum könnte weitere Berichte infizieren, sobald er als Quelle dient.

Implikationen für die Unternehmenssicherheit

Die Entdeckung dieses "KI-Wurms" hat weitreichende Implikationen für Unternehmen, die auf KI-gestützte Tools wie Microsoft Copilot setzen. Es handelt sich hierbei nicht um traditionelle Malware, die auf ausführbarem Code oder Makros basiert, sondern um eine Schwachstelle, die die Art und Weise ausnutzt, wie KI-Modelle Inhalte verarbeiten und interpretieren.

Risiken der Informationsmanipulation

Das Hauptrisiko liegt in der unbemerkten Manipulation von Informationen. In einem Geschäftsumfeld, in dem Entscheidungen auf der Grundlage von Dokumenten und Berichten getroffen werden, könnte eine solche Manipulation schwerwiegende Folgen haben, von falschen Finanzprognosen bis hin zu kompromittierten Strategiepapieren. Da die Angriffe ohne direkten Zugriff auf das Microsoft-Konto des Opfers oder das Unternehmensnetzwerk auskommen, sondern lediglich das Teilen eines infizierten Dokuments erfordern, ist die Angriffsfläche potenziell groß.

Herausforderungen für Microsoft

Microsoft wurde bereits im März über diese Schwachstelle informiert und hat seitdem mehrere Versuche unternommen, das Problem zu beheben. Dazu gehörten das Blockieren spezifischer Formulierungen der Prompts und ein Upgrade des zugrunde liegenden Modells. Diese Maßnahmen erwiesen sich jedoch als nicht dauerhaft wirksam, da der Forscher die Payloads umformulieren konnte und die Angriffe weiterhin funktionierten. Dies deutet darauf hin, dass es sich um eine grundlegende architektonische Schwäche handelt, die nicht einfach durch Patches an spezifischen Prompts oder Modellversionen behoben werden kann.

Die Schwierigkeit liegt darin, dass das KI-Modell den potenziell bösartigen Inhalt lesen muss, um ihn verarbeiten zu können. Sobald der Inhalt gelesen wird, kann er das Urteilsvermögen des Modells beeinflussen. Microsoft selbst weist auf eine "Defense-in-Depth"-Strategie hin, die darauf abzielt, bösartige Anweisungen an mehreren Stellen zu blockieren und Nutzern zu empfehlen, unbekannte Inhalte mit Vorsicht zu behandeln und die von Copilot produzierten Ergebnisse sorgfältig zu überprüfen.

Ein breiteres Problem der KI-Sicherheit

Der "KI-Wurm" im Microsoft Copilot ist ein Beispiel für ein größeres Problem im Bereich der KI-Sicherheit: die Anfälligkeit von KI-Systemen für Prompt-Injection-Angriffe. Diese Angriffe nutzen die Tatsache aus, dass KI-Modelle den von ihnen verarbeiteten Inhalten vertrauen und Anweisungen aus diesen Inhalten ausführen können, selbst wenn diese vom Benutzer nicht beabsichtigt sind.

Ähnliche Schwachstellen in anderen KI-Anwendungen

Andere Forscher haben ähnliche Schwachstellen in verschiedenen KI-Anwendungen aufgedeckt. Ein bekanntes Phänomen ist das "Hallusquatting", bei dem KI-Code-Assistenten nicht existierende Software-Paketnamen erfinden. Angreifer können diese Namen registrieren und mit Malware füllen, in der Erwartung, dass die KI sie auf die Maschinen von Entwicklern zieht. Dies verdeutlicht, dass die Interaktion von KI mit externen Daten und die Generierung von Inhalten neue Angriffsvektoren schafft, die über traditionelle Sicherheitskonzepte hinausgehen.

Die Rolle von Prompt Engineering und Sicherheitsbewusstsein

Für Unternehmen, die KI-Tools einsetzen, bedeutet dies eine verstärkte Notwendigkeit, das Bewusstsein für solche Angriffsformen zu schärfen. Es ist entscheidend, dass Nutzer und Entwickler die Risiken von Prompt Injection verstehen und entsprechende Sicherheitsmaßnahmen implementieren. Dazu gehören nicht nur technische Lösungen, sondern auch organisatorische Richtlinien und Schulungen, um den sicheren Umgang mit KI-gestützten Anwendungen zu gewährleisten.

Die Empfehlung, jedes Dokument als potenziell unvertrauenswürdig zu behandeln und die von der KI generierten Inhalte sorgfältig zu prüfen, legt nahe, dass der menschliche Faktor weiterhin eine entscheidende Rolle bei der Absicherung von KI-Systemen spielt. Die Entwicklung von KI-Technologien erfordert eine kontinuierliche Anpassung der Sicherheitsstrategien, um mit den sich ständig weiterentwickelnden Bedrohungslandschaften Schritt zu halten.

Blick in die Zukunft

Die fortlaufende Entwicklung und Integration von KI in Unternehmensprozesse wird die Bedeutung von KI-Sicherheit weiter erhöhen. Die Fähigkeit, komplexe Bedrohungen wie den "KI-Wurm" zu erkennen, zu analysieren und wirksame Gegenmaßnahmen zu entwickeln, wird zu einem kritischen Erfolgsfaktor. Unternehmen sind gefordert, eine proaktive Haltung einzunehmen und in Forschung und Entwicklung im Bereich der KI-Sicherheit zu investieren, um das volle Potenzial der KI sicher nutzen zu können.

Die Diskussion um den "KI-Wurm" in Microsoft Copilot für Word dient als wichtiger Weckruf für die Branche, die Sicherheitsaspekte von KI-Systemen nicht zu unterschätzen und kontinuierlich an robusteren und widerstandsfähigeren Lösungen zu arbeiten.

Bibliography: - A security researcher built a self-spreading worm that hides inside Word docs and hijacks Microsoft Copilot. the-decoder.com. Verfügbar unter: https://the-decoder.com/a-security-researcher-built-a-self-spreading-worm-that-hides-inside-word-docs-and-hijacks-microsoft-copilot/ - Word worm crawls into Copilot, spreads chaos. theregister.com. Verfügbar unter: https://www.theregister.com/security/2026/07/29/word-worm-crawls-into-copilot-spreads-chaos/5280588 - Hidden prompt turns Microsoft Copilot into an AI worm. malwarebytes.com. Verfügbar unter: https://www.malwarebytes.com/blog/ai/2026/07/hidden-microsoft-copilot-ai-worm - Copilot worm can spread through Microsoft Word docs - CSO Online. csoonline.com. Verfügbar unter: https://www.csoonline.com/article/4203630/copilot-worm-can-spread-through-microsoft-word-docs.html - Microsoft Copilot’s ‘Word worm’ still works 144 days after disclosure. thenextweb.com. Verfügbar unter: https://thenextweb.com/news/microsoft-copilot-word-worm-prompt-injection-super-app - Context Collapse, Part 3 - AI Worming through Word | Håkon Måløy. linkedin.com. Verfügbar unter: https://www.linkedin.com/posts/h%C3%A5kon-m%C3%A5l%C3%B8y-770572276_context-collapse-part-3-ai-worming-through-activity-7488115879214403584-Ay6A - Microsoft can't kill dogged researcher's Copilot for Word worm - iTnews. itnews.com.au. Verfügbar unter: https://www.itnews.com.au/news/microsoft-cant-kill-dogged-researchers-copilot-for-word-worm-627830 - Researcher discovers self-propagating AI worm found inside Microsoft Copilot for Word. cybernews.com. Verfügbar unter: https://cybernews.com/security/microsoft-copilot-self-propagating-worm/ - Microsoft Confirms AI Worm Spreads Through Word Documents Using Copilot - 9to5Windows. 9to5windows.com. Verfügbar unter: https://9to5windows.com/microsoft-confirms-ai-worm-spreads-copilot-word-docs/ - Microsoft Copilot for Word vulnerable to self-propagating worm-like attack. cyberinsider.com. Verfügbar unter: https://cyberinsider.com/microsoft-copilot-for-word-vulnerable-to-self-propagating-worm-like-attack/