Risiken der Künstlichen Intelligenz: Einsatz von Googles Gemini durch Cyberkriminelle

Künstliche Intelligenz im Visier von Cyberkriminellen: Googles Gemini als Werkzeug für Hacker

Die rasante Entwicklung der Künstlichen Intelligenz (KI) birgt nicht nur enormes Potenzial, sondern auch neue Risiken. Ein aktueller Bericht der Google Threat Intelligence Group (GTIG) beleuchtet die Nutzung von Googles KI-Assistent Gemini durch staatlich geförderte Hackergruppen. Diese nutzen Gemini offenbar, um ihre Angriffe effektiver zu planen und durchzuführen. Dabei geht es weniger um die Entwicklung völlig neuer Angriffsmethoden, sondern vielmehr um die Optimierung bestehender Verfahren und die Steigerung der Effizienz.

Gemini: Ein vielseitiges Werkzeug im Cyber-Arsenal

Die GTIG identifizierte verschiedene APT-Gruppen (Advanced Persistent Threat), insbesondere aus dem Iran und China, die Gemini für diverse Zwecke einsetzen. Die Anwendungen reichen von der Unterstützung bei Programmieraufgaben bis hin zur Recherche über potenzielle Angriffsziele. Konkret wurde Gemini unter anderem für folgende Aktivitäten genutzt:

- Unterstützung bei der Entwicklung von Hacking-Tools und Skripten - Recherche zu öffentlich bekannten Sicherheitslücken - Übersetzungen und Erklärungen technischer Dokumentationen - Informationsbeschaffung über Zielorganisationen - Suche nach Methoden zur Umgehung von Sicherheitsmechanismen

Die Hackergruppen setzen Gemini in verschiedenen Phasen des Angriffszyklus ein. Iranische Akteure nutzen die KI beispielsweise intensiv für Aufklärung, Phishing-Kampagnen und Einflussoperationen. Chinesische Gruppen konzentrieren sich hingegen auf US-Militär und -Regierungsorganisationen, Schwachstellenforschung und Aktivitäten nach einer erfolgreichen Kompromittierung des Zielsystems.

Länderspezifische Unterschiede im Einsatz von Gemini

Die GTIG beobachtete länderspezifische Unterschiede im Einsatz von Gemini. Während iranische Hacker die KI breit gefächert einsetzen, fokussieren sich chinesische Gruppen auf spezifische Ziele und Aufgaben. Nordkoreanische APTs nutzen Gemini in mehreren Phasen des Angriffszyklus, unter anderem für die Malware-Entwicklung und Verschleierungstechniken. Russische Akteure zeigen bisher nur geringes Interesse an Gemini und nutzen die KI primär für Skript-Unterstützung und Übersetzungen. Möglicherweise setzen sie auf eigene KI-Modelle oder meiden westliche Plattformen aus Sicherheitsgründen.

Sicherheitsmaßnahmen und zukünftige Herausforderungen

Google berichtet auch von Versuchen, die Sicherheitsmechanismen von Gemini zu umgehen. Bislang blieben diese Versuche jedoch erfolglos. Die zunehmende Verbreitung von generativen KI-Systemen birgt jedoch die Gefahr, dass diese für kriminelle Zwecke missbraucht werden. Es ist daher unerlässlich, robuste Sicherheitsmaßnahmen zu implementieren und die Entwicklungen im Bereich KI-gestützter Cyberangriffe genau zu beobachten. Die Herausforderung besteht darin, das Potenzial der KI zu nutzen und gleichzeitig die Risiken zu minimieren.

Mindverse: Ihr Partner im KI-Zeitalter

Mindverse, der deutsche Anbieter von KI-gestützten Content-Lösungen, bietet Unternehmen die Möglichkeit, die Vorteile der KI sicher und effektiv zu nutzen. Von der Textgenerierung über die Bilderstellung bis hin zur Entwicklung maßgeschneiderter KI-Lösungen wie Chatbots, Voicebots und KI-Suchmaschinen – Mindverse unterstützt Unternehmen dabei, die Chancen der KI zu nutzen und gleichzeitig die damit verbundenen Risiken zu minimieren.

Bibliographie: - heise.de/news/Hacker-Gruppen-nutzen-Googles-KI-Gemini-fuer-Aufklaerung-und-Angriffsvorbereitung-10267018.html - businessinsider.de/wissenschaft/gemini-hacker-aus-china-und-iran-nutzen-googles-ki-um-produktiver-zu-sein/ - de.finance.yahoo.com/nachrichten/gemini-hacker-china-iran-nordkorea-103009245.html - de.egw.news/realothers/news/26200/google-uncovers-hackers-misusing-gemini-ai-jAnsWKkEX - sal-a.de/ - netzpalaver.de/2025/01/31/google-bericht-bedrohungsakteure-nutzen-gemini-fuer-ihre-zwecke/ - blog.google/intl/de-de/unternehmen/technologie/gemini/ - infopoint-security.de/bedrohungsakteure-nutzen-gemini-fuer-ihre-zwecke/a39610/ - gemini.google.com/?hl=de