Einfluss von Künstlicher Intelligenz auf die Schwachstellensuche in der Cybersicherheit

Künstliche Intelligenz revolutioniert die Schwachstellensuche

Die Integration von Künstlicher Intelligenz (KI) in die Cybersicherheit nimmt stetig zu. Dabei wird KI nicht nur von Angreifern genutzt, um beispielsweise Malware zu entwickeln oder Social-Engineering-Angriffe zu optimieren, sondern auch von Sicherheitsforschern, um Schwachstellen zu identifizieren und zu beheben. Kürzlich haben Google und Greynoise, zwei führende Unternehmen im Bereich der Cybersicherheit, Erfolge bei der KI-gestützten Schwachstellensuche vermeldet.

Googles "Big Sleep Agent" entdeckt Zero-Day-Lücke in SQLite

Google-Entwickler haben im Rahmen des Projekts "Naptime" und dessen Nachfolger "Big Sleep Agent" erforscht, wie Large Language Models (LLMs) für offensive Sicherheitsmaßnahmen eingesetzt werden können. Ein bemerkenswerter Erfolg dieses Projekts ist die Entdeckung einer Zero-Day-Lücke in der weit verbreiteten Open-Source-Datenbank-Engine SQLite. Der "Big Sleep Agent" identifizierte einen Pufferunterlauf, der von Angreifern ausgenutzt werden konnte. Dank der frühzeitigen Entdeckung durch die KI konnte die Schwachstelle gemeldet und von den SQLite-Entwicklern behoben werden, bevor sie öffentlich ausgenutzt werden konnte. Google betont, dass dies das erste öffentlich bekannte Beispiel einer KI ist, die einen ausnutzbaren Speicherfehler in einer häufig verwendeten Software entdeckt hat.

Greynoise's "Sift" filtert Millionen von Ereignissen und deckt Sicherheitslücken in Kameras auf

Das IT-Sicherheitsunternehmen Greynoise setzt ebenfalls auf KI zur Verbesserung der Sicherheit. Mit dem KI-System "Sift" filtert Greynoise täglich Millionen von HTTP-Ereignissen und reduziert diese auf eine überschaubare Anzahl, die von Sicherheitsexperten genauer untersucht werden können. Durch diesen Filterprozess konnte "Sift" Malware identifizieren, die auf Skripte von Servern abzielte. Im Zuge der Untersuchung dieser Auffälligkeit wurden Zero-Day-Lücken in Netzwerk-fähigen Pan-Tilt-Zoom-Kameras (PTZ) des Herstellers ValueHD Corporation entdeckt. Die Schwachstellen wurden als CVE-2024-8957 und CVE-2024-8956 katalogisiert und von der US-amerikanischen Cybersicherheitsbehörde CISA als kritische Risiken eingestuft.

Unterschiedliche KI-Ansätze mit gleichem Ziel

Google und Greynoise verfolgen unterschiedliche Ansätze bei der KI-gestützten Schwachstellensuche. Während Greynoise KI zur Anomalieerkennung und Vorfilterung von Ereignissen einsetzt, hat Google eine KI-basierte Quellcode-Analyse entwickelt. Googles Methode geht über herkömmliche Fuzzing-Techniken hinaus und basiert auf der Analyse von Exploits für bereits bekannte und gepatchte Schwachstellen. Die KI sucht nach ähnlichen, noch ungepatchten Schwachstellen. Der Fokus auf Variantenanalyse erleichtert den LLMs die Suche, da ein konkreter Ausgangspunkt vorgegeben wird. Google testet diese Methode derzeit noch mit kleineren Programmen und bekannten Schwachstellen, der Erfolg mit SQLite demonstriert jedoch das Potenzial für reale Anwendungen.

KI: Ein Werkzeug für beide Seiten

Die Beispiele von Google und Greynoise zeigen, wie KI die Schwachstellensuche revolutionieren kann. Während KI von Angreifern zur Entwicklung und Optimierung von Malware eingesetzt wird, bietet sie Sicherheitsforschern gleichzeitig mächtige Werkzeuge zur Identifizierung und Behebung von Sicherheitslücken. Diese Entwicklung unterstreicht die Bedeutung von KI als zentrale Technologie im ständigen Wettlauf zwischen Angreifern und Verteidigern im Cyberspace. Für Unternehmen wie Mindverse, die maßgeschneiderte KI-Lösungen entwickeln, eröffnet diese Entwicklung neue Möglichkeiten, die Sicherheit ihrer Kunden zu erhöhen und proaktiv gegen Cyberbedrohungen vorzugehen.

Ausblick

Die Nutzung von KI in der Cybersicherheit befindet sich noch in einem frühen Stadium, aber die bisherigen Erfolge sind vielversprechend. Es ist zu erwarten, dass KI in Zukunft eine noch größere Rolle bei der Sicherung von Systemen und Daten spielen wird. Die Entwicklung neuer KI-basierter Sicherheitslösungen wird entscheidend sein, um mit der wachsenden Komplexität und den sich ständig verändernden Cyberbedrohungen Schritt zu halten.

Bibliographie: https://www.heise.de/newsticker/classic/ https://www.greynoise.io/ https://www.mindverse.de/