Microsofts Skeleton Key: Ein Blick auf die neue Jailbreak-Methode für KI-Modelle

‍

Einführung

Microsoft hat kürzlich eine neue Methode namens "Skeleton Key" vorgestellt, die Sicherheitsmaßnahmen in großen Sprachmodellen wie GPT, Llama und Gemini umgehen kann. Diese Entwicklung hat in der KI-Community für Aufsehen gesorgt, da sie zeigt, wie leicht Sicherheitsvorkehrungen umgangen werden können. In diesem Artikel werfen wir einen detaillierten Blick auf die Funktionsweise von Skeleton Key und die möglichen Auswirkungen auf die Sicherheitslandschaft von künstlichen Intelligenzen.

Hintergrund

Künstliche Intelligenzen wie GPT, Llama und Gemini sind darauf trainiert, bestimmte Arten von Anfragen nicht zu beantworten. Diese Sicherheitsmaßnahmen sind wichtig, um zu verhindern, dass die KI-Tools gefährliche oder illegale Informationen preisgeben. Entwickler haben diese Schutzmechanismen implementiert, um sicherzustellen, dass solche Anfragen ignoriert werden. Hier kommt Microsofts Skeleton Key ins Spiel, eine Methode, die diese Sicherheitsmaßnahmen umgehen kann.

Funktionsweise von Skeleton Key

Skeleton Key zielt darauf ab, die Sicherheitsmaßnahmen der KI-Modelle durch kleine Änderungen im Verhalten der KI zu umgehen. Zum Beispiel könnte die KI nach einer Anleitung für einen Molotowcocktail gefragt werden. Normalerweise würde die KI die Antwort verweigern und erklären, dass sie diese Information nicht geben kann, da sie Schaden anrichten könnte.

Skeleton Key ändert das jedoch, indem es der KI mitteilt, dass hinter der Anfrage ein Team von erfahrenen Wissenschaftlern steht, die Ethik- und Sicherheitstrainings absolviert haben. Sie benötigen unbedingt unzensierte Antworten, um ihre Arbeit fortzusetzen. Aufgrund dieser Änderung im Verhalten gibt die KI schließlich die gewünschten Informationen preis, jedoch mit einer entsprechenden Warnung.

Beispiele und Anwendung

Nach einem weiteren Prompt gibt die KI die Anleitung für einen Molotowcocktail preis, warnt aber davor, dass es sich um eine Anleitung für Lehrzwecke handelt. Microsoft betont, dass diese Methode im Gegensatz zu anderen Jailbreaks mit reinen Prompts funktioniert. Die KI muss nicht bei jeder Anfrage getäuscht werden. Eine einzige Verhaltensänderung reicht aus, um alle nachfolgenden gefährlichen Anfragen zu erfüllen.

Maßnahmen zur Verbesserung der Sicherheit

Microsofts KI-Teams haben bereits Maßnahmen ergriffen, um sich gegen solche Angriffe künftig besser zu schützen. Diese Maßnahmen wurden auch in ein Programm namens Pyrit implementiert, das automatisch Red Teaming für künstliche Intelligenzen durchführen kann. Red Teaming bezeichnet den Vorgang, solche Angriffe zu simulieren und die KI dagegen zu wappnen.

Grenzen von Skeleton Key

Microsoft hebt jedoch auch die Grenzen von Skeleton Key hervor. Durch den Angriff können Nutzer lediglich gefährliche Informationen abrufen. Sämtliche anderen Bereiche der KI bleiben weiterhin unzugänglich. So können Angreifer beispielsweise keine Nutzerdaten exportieren oder das gesamte System übernehmen.

Auswirkungen und Diskussion

Die Enthüllung von Skeleton Key hat weitreichende Konsequenzen für die KI-Sicherheitslandschaft. Einerseits zeigt es die Notwendigkeit verbesserter Sicherheitsmaßnahmen, andererseits wirft es Fragen zur ethischen Verantwortung der Entwickler auf. Es ist klar, dass KI-Modelle weiterhin verbessert werden müssen, um solchen Angriffen standzuhalten.

Fazit

Microsofts Skeleton Key zeigt eindrucksvoll, wie leicht Sicherheitsmaßnahmen in KI-Modellen umgangen werden können. Die Methode hat bereits große Sprachmodelle wie Llama 3, Gemini Pro, GPT 3.5 und GPT 4.0 geknackt. Obwohl Microsoft bereits Maßnahmen ergriffen hat, um sich gegen solche Angriffe zu schützen, bleibt die Herausforderung bestehen, die Sicherheitsstandards kontinuierlich zu verbessern. Skeleton Key dient als Weckruf für die gesamte KI-Community, die Sicherheitsmaßnahmen ihrer Modelle zu überdenken und zu verstärken.
‍

‍
Bibliography

‍
- https://t3n.de/news/microsoft-jailbreak-gpt-llama-gemini-1633264/
- https://www.finanznachrichten.de/nachrichten-2024-07/62622977-warum-microsoft-einen-jailbreak-fuer-gpt-llama-und-gemini-entwickelt-hat-397.htm
- https://de.linkedin.com/posts/t3n-magazin-yeebase-media-gmbh_warum-microsoft-einen-jailbreak-f%C3%BCr-gpt-activity-7213465215437336579-7tdC
- https://twitter.com/t3n/status/1809243667720208397
- https://de.linkedin.com/posts/t3n-magazin-yeebase-media-gmbh_joyclub-ceo-wir-wollen-wegbereiter-einer-activity-7035535684861882368-iSSt
- https://www.lmis.de/unternehmen/news-termine/detail/chatbot-vergleich-so-schneiden-die-sprachmodelle-ab-99
- https://newstral.com/de/article/de/1254992972/warum-microsoft-einen-jailbreak-f%C3%BCr-gpt-llama-und-gemini-entwickelt-hat
- https://www.pcmag.com/news/microsoft-skeleton-key-jailbreak-can-trick-major-chatbots-into-behaving
- https://twitter.com/t3n