Neue Sicherheitstools von Meta für Künstliche Intelligenz in der Llama-Familie

Metas Sicherheitsoffensive für Künstliche Intelligenz: Neue Tools für Llama

Meta hat eine Reihe neuer Sicherheitstools und -ressourcen für seine Llama-Familie von KI-Modellen vorgestellt. Diese Maßnahmen zielen darauf ab, die Entwicklung und Nutzung von KI sicherer zu gestalten und gleichzeitig die Abwehr von Cyberangriffen zu stärken.

Verbesserte Schutzmechanismen für Llama-Modelle

Die neuen Llama Protection Tools sind über Metas eigene Webseite, Hugging Face und GitHub verfügbar. Zu den wichtigsten Neuerungen zählen:

Llama Guard 4: Dieser weiterentwickelte Sicherheitsfilter ist nun multimodal, d.h. er kann Sicherheitsregeln sowohl auf Text als auch auf Bilder anwenden. Diese Erweiterung ist angesichts der zunehmenden visuellen Ausrichtung von KI-Anwendungen von entscheidender Bedeutung. Llama Guard 4 wird auch in Metas neue Llama API integriert, die sich derzeit in einer begrenzten Vorschau befindet.

LlamaFirewall: Dieses neue Tool fungiert als zentrale Sicherheitskontrolle für KI-Systeme. Es verwaltet verschiedene Sicherheitsmodelle, die zusammenarbeiten, und integriert sich mit anderen Schutztools von Meta. LlamaFirewall soll Risiken wie Prompt-Injection-Angriffe, die Generierung von unsicherem Code und riskante Verhaltensweisen von KI-Plugins erkennen und blockieren.

Prompt Guard 2: Das Hauptmodell Prompt Guard 2 (86M) wurde verbessert, um Jailbreak-Versuche und Prompt-Injections effektiver zu erkennen. Zusätzlich wurde Prompt Guard 2 22M eingeführt, eine kleinere und schnellere Version, die Latenz und Rechenkosten um bis zu 75% reduzieren soll, ohne dabei die Erkennungsleistung wesentlich zu beeinträchtigen.

Neue Ressourcen für Cybersicherheitsexperten

Meta hat auch Updates für seine Open-Source-Tools zur Unterstützung von Cybersicherheitsexperten veröffentlicht:

CyberSec Eval 4: Diese Benchmark-Suite hilft Organisationen, die Leistung von KI-Systemen bei Sicherheitsaufgaben zu bewerten. Die neueste Version enthält zwei neue Tools:

CyberSOC Eval: Dieses in Zusammenarbeit mit CrowdStrike entwickelte Framework misst die Leistung von KI in einer realen Security Operation Center (SOC)-Umgebung. Es soll ein klareres Bild von der Effektivität der KI bei der Erkennung und Reaktion auf Bedrohungen liefern. Der Benchmark selbst wird in Kürze verfügbar sein.

AutoPatchBench: Dieser Benchmark testet die Fähigkeit von Llama und anderen KI-Systemen, Sicherheitslücken im Code automatisch zu finden und zu beheben, bevor sie von Angreifern ausgenutzt werden können.

Das Llama Defenders Program

Mit dem Llama Defenders Program bietet Meta Partnerunternehmen und Entwicklern speziellen Zugang zu verschiedenen KI-Lösungen – Open-Source, Early-Access und möglicherweise proprietäre Lösungen – die auf unterschiedliche Sicherheitsherausforderungen ausgerichtet sind. Im Rahmen dieses Programms teilt Meta auch ein intern verwendetes KI-Sicherheitstool:

Automated Sensitive Doc Classification Tool: Dieses Tool versieht Dokumente innerhalb einer Organisation automatisch mit Sicherheitskennzeichnungen, um zu verhindern, dass sensible Informationen nach außen gelangen oder versehentlich in ein KI-System eingespeist werden, wo sie durchsickern könnten.

Darüber hinaus stellt Meta Partnern den Llama Generated Audio Detector und den Llama Audio Watermark Detector zur Verfügung, um KI-generierte Stimmen in potenziellen Phishing-Anrufen oder Betrugsversuchen zu erkennen. Unternehmen wie ZenDesk, Bell Canada und AT&T haben bereits ihre Integration dieser Tools angekündigt.

Private Processing für WhatsApp

Meta gab außerdem einen Ausblick auf Private Processing, eine neue Technologie für WhatsApp, die es der KI ermöglichen soll, hilfreiche Aufgaben wie das Zusammenfassen ungelesener Nachrichten oder das Verfassen von Antworten zu erledigen, ohne dass Meta oder WhatsApp den Inhalt der Nachrichten lesen können. Meta veröffentlicht sein Bedrohungsmodell und lädt Sicherheitsforscher ein, die Architektur vor der Veröffentlichung auf Schwachstellen zu untersuchen.

Fazit

Mit diesen Ankündigungen unterstreicht Meta sein Engagement für die Sicherheit von KI. Das Unternehmen investiert nicht nur in die Sicherung seiner eigenen KI-Modelle, sondern stellt der Tech-Community auch verbesserte Tools zur Verfügung, um sichere KI-Systeme zu entwickeln und sich effektiv gegen Cyberangriffe zu verteidigen.

Bibliographie: https://www.artificialintelligence-news.com/news/meta-beefs-up-ai-security-new-llama-tools/ https://ai.meta.com/blog/ai-defenders-program-llama-protection-tools/ https://ai.meta.com/blog/llamacon-llama-news/ https://www.artificialintelligence-news.com/news/tag/facebook/ https://www.reuters.com/video/watch/idRW037930042025RP1/ https://medium.com/@ismailtasdelen/metas-llamafirewall-the-ai-security-shield-we-didn-t-know-we-needed-%EF%B8%8F-1d21c6163a4c https://thehackernews.com/2025/04/meta-launches-llamafirewall-framework.html https://eutoday.net/china-adapts-metas-open-source-ai-for-military-use/ https://en.cryptonomist.ch/2025/04/30/meta-strengthens-the-security-of-artificial-intelligence-ai-new-tools-to-protect-users-and-developers/ https://www.fastcompany.com/91110823/meta-ai-facebook-instagram-whatsapp-messenger