News
Fortschritte in der KI-Modell-Serialisierung durch Safetensors
Das Wichtigste in Kürze
- Safetensors ist ein von Hugging Face entwickeltes, sicheres Format zur Serialisierung von KI-Modellen.
- Es adressiert Sicherheitsrisiken, die bei älteren Formaten wie Pickle durch die Ausführung von beliebigem Code entstehen konnten.
- Safetensors ermöglicht schnelles und effizientes Laden von Modellen durch Memory-Mapping und Lazy Loading.
- Das Format ist framework-agnostisch und fördert die Interoperabilität zwischen verschiedenen Deep-Learning-Frameworks wie PyTorch, TensorFlow und JAX.
- Die PyTorch Foundation hat Safetensors als neues Projekt aufgenommen, um die breite Akzeptanz und Weiterentwicklung zu fördern.
- Es wird zunehmend zum De-facto-Standard für die Verteilung von grossen Sprachmodellen (LLMs) und anderen KI-Modellen.
Revolution in der KI-Modell-Serialisierung: Safetensors als neuer Standard etabliert
Die Art und Weise, wie Künstliche Intelligenz (KI)-Modelle gespeichert, geteilt und geladen werden, erfährt derzeit eine signifikante Weiterentwicklung. Ein zentraler Akteur in dieser Transformation ist das Dateiformat Safetensors, welches von Hugging Face entwickelt wurde und sich als neuer Standard für die Serialisierung von KI-Modellen etabliert. Diese Entwicklung ist von grosser Bedeutung für die gesamte KI-Branche, insbesondere für B2B-Anwendungen, da sie sowohl die Sicherheit als auch die Effizienz im Umgang mit komplexen Modellen massgeblich verbessert.
Die Notwendigkeit eines neuen Standards
Traditionelle Methoden zur Speicherung von KI-Modellen, insbesondere solche, die auf Pythons Pickle-Modul basieren (häufig in .bin- oder .pt-Dateien zu finden), bergen inhärente Sicherheitsrisiken. Das Pickle-Format ermöglicht die Serialisierung beliebigen Python-Codes, was bei der Deserialisierung die Ausführung von schädlichem Code zur Folge haben kann. Dies stellt ein erhebliches Sicherheitsrisiko dar, insbesondere wenn Modelle aus externen, potenziell nicht vertrauenswürdigen Quellen heruntergeladen und geladen werden. Für Unternehmen, die KI-Modelle in kritischen Infrastrukturen einsetzen oder sensible Daten verarbeiten, ist die Minimierung solcher Angriffsvektoren von höchster Priorität.
Neben den Sicherheitsbedenken führen traditionelle Formate oft zu ineffizienten Ladevorgängen. Grosse Modelle, insbesondere die aktuellen Large Language Models (LLMs) mit Milliarden von Parametern, benötigen lange Ladezeiten, da die gesamten Gewichte sequenziell in den Speicher gelesen werden müssen. Eine effizientere Handhabung, die auch Teilladungen oder das direkte Mapping in den GPU-Speicher ermöglicht, war daher dringend erforderlich.
Safetensors: Eine technische Betrachtung
Safetensors wurde entwickelt, um genau diese Herausforderungen zu adressieren. Das Format konzentriert sich ausschliesslich auf die Speicherung von reinen Tensordaten und Metadaten im JSON-Format. Dies eliminiert die Möglichkeit der Ausführung von beliebigem Code während des Ladeprozesses und macht Safetensors zu einer sichereren Alternative für den Austausch von Modellen.
Die zentralen technischen Vorteile von Safetensors umfassen:
- Sicherheit: Durch das Verhindern der Ausführung von beliebigem Code bietet Safetensors eine robuste Sicherheitsgrundlage, selbst in Zero-Trust-Umgebungen.
- Effizienz und Geschwindigkeit: Safetensors nutzt Memory-Mapping (mmap), wodurch Daten direkt aus der Datei in den Speicher abgebildet und ohne unnötige Kopiervorgänge verwendet werden können. Dies führt zu deutlich schnelleren Ladezeiten, teilweise um das 100-fache auf CPUs, und ist besonders vorteilhaft für grosse Modelle.
- Lazy Loading: Das Format ermöglicht das Laden von nur den benötigten Teilen eines Tensors, ohne das gesamte Modell in den Speicher laden zu müssen. Dies ist entscheidend für den effizienten Einsatz von LLMs in verteilten Lernumgebungen oder bei der Inferenzoptimierung.
- Framework-Agnostik: Safetensors ist nicht an ein spezifisches Deep-Learning-Framework gebunden und kann problemlos mit PyTorch, TensorFlow, JAX und PaddlePaddle verwendet werden. Dies fördert die Interoperabilität und den flexiblen Einsatz von Modellen über verschiedene Plattformen hinweg.
- Transparente Metadaten: Jede Tensordatei enthält klar definierte Metadaten über Form, Datentyp und Namen der Tensoren. Dies erleichtert die Introspektion und das partielle Laden.
Die Rolle der PyTorch Foundation und Hugging Face
Die treibende Kraft hinter der Entwicklung und Verbreitung von Safetensors ist Hugging Face, eine der führenden Plattformen im Bereich KI und Natural Language Processing (NLP). Die Bedeutung von Safetensors wurde kürzlich durch die Aufnahme in die PyTorch Foundation als neues Projekt unterstrichen. Die PyTorch Foundation, ein von der Linux Foundation unterstütztes Ökosystem für Open-Source-KI, zielt darauf ab, die Sicherheit und Interoperabilität von KI-Modellen zu verbessern. Durch diese Integration wird Safetensors als „De-facto-Standard“ für die Verteilung von Open-Weight-Modellen weiter gestärkt und soll zukünftig standardmässig in vielen Kontexten eingesetzt werden.
Mark Collier, Exekutivdirektor der PyTorch Foundation, betonte, dass die Aufnahme von Safetensors ein wichtiger Schritt sei, um produktionsreife KI-Modelle zu skalieren. Safetensors sichere die Modellverteilung, minimiere Risiken bei der Code-Ausführung und biete gleichzeitig eine hohe Geschwindigkeit über komplexe Computerarchitekturen hinweg.
Praktische Auswirkungen für B2B-Anwendungen
Für Unternehmen im B2B-Sektor bietet die Etablierung von Safetensors als Standard mehrere handfeste Vorteile:
- Erhöhte Sicherheit: Die minimierten Sicherheitsrisiken beim Laden von Modellen aus verschiedenen Quellen sind für Unternehmen, die auf die Integrität ihrer KI-Systeme angewiesen sind, von entscheidender Bedeutung. Dies reduziert die Angriffsfläche für Supply-Chain-Attacken auf KI-Modelle.
- Verbesserte Effizienz im Betrieb: Schnellere Ladezeiten und die Möglichkeit des Lazy Loadings ermöglichen eine effizientere Nutzung von Rechenressourcen und beschleunigen die Bereitstellung und Skalierung von KI-Anwendungen, insbesondere von LLMs. Dies ist besonders relevant für Anwendungen, die eine schnelle Kaltstartzeit erfordern, wie etwa Serverless Inference.
- Vereinfachte Interoperabilität: Die Framework-Agnostik von Safetensors erleichtert den Austausch und die Integration von Modellen zwischen verschiedenen Teams und Technologie-Stacks innerhalb eines Unternehmens oder mit externen Partnern.
- Standardisierung in der Modellverteilung: Da immer mehr Open-Source-Modelle und grosse kommerzielle Modelle im Safetensors-Format veröffentlicht werden (z.B. LLaMA, Mistral, DeepSeek), wird die Handhabung und Verwaltung dieser Modelle für Unternehmen vereinheitlicht und vereinfacht.
Die Umstellung auf Safetensors wird von vielen Akteuren im KI-Ökosystem, einschliesslich EleutherAI und Stability AI, aktiv unterstützt. Hugging Face plant, Safetensors in der Transformers-Bibliothek standardmässig für das Speichern von Modellen zu verwenden, sobald ausreichend Feedback gesammelt wurde, um eine reibungslose Migration zu gewährleisten.
Ausblick
Die Entwicklung von Safetensors ist ein exemplarisches Beispiel dafür, wie die KI-Community auf wachsende Anforderungen an Sicherheit und Effizienz reagiert. Das Format ist nicht nur eine technische Verbesserung, sondern ein strategischer Schritt zur Etablierung einer vertrauenswürdigen und hochleistungsfähigen Infrastruktur für die nächste Generation von KI-Anwendungen. Für Unternehmen bedeutet dies eine solidere Grundlage für ihre KI-Strategien, weniger Kopfzerbrechen bei der Modellintegration und die Möglichkeit, das volle Potenzial moderner KI-Modelle sicherer und schneller auszuschöpfen.
Die kontinuierliche Weiterentwicklung und breite Akzeptanz von Safetensors unterstreichen seine Position als unverzichtbaren Bestandteil des modernen KI-Ökosystems. Es wird erwartet, dass dieses Format in den kommenden Monaten und Jahren eine noch zentralere Rolle spielen wird, um die Innovationen im Bereich der Künstlichen Intelligenz sicher und effizient voranzutreiben.
Bibliography
- PyTorch Foundation. (2026, April 8). PyTorch Foundation Announces Safetensors as Newest Contributed Project to Secure AI Model Execution. PR Newswire.
- Mitchell, S. (2026, April 8). PyTorch Foundation adds Safetensors for safer AI models. IT Brief UK.
- Jean-Baptiste, G. (2023, May 23). 🐶Safetensors audited as really safe and becoming the default | EleutherAI Blog. EleutherAI Blog.
- Atreya, M. (2025, April 23). Safetensors: The Secure, Scalable Format Powering LLM Inference - Rafay Product Documentation. Rafay Product Documentation.
- Sivamani, T. (2025, March 4). Safetensors — The Future of Model Serialization | by Tharun Sivamani | Medium. Medium.
- whitedec. (2025, November 20). The New Standard for Storing AI Models: Concepts and Advantages. MIKI BLOG.
- Hugging Face. (n.d.). Export to ONNX · Hugging Face. Hugging Face Transformers Documentation.
- Hugging Face. (n.d.). 🤗 Transformers · Hugging Face. Hugging Face Transformers Documentation.
Weitere News-Artikel
Alle ansehen- Fortschritte in der KI-Optimierung durch Newton-Schulz-Orthogonalisierung und Muon-Varianten
- Fortschritte in der KI-gestützten Patientenversorgung durch DeepMinds AI Co-Clinician
- Fortschritte in der KI-gestützten physikalischen Simulation mit DeepSeek V3.1
- Fortschritte in der KI-gestützten Programmierung durch das Modell o3-mini
- Fortschritte in der KI-gestützten realistischen Porträtgenerierung
- Fortschritte in der KI-gestützten Sensorüberwachung für autonome Fahrzeuge
KI, die in Deutschland zu Hause ist.
Testen Sie Mindverse Studio oder sprechen Sie mit unserem Team über Ihren Anwendungsfall.