Mistral Large 4: Billionenparameter-Modell setzt auf offene Gewichte und Mehrzweckbetrieb

MoE-Architektur: viele Experten, weniger aktive Parameter

Die Modellkarte nennt rund 1,05 Billionen Gesamtparameter und 52 Milliarden aktive Parameter. Hugging Face und NVIDIA unterscheiden genauer: 49 Milliarden Parameter sind pro Token aktiv, 52 Milliarden ergeben sich einschließlich Embeddings und Ausgabeschichten. Diese Werte widersprechen sich nicht zwingend, sondern verwenden unterschiedliche Zählweisen. Für die praktische Einordnung ist entscheidend, dass die Gesamtgröße nicht mit der Zahl der gleichzeitig für jedes Token genutzten Parameter gleichzusetzen ist. [1][3][4][5]

Large 4 verwendet 128 geroutete Experten. Für jedes Token wählt ein Router vier davon aus; zusätzlich wird ein gemeinsamer Experte aktiviert. Die ersten 71 von insgesamt 72 Decoder-Schichten verwenden laut Hugging Face MoE-Blöcke, während die erste Schicht ein dichtes Feed-forward-Netzwerk einsetzt. Die Architektur soll so große Modellkapazität mit selektiver Berechnung verbinden. Daraus folgt allerdings nicht automatisch ein geringer Hardwarebedarf: Gewichte, Kontextlänge, Parallelisierung und Zahl gleichzeitiger Anfragen bestimmen weiterhin die Anforderungen an den Betrieb. [1][3]

Hugging Face beschreibt außerdem Multi-head Latent Attention mit komprimiertem KV-Zustand und einen Sparse-Attention-Indexer, der pro Anfrage bis zu 2.048 frühere Positionen auswählt. Der Vision-Encoder basiert auf Pixtral und umfasst laut derselben Darstellung 1,6 Milliarden Parameter. Mistral nennt variable Bildgrößen und Seitenverhältnisse als unterstützte Eingaben. Die technischen Angaben erklären, wie Text- und Bildverarbeitung in das Modell integriert sind; sie belegen für sich genommen keine gleichbleibende Qualität bei beliebigen Dokumenten oder Bildtypen. [1][3][4]

Langes Kontextfenster und multimodale Anwendungen

Mistral gibt ein Kontextfenster von einer Million Tokens an. Zusammen mit Bildverarbeitung und Textausgabe eröffnet das Einsatzmöglichkeiten für umfangreiche Dokumente, Tabellen, Diagramme, technische Zeichnungen und längere Agentenabläufe. Die Modellseite nennt Reasoning-Stufen „low“, „medium“ und „high“; „high“ ist dort die Standardeinstellung. Unternehmen können den Rechenaufwand dadurch innerhalb der angebotenen Stufen an die Aufgabe anpassen, müssen aber die tatsächliche Antwortqualität und Laufzeit im eigenen Setup messen. [1][3][5]

Die nominelle Kontextlänge darf nicht mit dem in jeder Bereitstellung erreichbaren Kontext verwechselt werden. Eine von Hugging Face beschriebene Inference-Endpoints-Konfiguration auf acht H200-GPUs unterstützt bis zu 131.000 Tokens; auch das dort gezeigte vLLM-Rezept ist auf 131.072 Tokens ausgelegt. Andere lokale Konfigurationen nennen eine Million Tokens als Modellgrenze. Die Unterschiede zeigen, dass Serving-Stack, Hardware und gewählte Einstellungen den praktisch nutzbaren Kontext begrenzen können. [1][3]

Mistral und Hugging Face heben visuelles Grounding hervor, also die Fähigkeit, relevante Inhalte in Bildern oder Dokumenten räumlich zu verorten. Mistral berichtet für den Benchmark Dense 200 einen Wert von 42 Prozent und vergleicht ihn mit 41 Prozent für GPT-6-Astra. Das ist ein vom Anbieter dargestellter Benchmarkvergleich, kein Nachweis für eine bestimmte Genauigkeit bei betrieblichen Dokumenten. Für Anwendungsfälle wie Rechnungsprüfung, Zeichnungsanalyse oder Geodaten sollten Sie daher mit repräsentativen eigenen Daten und klaren Fehlerkriterien testen. [2][3]

Benchmarks: starke Werte, aber nicht durchgehend einheitliche Angaben

Die veröffentlichten Ergebnisse decken Programmierung, Cybersecurity, Wissensarbeit und agentische Aufgaben ab. Hugging Face nennt 61,7 Prozent auf DeepSWE v1.1, 59,4 Prozent auf SWE-Atlas-QnA und 28,3 Prozent auf Terminal-Bench 4. Für AutomationBench werden 59,9 Prozent und für AA-Briefcase 1.393 Elo angegeben. Diese Werte beschreiben unterschiedliche Testaufgaben und lassen sich nicht zu einer allgemeinen Qualitätskennzahl für produktive Unternehmensprozesse zusammenziehen. [2][3]

Bei einem zentralen Coding-Gesamtwert weichen die Veröffentlichungen voneinander ab: Die Modellseite und die NVIDIA-Karte nennen 48 Prozent im Artificial Analysis Coding Agent Index. Hugging Face berichtet 49,8 Prozent; auch der ausführlichere Mistral-Beitrag nennt diesen Wert. Die Modellseite beschreibt 48 Prozent als praktisch gleichauf mit GLM-5.3 und nennt 47 Prozent weniger Tokens pro Aufgabe. Die vorliegenden Texte erklären die Abweichung zwischen 48 und 49,8 Prozent nicht ausreichend, um sie verlässlich aufzulösen. Die Werte sollten deshalb nicht als ein einziger konsistenter Messstand behandelt werden. [1][2][3][4]

Ähnlich vorsichtig ist der globale Intelligence-Index einzuordnen. Mistral nennt auf der Modellseite den Wert 26 und bezeichnet ihn als höchsten unter westlichen Open-Weight-Modellen; zugleich räumt der Anbieter ein, dass führende Modelle aus China im Gesamtindex höher liegen. Hugging Face führt Large 4 zum 29. Oktober als fünftbestes Open-Weight-Modell in diesem Index. Die Angaben können unterschiedliche Vergleichsgruppen oder Stände abbilden; die Quellen liefern keine hinreichenden Details, um daraus eine einheitliche Rangfolge abzuleiten. [1][3][4]

Cybersecurity: nützlich für Verteidigung, dennoch dual-use

Mistral berichtet 82 Prozent in einem Test, bei dem ein Modell eine reale Schwachstelle in Open-Source-Software reproduzieren und anschließend beheben soll. Für Cybench, eine Sammlung von 40 Aufgaben aus Sicherheitswettbewerben, nennt das Unternehmen eine Erfolgsquote von 93 Prozent. Hugging Face gibt dieselben zentralen Werte wieder und beschreibt den Artificial Analysis Cyber Index als externe Evaluation. Die bereitgestellten Texte enthalten jedoch nicht alle Details zu Testaufbau, Stichproben oder Übertragbarkeit auf konkrete Unternehmenssysteme. Die Ergebnisse sind daher als Benchmarkbefunde und nicht als Nachweis einer einsatzfertigen Sicherheitslösung zu lesen. [2][3]

Mistral beschreibt Large 4 als leistungsfähig bei Schwachstellenanalyse, Malware-Untersuchung, Priorisierung von Sicherheitslücken und Erstellung von Erkennungsregeln. Gleichzeitig betont das Unternehmen, dass das Modell schädliche Cyber-Anfragen ablehnen soll. Mistral meldet zudem 93,3 Prozent Widerstand gegen Angriffe im Lakera-B3-Benchmark und eine im Vergleich zu anderen Open-Weight-Modellen hohe durchschnittliche Ablehnungsrate bei Cyber-Prompts aus mehreren Tests. Diese Selbstauskünfte liefern Hinweise, ersetzen aber keine Prüfung der eigenen Bedrohungsmodelle, Zugriffsrechte und Schutzmaßnahmen. [2][3]

Offene Gewichte und eigener Betrieb können für Sicherheitsorganisationen relevant sein, weil Verarbeitung und Richtlinien stärker in der eigenen Umgebung kontrolliert werden können. Mistral nennt private Cloud und On-Premises als Bereitstellungsoptionen und begründet den Nutzen unter anderem mit der Möglichkeit, Sicherheitsarbeit unter eigenen Richtlinien durchzuführen. Daraus folgt keine automatische Sicherheit: Unternehmen bleiben für den Umgang mit sensiblen Daten, die Begrenzung von Werkzeugzugriffen und die Kontrolle von Modellaktionen verantwortlich. NVIDIA weist in seiner Modellkarte ebenfalls darauf hin, dass Integrationen zusätzliche Tests, Schutzmechanismen und Validierung erfordern. [2][4]

Agenten, Tools und strukturierte Ausgaben

Large 4 unterstützt laut Modellseite Funktionsaufrufe, JSON-Ausgaben und die Durchsetzung strikter JSON-Schemata. Hugging Face führt diese Möglichkeiten zusammen mit Werkzeugaufrufen, Bildverarbeitung und Reasoning-Stufen für mehrere Inferenzwege auf. Damit können Entwicklerinnen und Entwickler das Modell in Systeme einbinden, die externe Funktionen aufrufen oder definierte Datenformate erwarten. Ein Funktionsaufruf bedeutet jedoch nicht, dass das Modell die aufgerufene Funktion selbst sicher ausführt: Die Ausführung und die Berechtigungen liegen bei der umgebenden Anwendung. [1][3]

Für komplexe agentische Aufgaben empfiehlt Mistral, die verfügbaren Werkzeuge klar zu definieren und ihre Zahl auf das für den Anwendungsfall erforderliche Minimum zu begrenzen. Der Anbieter nennt dafür unter anderem Coding-, Cybersecurity- und Wissensarbeitsaufgaben. Als betriebliche Konsequenz sollten Sie Tool-Aufrufe protokollieren, Eingaben validieren und Aktionen mit Außenwirkung kontrollieren. Das sind Schutzmaßnahmen für die Integration, keine vom Modell garantierten Eigenschaften. [1][2][4]

Bereitstellung: mehrere Wege, hoher Infrastrukturbedarf

Als Bereitstellungsoptionen nennen die Unterlagen vLLM, SGLang, Transformers und llama.cpp; für Fine-Tuning werden unter anderem Axolotl, Unsloth und TRL aufgeführt. Das vLLM-Beispiel von Mistral setzt eine Tensorparallelisierung über acht GPUs voraus. Hugging Face beschreibt außerdem einen Fine-Tuning-Aufbau mit acht B300-GPUs und einen Inference-Endpoints-Ansatz mit acht H200-GPUs. Das sind konkrete Referenzkonfigurationen, keine vollständige Aussage darüber, welche Mindesthardware für jede quantisierte Variante oder jeden Durchsatz genügt. [1][3]

Offiziell werden eine FP8- und eine NVFP4-Variante genannt. Mistral beschreibt NVFP4 als speichersparender und für Blackwell-GPUs ausgelegt; Hugging Face nennt zusätzlich verschiedene GGUF-Quantisierungen. In einem von Hugging Face berichteten Versuch lief eine Q2_K-Variante auf einem M3 Ultra mit 512 GB Unified Memory mit rund 15 Tokens pro Sekunde bei der Generierung. Auf vier RTX6000-Pro-GPUs nennt der Beitrag je nach Quantisierung und Kontext stark unterschiedliche Werte. Solche Einzelmessungen hängen von Hardware, Kontextlänge und Konfiguration ab und sind keine allgemeine Leistungszusage. [1][3]

Für speculative decoding liegt ebenfalls keine einheitliche Leistungsangabe vor. Die Modellseite von Mistral meldet für den integrierten DSpark-Entwurfskopf bis zu 1,9-fachen Durchsatz gegenüber dem Betrieb ohne diesen Mechanismus und weist auf Abhängigkeiten von Hardware und Arbeitslast hin. Die NVIDIA-Modellkarte nennt eine Spanne von 1,4- bis 1,8-fach. Da beide Quellen diese Werte als anbieterbezogene Angaben präsentieren und unterschiedliche Spannen nennen, sollten Unternehmen den Effekt für ihre eigenen Prompts und Serving-Bedingungen messen. [1][4]

Lizenz und Kosten: Nutzung ist nicht gleich MaaS-Recht

Mistral veröffentlicht die Gewichte unter der Mistral Ecosystem Open-Weight License, die das Unternehmen als modifizierte MIT-Lizenz für kommerzielle und nicht-kommerzielle Nutzung beschreibt. Für den Betrieb eines Model-as-a-Service-Geschäfts verlangt Mistral nach eigener Angabe eine gesonderte kommerzielle Lizenz. Eine kommerzielle Nutzung der Gewichte ist damit nicht automatisch gleichbedeutend mit einer uneingeschränkten Erlaubnis, einen Modellservice für Dritte anzubieten. Vor produktiver Nutzung sollten Sie die Lizenzbedingungen für das konkrete Geschäftsmodell prüfen. [1][3][4]

Für den API-Zugang führt die Mistral-Dokumentation 0,70 US-Dollar je Million Eingabetokens und 2,10 US-Dollar je Million Ausgabetokens auf; gecachte Eingabetokens sind dort mit 0,07 US-Dollar je Million angegeben. Das sind API-Preise und keine Schätzung der Gesamtkosten für selbst gehostete Bereitstellungen. Bei eigener Infrastruktur kommen unter anderem Hardware, Betrieb und Auslastung hinzu; die Quellen beziffern diese Gesamtkosten nicht. [5]

Was Unternehmen vor einer Einführung abklären sollten

Für Unternehmen mit Anforderungen an Datenkontrolle ist die Möglichkeit, Gewichte selbst bereitzustellen, ein relevanter Unterschied zu einem ausschließlich extern angebotenen API-Modell. Zugleich verlangt der Betrieb eines Modells dieser Größenordnung verteilte Inferenz und eine passende Hardwareplanung. Die veröffentlichten Acht-GPU-Beispiele sowie die unterschiedlichen Kontextgrenzen zeigen, dass Lizenz- und Kontrollvorteile gegen Infrastrukturaufwand, Latenz, Durchsatz und Betriebsverantwortung abzuwägen sind. Das ist eine Analyse der dokumentierten Bereitstellungsoptionen, keine pauschale Empfehlung für Self-Hosting. [1][3]

Vor einer Beschaffung sollten Sie deshalb drei Punkte getrennt validieren: erstens die Qualität auf repräsentativen eigenen Aufgaben, zweitens den tatsächlichen Ressourcenbedarf einschließlich Kontextlänge und paralleler Anfragen und drittens die Rechte für den vorgesehenen Bereitstellungs- und Geschäftsweg. Für Anwendungen mit Cybersecurity-, Rechts- oder Finanzbezug kommt hinzu, dass Benchmarkresultate weder fachliche Prüfung noch Kontrolle der Ausgaben ersetzen. Die vorliegenden Quellen dokumentieren Leistungsansprüche, technische Wege und Lizenzhinweise, aber keine unabhängige Abnahme für konkrete Unternehmensprozesse. [1][2][3][4][5]

Quellen

1. [1] mistralai/Mistral-Large-4-1T-A52B · Hugging Face — https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B (abgerufen am 2026-10-29)
2. [2] Introducing Mistral Large 4 | Mistral — https://mistral.ai/news/mistral-large-4 (abgerufen am 2026-10-29)
3. [3] Welcome Le Chonk: Mistral Large 4 on Hugging Face — https://huggingface.co/blog/mistral-large4 (abgerufen am 2026-10-29)
4. [4] Mistral Large 4 Model by Mistral AI | NVIDIA NIM — https://build.nvidia.com/mistralai/mistral-large-4-1t-a52b/modelcard (abgerufen am 2026-10-29)
5. [5] Mistral Large 4 - Mistral AI | Mistral Docs — https://docs.mistral.ai/models/mistral-large-4-0 (abgerufen am 2026-10-29)