Broadcom präsentiert die VMware Private AI Cloud für private KI-Workloads

Die Evolution der KI-Infrastruktur: Broadcoms Vision einer tokenfreien Zukunft

Die Landschaft der künstlichen Intelligenz entwickelt sich rasant, und mit ihr die Anforderungen an die zugrunde liegende Infrastruktur. Unternehmen stehen vor der Herausforderung, leistungsstarke KI-Modelle effizient, sicher und kostengünstig zu betreiben. In diesem Kontext hat Broadcom auf der VMware Explore 2026 eine umfassende Strategie vorgestellt: die "VMware Private AI Cloud". Diese Initiative zielt darauf ab, die Art und Weise, wie Unternehmen KI implementieren und verwalten, grundlegend zu verändern, indem sie den Fokus auf private Cloud-Umgebungen und eine Abkehr von traditionellen Token-basierten Abrechnungsmodellen legt.

Die Kernbotschaft: Daten bleiben lokal

Ein zentrales Credo der "VMware Private AI Cloud" ist die Maxime: "Das Modell soll zu den Daten kommen, nicht die Daten zum Modell." Diese Aussage unterstreicht die Bedeutung von Datensouveränität und Effizienz, insbesondere in einer Zeit, in der Datenvolumina exponentiell wachsen und regulatorische Anforderungen zunehmen. Ram Velaga, President der Infrastructure Software Group bei Broadcom, betonte, dass private Cloud und privates KI-Infrastrukturgeschäft nicht länger getrennte Disziplinen sein können. Diese Konvergenz wird durch mehrere Beobachtungen aus Kundengesprächen gestützt:

• Wirtschaftlichkeit des Betriebs: Für dauerhaft laufende und gut planbare Workloads erweist sich der Eigenbetrieb oft als die kostengünstigere Option im Vergleich zu Public-Cloud-Lösungen, die eher für Lastspitzen und spezifische Anwendungsfälle präferiert werden.
• Hardware-Knappheit und -Kosten: Die anhaltende Knappheit und die hohen Preise für Hardware, insbesondere Speicher, machen eine maximale Auslastung vorhandener Ressourcen unerlässlich und reduzieren die Attraktivität dedizierter Bare-Metal-Systeme für viele Anwendungsfälle.
• Souveränitätsanforderungen: Das Thema Datensouveränität gewinnt nicht nur auf nationaler Ebene, sondern auch innerhalb von Unternehmen an Bedeutung, was den Wunsch nach Kontrolle über Metadaten und Modelle verstärkt.
• Vermeidung von Silos: Unternehmen streben danach, keine separaten Infrastruktursilos für KI neben bestehenden Compute-, Netzwerk- und Speicherumgebungen aufzubauen.

Die "VMware AI Factory": Vom Server zum Modell in Stunden

Als Antwort auf diese Herausforderungen präsentiert Broadcom die "VMware AI Factory", das softwaredefinierte Fundament der "Private AI Cloud". Das Ziel ist ehrgeizig: Die Zeit von der Auslieferung eines Servers bis zur Bereitstellung des ersten KI-Modells soll von Wochen auf wenige Stunden reduziert werden. Dies wird durch eine umfassende Automatisierung erreicht, die folgende Bereiche umfasst:

• Hardware-Provisionierung: Die Bereitstellung und Konfiguration physischer Server wird automatisiert.
• Software-Stack-Bereitstellung: Der gesamte Software-Stack, von der Virtualisierungsschicht bis zu den KI-Frameworks, wird nahtlos ausgerollt.
• Lifecycle-Management: Wartung, Updates und Skalierung der KI-Infrastruktur werden vereinfacht.

Ein Schlüsselelement dieser Automatisierung ist die Partnerschaft mit MetalSoft. Deren Bare-Metal-Automatisierung wird in VMware Cloud Foundation (VCF) integriert, wodurch die Verwaltung physischer Server direkt aus der VCF-Konsole heraus möglich wird. Dies eliminiert die Notwendigkeit herstellerspezifischer Tools und ermöglicht eine Provisionierungszeit von Minuten statt Wochen, was insbesondere für Unternehmen mit heterogenen Serverlandschaften von Vorteil ist.

Private AI Services und Modell-Management

Oberhalb der Infrastruktur-Schicht bietet VMware "Private AI Services" an. Diese ermöglichen eine organisationsweite Poolung und gemeinsame Nutzung von GPUs, anstatt diese einzelnen Workloads fest zuzuweisen. Eine zentrale Model-Gallery dient als Oberfläche, über die IT- und Data-Science-Teams Inferenz- und RAG-Workflows (Retrieval-Augmented Generation) über verschiedene Ressourcen hinweg bereitstellen und überwachen können. Die Roadmap sieht weitere Funktionen vor, darunter mandantenfähiges Modell-Sharing, ein AI-Gateway für Prompt-Routing, Token- und Rate-Limits sowie Secure AI Sandboxes für dynamisch generierten Agentencode und automatisches Modell-Autoscaling.

Hardware-Kompatibilität und Modell-Vielfalt

Die "AI Factory" kombiniert VCF mit zertifizierten VCF AI ReadyNodes von führenden Herstellern wie Cisco, Dell, Lenovo und Supermicro. Broadcom arbeitet zudem mit AMD an einer Variante mit Instinct-GPUs und dem offenen ROCm-Stack, die eine Zero-Touch-Provisionierung des gesamten Stacks ermöglichen soll. Auch die Unterstützung für Nvidia-Hardware, einschließlich der neuesten Blackwell-Generation und Grace-CPUs, wird kontinuierlich ausgebaut.

Broadcom hat fünf diverse KI-Modelle für den Betrieb auf VMware Cloud Foundation getestet: Nvidias Nemotron 3, Googles Gemma 4, NECs Cotomi, Alibabas Qwen3.8-27B und GLM 5.2 von Z.ai. Diese Auswahl demonstriert die breite Kompatibilität der Plattform, die von Open-Weight-Modellen bis hin zu proprietären, sprachspezifischen Lösungen reicht. Als Standard-Runtime dient vLLM, das den Betrieb von über 150 offenen Modellen auf GPUs und CPUs von AMD, Intel und Nvidia ermöglicht.

Der Kostenhebel: Speicheroptimierung und das Ende der Token-Abrechnung

Broadcom adressiert die Kosten von KI-Infrastrukturen auf drei Ebenen: Hardware-CapEx, Betriebskomplexität und Tokenökonomie. Im Bereich Hardware setzt VCF 9 auf Memory Tiering über NVMe und clusterweite Storage-Deduplizierung. Dies kann zu einer signifikanten Reduktion der Hardwarekosten führen, wobei Schätzungen von bis zu 42 Prozent bei einer hälftigen Aufteilung zwischen DRAM und NVMe genannt werden. Für VCF 9.1 wurden weitere Einsparungen und Risikoreduktionen kommuniziert, darunter 39 Prozent geringere Serverkosten und 40 Prozent Risikoreduktion.

Ein zentraler Aspekt der neuen Strategie ist die Abkehr von der Token-basierten Abrechnung. Broadcom argumentiert, dass Unternehmen, die eine private Cloud betreiben, GPUs kaufen und somit eine planbare Anzahl von Token verbrauchen können, die durch die Infrastrukturkapazität begrenzt ist, anstatt nutzungsabhängig abzurechnen. Dies ermöglicht eine bessere Kostenkontrolle und -vorhersagbarkeit. Zudem wird betont, dass nicht jede Anwendung ein Frontier-Modell mit Milliarden von Parametern benötigt; oft genügen kleinere Modelle, die sogar auf CPUs betrieben werden können.

Diese Sichtweise wird durch Broadcoms "Private Cloud Outlook 2026" gestützt, der besagt, dass 56 Prozent der Unternehmen produktive KI-Inferenz auf privaten Clouds betreiben oder planen. Eine Umfrage unter 1800 Fachleuten zeigte zudem einen Rückgang der Präferenz für die Public Cloud um 15 Punkte auf 41 Prozent.

KI als Betriebswerkzeug: Der "VCF AI Assistant"

Neben der Bereitstellung von KI als Workload positioniert Broadcom KI auch als Werkzeug für den Infrastrukturbetrieb. Der "VCF AI Assistant", der mit VCF 9.1.1 ausgeliefert wurde, demonstriert dies eindrucksvoll. Er kann Sicherheitswarnungen analysieren, die Patch-Fähigkeit prüfen, Prechecks durchführen und Cluster remediieren. Ein anschauliches Beispiel war die Diagnose einer schlechten Anwendungsperformance, die auf eine manuell gestellte und nicht zurückgesetzte DRS-Einstellung zurückzuführen war. Der Assistent reaktivierte DRS und legte eine Konfigurationsregel an, um zukünftige Ausfälle zu verhindern. Solche Anwendungen von KI im Betrieb können Fehlerquellen eliminieren und die Effizienz steigern.

Einordnung und Ausblick

Die "Private AI Cloud" ist eine strategische Zusammenfassung bestehender und neuer Komponenten. Während VCF 9 mit seiner Speicher- und Sicherheitsarchitektur sowie der Kubernetes-Integration bekannte Stärken aufweist, sind die "AI Factory" mit MetalSoft-Anbindung, die getesteten Modelle und das Model-as-a-Service-Konstrukt die wesentlichen Neuerungen. Es ist jedoch zu beachten, dass viele der angekündigten Funktionen noch in zukünftigen Releases erwartet werden.

Das Argument der Token-Ablösung stellt eher eine Kostenverschiebung dar. Unternehmen zahlen nicht mehr pro Token, sondern für GPUs, Strom, Fläche, Personal und VCF-Lizenzen, tragen aber auch das Auslastungsrisiko selbst. Für Unternehmen mit gleichmäßiger und planbarer Inferenzlast kann dies finanziell vorteilhaft sein, während stark schwankende Lasten weiterhin Herausforderungen darstellen könnten. Die Betonung der Kostenvorhersagbarkeit durch Broadcom könnte bei Kunden, die die jüngsten Lizenzumstellungen erlebt haben, auf gemischte Gefühle stoßen.

Insgesamt repräsentiert die "VMware Private AI Cloud" einen wichtigen Schritt in Richtung einer integrierten, effizienten und souveränen KI-Infrastruktur. Sie bietet Unternehmen die Möglichkeit, ihre KI-Workloads in einer kontrollierten Umgebung zu betreiben und die Kostenstruktur besser zu planen, was für eine breite Akzeptanz von KI in Geschäftsprozessen entscheidend sein wird.

Bibliography - "Raus aus der Tokenfalle – mit VMware | heise online" von Jens Söldner, heise.de, 2026-09-04. - "Raus aus der Tokenfalle - mit VMware", finanzen.at, 2026-09-04. - "Raus aus der Tokenfalle – mit VMware - NG-IT in Hagen", ng-it.de, 2021-07-05. - "Raus aus der Tokenfalle – mit VMware | BERZAH.CLOUD", berzah.cloud. - "Der Token-Superzyklus: Alles von Wert wird programmierbar", coindesk.com, 2026-09-02. - "Tokenisierung: Die Zwei-Schienen-Falle" von Courtenay Turner, de.technocracy.news, 2026-05-22. - "Token-Rückkäufe boomen. Sind sie gut für Krypto-Projekte?", cointelegraph.de, 2026-09-04. - "Scheitern von Krypto-Starts und Vorschlag für ein neues Token-Modell", klamm.de, 2026-04-01.