StorageReview.com

Broadcom stellt VMware Private AI Cloud vor: Validierte Modelle, AI Factory und Agenten mit standardmäßiger Ablehnung

AI  ◇  Unternehmen

Broadcom stellte auf der VMware Explore VMware Private AI Cloud vor, eine private Cloud-Architektur, die KI-Modelle in der Nähe von Unternehmensdaten ausführen soll. Anstatt sensible Daten an externe Modellanbieter zu übertragen, bringt die Plattform die Modelle direkt zu den Daten innerhalb der privaten Infrastruktur eines Unternehmens.

VMware Private AI Cloud vereint VMware Cloud Foundation (VCF), VMware AI Factory, VMware Tanzu Platform, VMware vDefend und VMware Avi Load Balancer zu einer einheitlichen Umgebung für Inferenz-Workloads, agentenbasierte Anwendungen, containerisierte Dienste und herkömmliche virtuelle Maschinen. Dieser Ansatz bietet Unternehmen eine gemeinsame Infrastruktur und ein einheitliches Betriebsmodell für KI- und allgemeine Workloads und ermöglicht ihnen gleichzeitig die Kontrolle über Datenspeicherort, Sicherheitsrichtlinien und Ressourcenverbrauch.

Die Folie zur VMware Private AI Cloud-Plattform zeigt die Agentenplattform, die Infrastruktur- und Agentensicherheit, Model-as-a-Service und die KI-Infrastrukturschichten.

Ram Velaga, Präsident der Broadcom Infrastructure Software Group, beschrieb die Plattform als Schnittpunkt zwischen privater Cloud und privater KI-Infrastruktur. Ziel ist es, produktive Inferenz- und agentenbasierte Anwendungen zu unterstützen, ohne dabei Datensouveränität, Compliance-Kontrollen oder planbare Betriebskosten aufzugeben.

VCF zielt auf KI-Infrastruktur und Token-Kosten ab

VMware Private AI Cloud wurde entwickelt, um drei Hauptkostenfaktoren bei KI-Implementierungen in Unternehmen zu reduzieren: Hardwareinvestitionen, operative Komplexität und Token-Verbrauch. Diese Kosten können steigen, wenn Unternehmen von kleinen KI-Pilotprojekten zu produktiven Inferenz-Workloads übergehen, die größere Modelle, höhere Anfragevolumina und mehr GPU-Kapazität erfordern.

VMware Cloud Foundation 9 bietet Infrastrukturfunktionen zur optimierten Ressourcennutzung. NVMe-Speicher-Tiering erweitert die verfügbare Speicherkapazität durch die Nutzung von schnellem NVMe-Speicher als zusätzliche Ebene, während die clusterweite Speicherdeduplizierung doppelte Daten in der Umgebung reduziert. Diese Funktionen verbessern die Infrastruktureffizienz für KI-Workloads mit hohem Speicherbedarf.

VMware-Folie, die 42 Prozent Hardware-Einsparung durch NVMe-Speicher-Tiering im Vergleich zu einer reinen DRAM-Serverkonfiguration nennt.

VCF unterstützt zudem heterogene Infrastrukturen, darunter CPUs, GPUs und andere Beschleuniger verschiedener Hersteller. Die Plattform ist mit Serversystemen führender OEM- und ODM-Hersteller kompatibel und ermöglicht es Unternehmen, die Hardware anhand von Workload-Anforderungen, Verfügbarkeit und Kosten auszuwählen, anstatt eine einheitliche Hardwarekonfiguration zu verwenden.

Die Plattform bietet zudem Managementfunktionen zur Steuerung des KI-Ressourcenverbrauchs. Die Token-Überwachung ermöglicht Einblick in die Modellnutzung und Inferenzaktivitäten, während die mandantenfähige Modellfreigabe mehreren Benutzern oder Anwendungen den Zugriff auf gemeinsame Modelldienste ermöglicht. Verbesserte GPU- und vGPU-Verfolgung liefert detailliertere Informationen zur Beschleunigerzuweisung und -auslastung. Ein Dashboard zur Überwachung von KI-Metriken visualisiert diese Messwerte in einer zentralen Betriebsansicht.

VMware AI Factory automatisiert den Weg zur Produktion

Broadcom kündigte außerdem VMware AI Factory an, die softwaredefinierte Grundlage für VMware Private AI Cloud. VMware AI Factory soll die Bereitstellung KI-fähiger Infrastruktur vereinfachen und die Zeit für den Übergang von physischer Hardware zu einem produktionsreifen Endpunkt verkürzen.

Einführung der VMware AI Factory-Folie mit Modell-als-Service- und KI-Infrastrukturkomponenten

Die Plattform ist so konzipiert, dass sie sowohl die anfängliche Infrastrukturbereitstellung als auch den laufenden Betrieb abdeckt. Dies umfasst die Automatisierung der Infrastrukturbereitstellung, die Bereitstellung von Modelldiensten und die Verwaltung der betrieblichen Anforderungen von KI-Workloads nach der Bereitstellung. Broadcom positioniert VMware AI Factory außerdem als Mechanismus zur Verbesserung der Transparenz der Token-Ökonomie und des Ressourcenverbrauchs bei zunehmender Modellnutzung.

Die VCF-Modelllaufzeitumgebung basiert auf vLLM, das eine gemeinsame Bereitstellungsschicht für unterstützte Modelle bereitstellt. Broadcom gab an, dass VCF-Kunden über 150 Open-Source- und kommerzielle Modelle über die Plattform ausführen können. Dies ermöglicht es Unternehmen, Modelle anhand von Sprachunterstützung, Kontextanforderungen, multimodalen Fähigkeiten, Schlussfolgerungsleistung und Hardwarekompatibilität auszuwählen.

Validierte Modelle ermöglichen private Modelldienste

Broadcom gab bekannt, dass Modelle von Google, NVIDIA, NEC, Alibaba Cloud und Z.ai für VMware Cloud Foundation getestet und validiert wurden. Das Validierungsprogramm soll Unternehmen einen einfacheren Weg zur Bereitstellung ausgewählter Modelle vor Ort und deren Verfügbarkeit für interne Nutzer über Model-as-a-Service-Angebote (MaaS) bieten.

Folie zum Thema „Model-as-a-Service“ auf VMware Cloud Foundation mit validierten Modellen von Google, NVIDIA, NEC, Alibaba und Z.ai

Zu den für VCF angekündigten validierten Modellen gehören:

  • NVIDIA Nemotron 3: Die Nemotron-3-Familie umfasst offene multimodale Modelle, die auf einer hybriden Mamba-Transformer-Mixture-of-Experts-Architektur basieren. Die Modelle unterstützen ein Kontextfenster von bis zu 1 Million Token und sind für langlaufende agentenbasierte Workflows in Unternehmensanwendungen konzipiert.
  • Google DeepMind Gemma 4: Gemma 4 ist eine Open-Source-Familie multimodaler Modelle mit variabler Speicherkapazität, die für die lokale Ausführung konzipiert ist. Die Verfügbarkeit auf VCF ermöglicht es Organisationen, autonome Agenten innerhalb ihrer eigenen Infrastruktur zu entwickeln und einzusetzen.
  • NEC cotomi: Das Cotomi-Modell von NEC ist für die japanische Sprache optimiert und wurde mit kuratierten Datensätzen trainiert. Broadcom gab an, dass das Modell eine 40-prozentige Verbesserung der Token-Effizienz erzielt.
  • Alibaba Cloud Qwen 3.7-27B: Ein proprietäres multimodales Modell mit einem Kontextfenster von 1 Million Token. Es beinhaltet multimodale Schlussfolgerungsfunktionen und ist für agentenbasierte Arbeitslasten konzipiert.
  • Z.ai GLM 5.2: GLM 5.2 ist ein Open-Source-Sprachmodell, das für lokale Codierungs- und Schlussfolgerungsprozesse entwickelt wurde. Das Modell unterstützt mehrstufige, autonome Arbeitsabläufe und hält die Daten innerhalb der Unternehmensumgebung.

Die Modellvalidierung zielt darauf ab, die Unsicherheit bei der Implementierung für Unternehmen zu verringern, die kommerzielle und Open-Source-Modelle auf ihrer privaten Infrastruktur ausführen möchten. Broadcom erklärte, dass Modellanbieter mit dem Unternehmen zusammenarbeiten, um validierte Modelle über die integrierten Dienste von VCF verfügbar zu machen.

Broadcoms „Private Cloud Outlook 2026“ berichtet, dass 56 Prozent der Unternehmen bereits KI-Inferenzprozesse in der Produktion in der Private Cloud betreiben oder planen. VCF ist darauf ausgelegt, diese Bereitstellungen neben bestehenden virtuellen Maschinen, Kubernetes-Workloads und containerisierten Diensten zu unterstützen.

Unabhängige Tests gemäß MLPerf Inference v5.1-Standard bestätigten laut Broadcom, dass VCF eine mit Bare-Metal-Infrastruktur vergleichbare Leistung erbringt. Die Tests sollen zeigen, dass Virtualisierung und Private-Cloud-Management produktive Inferenz ermöglichen, ohne dass ein separater Bare-Metal-KI-Stack erforderlich ist.

Tiefenverteidigung für KI-Workloads

VMware Private AI Cloud nutzt ein mehrschichtiges Sicherheitsmodell, das sich am NIST Cybersecurity Framework 2.0 orientiert. Die Plattform kombiniert Infrastrukturkontrollen, Netzwerksegmentierung, Schutz auf Anwendungsebene, Lieferkettensicherheit und Funktionen zur kontinuierlichen Einhaltung von Vorschriften.

VMware-Folie zur mehrschichtigen Verteidigung: Darstellung von vDefend IDPS, verteilter Firewall und NDR gegen KI-gestützte Angriffe der Spitzenklasse

VMware vDefend bietet Mikrosegmentierung und laterale Sicherheitskontrollen auf Hypervisor-Ebene. Virtuelles Patching schützt Workloads vor bekannten Schwachstellen, ohne dass sofortige Anwendungsänderungen oder Infrastrukturausfallzeiten erforderlich sind. Die Überwachung des Datenverkehrs kann zudem unerwartete Kommunikation zwischen Workloads erkennen und unautorisierte oder im Verborgenen eingesetzte KI-Systeme aufspüren.

vDefend-Folie zum verteilten virtuellen Patching zeigt die agentenbasierte KI-Signaturgenerierung für IDPS

Broadcom erweitert vDefend auf agentenbasierte KI-Workloads. Die aktualisierten Funktionen dienen der Identifizierung agentenbasierter Komponenten durch kontinuierliche Datenverkehrsüberwachung, der Erkennung unautorisierter Nutzung von KI-Systemen und der Verteilung virtueller Patches mithilfe von KI-generierten Signaturen von Intrusion Detection and Prevention Systems (IDPS).

VMware Avi Load Balancer bietet Schutz auf Anwendungsebene durch seine Web Application Firewall und API-Sicherheitsfunktionen. Für agentenbasierte Workloads ist Avi darauf ausgelegt, den Zugriff von Agenten auf nicht autorisierte Tools einzuschränken, anomales Verhalten zu erkennen, das auf einen Zero-Day-Angriff hindeuten könnte, und Datenschutzmaßnahmen anzuwenden, um unautorisierte Datenexfiltration zu verhindern.

TrueSource erweitert Open-Source-Lieferkettenkontrollen

Broadcom hat außerdem TrueSource-Funktionen für Software- und Datendienste in privaten KI-Umgebungen eingeführt. TrueSource Trusted Artifacts nutzt Clean-Room-Build-Prozesse für die Java-, Python- und Node.js-Ökosysteme sowie den Bitnami Secure Images-Katalog.

Broadcom TrueSource-Folie zu Spring Enterprise, TrueSource Data Services und Trusted Artifacts

Die Spring Enterprise-Releases werden vom Spring-Team kuratiert und gepflegt. Broadcom gab an, dass die Releases Patches enthalten, die anhand von Frontier-Modellen geprüft und von Menschen verifiziert werden, wobei die Korrekturen in allen unterstützten Release-Linien bereitgestellt werden.

TrueSource Data Services erweitert diesen Ansatz auf Dateninfrastrukturkomponenten. Zu den anfänglichen Diensten gehören PostgreSQL, RabbitMQ, MySQL und Valkey. Dies bietet eine kontrollierte Quelle für häufig eingesetzte Datenbank- und Messaging-Komponenten, die KI-Anwendungen und agentenbasierte Workflows unterstützen können.

Tanzu-Plattform erweitert Steuerungsmöglichkeiten für autonome Agenten

Broadcom kündigte außerdem neue KI-fähige Datengrundlagen und Agentenlaufzeitfunktionen für die VMware Tanzu Platform an. Die Tanzu Platform ist als Anwendungs- und Agentenplattform innerhalb der VMware Private AI Cloud positioniert.

Die Tanzu-Plattform bietet KI-fähige Datengrundlagen mit Phasen für Datenerfassung, -strukturierung, -verwaltung und -veröffentlichung sowie einem integrierten MCP-Server.

Autonome Agenten bergen Risiken, die sich von denen herkömmlicher Anwendungen unterscheiden. Agenten können selbstständig Daten abfragen, Tools aufrufen, Anweisungen interpretieren und Aktionen in vernetzten Systemen ausführen. Ohne ausreichende Kontrollmechanismen kann ein Agent seinen zugewiesenen Aufgabenbereich überschreiten, auf unautorisierte Ressourcen zugreifen, sensible Informationen offenlegen oder unerwartete Kosten für Infrastruktur und Cloud-Datenverkehr verursachen.

Die Tanzu-Plattform begegnet diesen Risiken mit einem standardmäßigen Zugriffsverweigerungsmodell. Agenten haben keinen Zugriff auf APIs, Netzwerke, MCP-Server oder das Internet, sofern ihnen dieser nicht explizit gewährt wird. Ein isolierter Anmeldeinformationsspeicher schützt die Anmeldeinformationen vor den Agenten selbst und reduziert so das Risiko von Anmeldeinformationsdiebstahl, -missbrauch und Prompt-Injection-Angriffen.

Die Plattform umfasst außerdem ein vorkonfiguriertes Entwickler-Framework mit geprüften Fähigkeiten, Workflow-Buildpacks, Mensch-Maschine-Interaktionssteuerung und integrierten Speicherdiensten. Diese Komponenten sollen einen kontrollierten Entwicklungspfad für die Erstellung von Agenten ermöglichen und gleichzeitig die Betriebssicherheit während der Ausführung gewährleisten.

AgentMinder bietet zentrale Agentensteuerung

Broadcom hat AgentMinder als zentrale Steuerungsebene für autonome KI-Agenten vorgestellt. Das System behandelt jeden Agenten als Unternehmensidentität und verknüpft diese Identität mit einer definierten Mission, genehmigten Tools und autorisierten Ressourcen.

Die AgentMinder-Folie stellt die agentenbasierte Struktur für Identität, Sicherheit und Beobachtbarkeit vor.

Die Durchsetzung von Laufzeitrichtlinien wendet das Prinzip der minimalen Berechtigungen für den Aufruf von Tools an. Dadurch können Unternehmen festlegen, welche Tools ein Agent unter welchen Bedingungen verwenden darf. AgentMinder stellt außerdem Audit-Protokolle für die Agentenaktivitäten bereit und ermöglicht so Sicherheits- und Compliance-Teams, die Aktionen autonomer Systeme nachzuvollziehen.

Die Kombination aus Agentenidentität, Richtliniendurchsetzung und Prüfbarkeit soll eine Governance-Ebene für Organisationen bereitstellen, die mehrere Agenten abteilungs- und anwendungsübergreifend einsetzen.

KI-fähige Datengrundlagen erhalten den Kontext im Unternehmen

Die neuen KI-fähigen Datengrundlagen der Tanzu-Plattform verarbeiten strukturierte und unstrukturierte Unternehmensdaten innerhalb der vom Kunden kontrollierten Umgebung. Die resultierenden Datenprodukte sind darauf ausgelegt, Agenten kuratierte, kontextreiche Informationen bereitzustellen, ohne dass die Quelldaten die private Cloud verlassen müssen.

Tanzu Platform Agentic AI-Folie mit Details zu standardmäßig verweigernder Sandbox, Agenten-Build-Harness und MCP-Tool-Filterung

Diese Datenprodukte können als verwaltete Dienste auf dem Tanzu Platform Marketplace veröffentlicht werden. Entwickler und Agenten können die Dienste über einen zentralen Katalog finden und nutzen, während die Dateneigentümer die Kontrolle darüber behalten, wie die Informationen aufbereitet, bereitgestellt und verwaltet werden.

Dieser Ansatz zielt darauf ab, die Qualität des für die Agenten verfügbaren Kontextes zu verbessern, die Abhängigkeit von ungefilterten Daten zu verringern und den Tokenverbrauch zu senken, indem dem Modell relevantere Informationen bereitgestellt werden. Zudem trägt er dazu bei, sensible Daten, Metadaten und Rechenressourcen innerhalb der kontrollierten Infrastruktur der Organisation zu halten.

Verfügbarkeit

Broadcom gab bekannt, dass die auf der VMware Explore angekündigten neuen Funktionen der VMware Tanzu Plattform im Herbst 2026 allgemein verfügbar sein werden.

Beteiligen Sie sich an StorageReview

Newsletter | YouTube | Podcast (iTunes / Spotify) | Instagram | Twitter | TikTok | RSS-Feed

Harold Fritts

Ich bin in der Technologiebranche tätig, seit IBM Selectric gegründet hat. Mein Hintergrund ist jedoch das Schreiben. Also beschloss ich, aus dem Vorverkaufsgeschäft auszusteigen und zu meinen Wurzeln zurückzukehren, ein bisschen zu schreiben, mich aber immer noch mit Technologie zu beschäftigen.