Firma Broadcom zaprezentowała VMware Private AI Cloud podczas konferencji VMware Explore – architekturę chmury prywatnej, która została zaprojektowana z myślą o uruchamianiu modeli AI w pobliżu danych przedsiębiorstwa. Zamiast przesyłania poufnych danych do zewnętrznych dostawców modeli, platforma ma na celu przeniesienie modeli do danych w ramach prywatnej infrastruktury organizacji.
VMware Private AI Cloud łączy VMware Cloud Foundation (VCF), VMware AI Factory, VMware Tanzu Platform, VMware vDefend i VMware Avi Load Balancer w ujednolicone środowisko do obsługi obciążeń wnioskowania, aplikacji agentowych, usług konteneryzowanych i tradycyjnych maszyn wirtualnych. To podejście zapewnia przedsiębiorstwom wspólną infrastrukturę i model operacyjny dla obciążeń AI i ogólnego przeznaczenia, zachowując jednocześnie kontrolę nad lokalizacją danych, zasadami bezpieczeństwa i zużyciem zasobów.
Ram Velaga, prezes Broadcom Infrastructure Software Group, opisał platformę jako punkt styku między chmurą prywatną a prywatną infrastrukturą AI. Celem jest wsparcie wnioskowania produkcyjnego i aplikacji agentowych bez rezygnowania z suwerenności danych, kontroli zgodności i przewidywalnych kosztów operacyjnych.
VCF koncentruje się na infrastrukturze AI i kosztach tokenów
Rozwiązanie VMware Private AI Cloud zostało zaprojektowane z myślą o trzech głównych obszarach kosztów wdrożeń AI w przedsiębiorstwach: nakładach inwestycyjnych na sprzęt, złożoności operacyjnej i zużyciu tokenów. Koszty te mogą wzrosnąć, gdy organizacje przechodzą z małych pilotaży AI na obciążenia produkcyjne związane z wnioskowaniem, które wymagają większych modeli, większej liczby żądań i większej mocy obliczeniowej GPU.
Platforma VMware Cloud Foundation 9 wprowadza funkcje infrastruktury mające na celu poprawę wykorzystania zasobów. Warstwowanie pamięci NVMe pozwala rozszerzyć dostępną pojemność pamięci poprzez wykorzystanie szybkiej pamięci masowej NVMe jako dodatkowej warstwy, a deduplikacja pamięci masowej w całym klastrze redukuje duplikację danych w całym środowisku. Funkcje te mają na celu poprawę wydajności infrastruktury dla obciążeń AI wymagających znacznych zasobów pamięci i pamięci masowej.
VCF obsługuje również heterogeniczną infrastrukturę, w tym procesory CPU, GPU i inne akceleratory od wielu dostawców. Platforma obsługuje systemy serwerowe dostarczane przez głównych producentów OEM i ODM, umożliwiając organizacjom wybór sprzętu na podstawie wymagań dotyczących obciążenia, dostępności i kosztów, zamiast stosowania pojedynczej konfiguracji sprzętowej.
Platforma dodaje również funkcje zarządzania do kontrolowania zużycia zasobów AI. Monitorowanie tokenów zapewnia wgląd w wykorzystanie modelu i aktywność wnioskowania, a współdzielenie modelu z wieloma użytkownikami umożliwia wielu użytkownikom lub aplikacjom dostęp do wspólnych usług modelu. Ulepszone śledzenie GPU i vGPU zapewnia bardziej szczegółowe informacje na temat alokacji i wykorzystania akceleratorów. Panel obserwacji metryk AI udostępnia te pomiary w scentralizowanym widoku operacyjnym.
VMware AI Factory automatyzuje ścieżkę do produkcji
Broadcom ogłosił również VMware AI Factory, programowo zdefiniowaną platformę dla VMware Private AI Cloud. VMware AI Factory ma uprościć wdrażanie infrastruktury gotowej na sztuczną inteligencję i skrócić czas potrzebny na przejście ze sprzętu fizycznego do punktu końcowego modelu produkcyjnego.
Platforma została zaprojektowana tak, aby objąć zarówno początkowe wdrożenie infrastruktury, jak i bieżące operacje drugiego dnia. Obejmuje to automatyzację dostarczania infrastruktury, wdrażanie usług modelowych oraz zarządzanie wymaganiami operacyjnymi obciążeń AI po wdrożeniu. Broadcom pozycjonuje również VMware AI Factory jako mechanizm poprawiający wgląd w ekonomikę tokenów i zużycie zasobów w miarę wzrostu wykorzystania modelu.
Środowisko uruchomieniowe modelu VCF oparte jest na platformie vLLM, która zapewnia wspólną warstwę obsługi dla obsługiwanych modeli. Firma Broadcom poinformowała, że klienci VCF mogą korzystać z ponad 150 modeli open source i komercyjnych za pośrednictwem platformy. Pozwala to organizacjom na wybór modeli na podstawie obsługi języków, wymagań kontekstowych, możliwości multimodalnych, wydajności wnioskowania i kompatybilności sprzętowej.
Zweryfikowane modele umożliwiają korzystanie z usług modeli prywatnych
Firma Broadcom ogłosiła, że modele firm Google, NVIDIA, NEC, Alibaba Cloud i Z.ai zostały przetestowane i zweryfikowane pod kątem VMware Cloud Foundation. Program walidacji ma na celu zapewnienie przedsiębiorstwom łatwiejszego sposobu wdrażania wybranych modeli lokalnie i udostępniania ich użytkownikom wewnętrznym za pośrednictwem ofert Model-as-a-Service.
Wśród sprawdzonych modeli ogłoszonych dla VCF znajdują się:
- NVIDIA Nemotron 3: Rodzina Nemotron 3 obejmuje otwarte modele multimodalne oparte na hybrydowej architekturze Mamba-Transformer Mixture-of-Experts. Modele obsługują okno kontekstowe do 1 miliona tokenów i są przeznaczone do długotrwałych przepływów pracy agentów w aplikacjach korporacyjnych.
- Google DeepMind Gemma 4: Gemma 4 to rodzina modeli multimodalnych o otwartym kodzie źródłowym i dużej wadze, przeznaczona do lokalnego wdrażania. Jej dostępność w systemie VCF daje organizacjom możliwość tworzenia i wdrażania autonomicznych agentów w ramach własnej infrastruktury.
- NEC cotomi: Model cotomi firmy NEC jest zoptymalizowany pod kątem języka japońskiego i trenowany na starannie dobranych zbiorach danych. Firma Broadcom stwierdziła, że model ten zapewnia 40-procentową poprawę wydajności tokenów.
- Alibaba Cloud Qwen 3.7-27B: Autorski model multimodalny z oknem kontekstowym o pojemności 1 miliona tokenów. Zawiera funkcje wnioskowania multimodalnego i jest przeznaczony do obciążeń agentowych.
- Z.ai GLM 5.2: GLM 5.2 to ogólny model językowy (OML) o otwartym kodzie źródłowym, przeznaczony dla lokalnych agentów kodowania i wnioskowania. Model ten ma obsługiwać wieloetapowe, autonomiczne przepływy pracy, jednocześnie zachowując dane w środowisku przedsiębiorstwa.
Celem działań w zakresie walidacji modeli jest zmniejszenie niepewności wdrożeniowej dla przedsiębiorstw, które chcą korzystać z modeli komercyjnych i open source w infrastrukturze prywatnej. Firma Broadcom poinformowała, że dostawcy modeli współpracują z nią w celu udostępnienia zweryfikowanych modeli za pośrednictwem zintegrowanych usług VCF.
Raport Broadcom Private Cloud Outlook 2026 donosi, że 56% przedsiębiorstw już korzysta lub planuje wdrożyć wnioskowanie AI w środowisku produkcyjnym w chmurze prywatnej. Platforma VCF jest przygotowana do obsługi tych wdrożeń wraz z istniejącymi maszynami wirtualnymi, obciążeniami Kubernetes i usługami konteneryzowanymi.
Niezależne testy z wykorzystaniem standardów MLPerf Inference v5.1 potwierdziły, że VCF zapewnia wydajność porównywalną z infrastrukturą fizyczną, według Broadcom. Testy mają na celu wykazanie, że wirtualizacja i zarządzanie chmurą prywatną mogą obsługiwać inferencję produkcyjną bez konieczności korzystania z oddzielnego stosu sztucznej inteligencji fizycznej.
Głęboka ochrona bezpieczeństwa dla obciążeń AI
VMware Private AI Cloud wykorzystuje model bezpieczeństwa oparty na dogłębnej obronie, zgodny z NIST Cybersecurity Framework 2.0. Platforma łączy w sobie kontrolę infrastruktury, segmentację sieci, ochronę na poziomie aplikacji, bezpieczeństwo łańcucha dostaw oraz funkcje ciągłej zgodności.
VMware vDefend oferuje mikrosegmentację i boczne mechanizmy kontroli bezpieczeństwa na poziomie hiperwizora. Wirtualne poprawki zostały zaprojektowane w celu ochrony obciążeń przed znanymi lukami w zabezpieczeniach bez konieczności natychmiastowych zmian w aplikacjach lub przestoju infrastruktury. Monitorowanie przepływu ruchu może również identyfikować nieoczekiwaną komunikację między obciążeniami i pomagać w wykrywaniu nieautoryzowanych lub ukrytych wdrożeń sztucznej inteligencji.
Broadcom rozszerza vDefend o obciążenia agentowe AI. Zaktualizowane funkcje mają na celu identyfikację komponentów agentowych poprzez ciągłe monitorowanie ruchu, wykrywanie nieautoryzowanego użycia systemów AI oraz dystrybucję wirtualnych poprawek za pomocą sygnatur systemu wykrywania i zapobiegania włamaniom generowanych przez AI.
VMware Avi Load Balancer dodaje ochronę na poziomie aplikacji poprzez zaporę sieciową aplikacji internetowych i funkcje bezpieczeństwa API. W przypadku obciążeń agentowych, Avi został zaprojektowany w celu ograniczenia dostępu agentów do nieautoryzowanych narzędzi, identyfikacji anomalii zachowań, które mogą wskazywać na atak typu zero-day, oraz stosowania mechanizmów ochrony danych, aby zapobiec nieautoryzowanemu wyciekowi danych.
TrueSource rozszerza możliwości kontroli łańcucha dostaw w modelu open source
Broadcom wprowadził również możliwości TrueSource dla oprogramowania i usług danych wykorzystywanych w prywatnych środowiskach AI. Rozwiązanie TrueSource Trusted Artifacts stosuje procesy kompilacji w czystych pomieszczeniach w ekosystemach Java, Python i Node.js oraz w katalogu Bitnami Secure Images.
Zespół Springa nadzoruje i utrzymuje wydania Spring Enterprise. Firma Broadcom poinformowała, że wydania zawierają poprawki, które są skanowane pod kątem modeli granicznych i weryfikowane przez ludzi, a poprawki są dostarczane we wszystkich obsługiwanych wersjach.
TrueSource Data Services rozszerza to podejście na komponenty infrastruktury danych. Początkowe usługi obejmują PostgreSQL, RabbitMQ, MySQL i Valkey. Zapewnia to kontrolowane źródło dla powszechnie wdrażanych komponentów baz danych i komunikatów, które mogą obsługiwać aplikacje AI i przepływy pracy agentów.
Platforma Tanzu dodaje funkcje kontroli dla agentów autonomicznych
Firma Broadcom ogłosiła również nowe, gotowe na sztuczną inteligencję podstawy danych i możliwości środowiska wykonawczego agentów dla platformy VMware Tanzu. Platforma Tanzu jest pozycjonowana jako platforma aplikacji i agentów działająca w ramach VMware Private AI Cloud.
Agenci autonomiczni wprowadzają ryzyko inne niż to związane z aplikacjami konwencjonalnymi. Agenci mogą samodzielnie wyszukiwać dane, uruchamiać narzędzia, interpretować instrukcje i podejmować działania w połączonych systemach. Bez odpowiednich mechanizmów kontroli agent może przekroczyć przypisany mu zakres, uzyskać dostęp do nieautoryzowanych zasobów, ujawnić poufne informacje lub generować nieoczekiwane koszty infrastruktury i transferu danych do chmury.
Platforma Tanzu eliminuje te zagrożenia, stosując model środowiska uruchomieniowego z domyślnym blokowaniem dostępu. Agenci nie mają dostępu do interfejsów API, sieci, serwerów MCP ani internetu, chyba że uzyskają na to zgodę. Izolowany magazyn danych uwierzytelniających ukrywa je przed samymi agentami, zmniejszając ryzyko kradzieży danych uwierzytelniających, ich niewłaściwego użycia i ataków typu prompt injection.
Platforma zawiera również predefiniowane narzędzia programistyczne z zatwierdzonymi umiejętnościami, pakiety do budowania przepływów pracy, sterowanie z udziałem człowieka w pętli oraz zintegrowane usługi pamięci. Komponenty te mają na celu zapewnienie kontrolowanej ścieżki rozwoju dla tworzenia agentów, przy jednoczesnym zachowaniu bezpieczeństwa operacyjnego podczas wykonywania.
AgentMinder zapewnia scentralizowaną kontrolę agentów
Broadcom zaprezentował AgentMinder jako centralną płaszczyznę sterowania dla autonomicznych agentów AI. System traktuje każdego agenta jako tożsamość korporacyjną i przypisuje ją do zdefiniowanej misji, zatwierdzonych narzędzi i autoryzowanych zasobów.
Egzekwowanie zasad w czasie wykonywania stosuje mechanizmy kontroli minimalnych uprawnień do wywoływania narzędzi. Pozwala to przedsiębiorstwom określić, z których narzędzi agent może korzystać i w jakich warunkach. AgentMinder udostępnia również rejestry audytu aktywności agentów, dając zespołom ds. bezpieczeństwa i zgodności wgląd w działania podejmowane przez systemy autonomiczne.
Połączenie tożsamości agenta, egzekwowania zasad i możliwości audytu ma zapewnić warstwę zarządzania dla organizacji wdrażających wielu agentów w różnych działach i aplikacjach.
Podstawy danych gotowe na sztuczną inteligencję utrzymują kontekst w przedsiębiorstwie
Nowe, gotowe na sztuczną inteligencję podstawy danych w platformie Tanzu przetwarzają ustrukturyzowane i nieustrukturyzowane dane przedsiębiorstwa w środowisku kontrolowanym przez klienta. Powstałe w ten sposób produkty danych mają na celu dostarczanie agentom wyselekcjonowanych, bogatych w kontekst informacji bez konieczności opuszczania chmury prywatnej przez dane źródłowe.
Te produkty danych mogą być publikowane na platformie Tanzu jako usługi zarządzane. Deweloperzy i agenci mogą wyszukiwać i korzystać z usług za pośrednictwem scentralizowanego katalogu, a właściciele danych zachowują kontrolę nad sposobem przygotowywania, udostępniania i zarządzania informacjami.
Podejście to ma na celu poprawę jakości kontekstu dostępnego dla agentów, zmniejszenie zależności od nieprecyzyjnych danych i obniżenie zużycia tokenów poprzez dostarczanie modelowi bardziej istotnych informacji. Pomaga ono również utrzymać wrażliwe dane, metadane i zasoby obliczeniowe w kontrolowanej infrastrukturze organizacji.
Dostępność:
Firma Broadcom poinformowała, że nowe możliwości platformy VMware Tanzu, zaprezentowane na konferencji VMware Explore, będą powszechnie dostępne jesienią 2026 r.
Amazon