Broadcom har nyligen meddelat den allmänna tillgängligheten av VMware Private AI Foundation med NVIDIA, vilket markerar en betydande förbättring av VMware Cloud Foundations möjligheter. Detta tillägg berikar produktpaketet och ger företag möjlighet att utnyttja AI mer effektivt inom sin befintliga infrastruktur.
Broadcom har nyligen meddelat den allmänna tillgängligheten av VMware Private AI Foundation med NVIDIA, vilket markerar en betydande förbättring av VMware Cloud Foundations möjligheter. Detta tillägg berikar produktpaketet och ger företag möjlighet att utnyttja AI mer effektivt inom sin befintliga infrastruktur.
VMware Private AI Foundation med NVIDIA är designad som ett tillägg för VMware Cloud Foundation. Det tillåter företag att importera förutbildade AI-modeller till sina datacenter. När de väl har integrerats kan dessa modeller finjusteras med hjälp av egen data eller användas i avancerade Retrieval-Augmented Generation-designer för specifika affärsapplikationer. Denna blandning av flexibilitet och kraft är avgörande för företag som strävar efter att förbättra operativ effektivitet och innovation.
Djupare GPU-övervakning och operativa insikter
Från den första releasen i mars 2024 har VMware kontinuerligt förbättrat systemets GPU-övervakningsmöjligheter. Vid sin allmänna tillgänglighet introducerade VMware två nya instrumentpaneler som ger heltäckande vyer av GPU-användning över serverkluster, avgörande för att bibehålla prestanda och effektivitet:
- Sammanfattning Dashboard: Den här instrumentpanelen ger en snabb översikt över GPU-utrustade kluster, och lyfter fram kritiska mätvärden som GPU-minne, vilket är avgörande för prestandaskalning.
- Dashboard med detaljerad statistik: Den här instrumentpanelen ger insikter i GPU-temperatur, minnesanvändning och datoranvändning, vilket möjliggör proaktiv resurshantering och undviker överhettningsrisker.
Fördjupa dig i GPU Analytics
De nyligen släppta instrumentpanelerna tillåter administratörer att gräva i detaljerna för GPU-prestanda över olika kluster och servrar. Varje panel är färgkodad för att markera kritiska trösklar för temperatur, minnesanvändning och datoranvändning, vilket hjälper IT-personal att snabbt identifiera och åtgärda potentiella problem. Användare kan välja individuella GPU-brickor för djupare analys för att avslöja detaljerad topologi och driftsdata, vilket säkerställer exakt felsökning och underhåll.
Automatisering med PowerCLI-skript
För att effektivisera distributionen och integrationen av VMware Private AI Foundation med NVIDIA har VMwares ingenjörsteam utvecklat en serie PowerCLI-skript. Dessa skript är viktiga verktyg för att sätta upp den nödvändiga infrastrukturen för att stödja denna sofistikerade AI-plattform:
- Infrastrukturförberedelser: Skript hjälper till att skapa VCF-arbetsbelastningsdomäner, konfigurera NVIDIA vGPU-hanterare och etablera NSX Edge-kluster.
- Aktivera AI-arbetsbelastningar: Det här avsnittet innehåller steg för att aktivera Kubernetes Supervisor Cluster inom arbetsbelastningsdomänen, vilket är avgörande för att hantera AI-operationer och implementeringar.
En kritisk komponent i VMware Private AI Foundation med NVIDIA är dess stöd för NVIDIA AI Enterprise-behållare och mikrotjänster. Dessa inkluderar NVIDIA NIM-inferensmikrotjänsten och NVIDIA NeMo Retriever Microservice, som är centrala för att distribuera stora språkmodeller och Retrieval-Augmented Generation-applikationer. PowerCLI-skripten underlättar automatisk nedladdning och distribution av dessa tjänster på en Deep Learning VM under den första installationen.
Den allmänna tillgängligheten av VMware Private AI Foundation med NVIDIA introducerar robusta verktyg och funktioner för företag som vill förbättra sina datavetenskap och AI-applikationer. Kombinationen av avancerad GPU-övervakning, detaljerade operativa insikter och kraftfulla automatiseringsskript förenklar implementeringen av komplexa AI-modeller, vilket säkerställer att företag snabbt och effektivt kan integrera dessa teknologier i deras operativa ramverk. Den här utgåvan innebär ett betydande framsteg i VMwares engagemang för att integrera spjutspetsteknologi i sina molnerbjudanden, vilket ger företag de verktyg de behöver för att lyckas i det digitala landskapet under utveckling.
Hitta mer information i detta VMware Private AI Foundation med NVIDIA lösning kort.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde
