Broadcom ha recentemente annunciato la disponibilità generale della VMware Private AI Foundation con NVIDIA, segnando un miglioramento significativo nelle capacità di VMware Cloud Foundation. Questa aggiunta arricchisce la suite di prodotti e consente alle aziende di sfruttare l’intelligenza artificiale in modo più efficace all’interno della propria infrastruttura esistente.
Broadcom ha recentemente annunciato la disponibilità generale della VMware Private AI Foundation con NVIDIA, segnando un miglioramento significativo nelle capacità di VMware Cloud Foundation. Questa aggiunta arricchisce la suite di prodotti e consente alle aziende di sfruttare l’intelligenza artificiale in modo più efficace all’interno della propria infrastruttura esistente.
VMware Private AI Foundation con NVIDIA è progettato come componente aggiuntivo per VMware Cloud Foundation. Consente alle aziende di importare modelli di intelligenza artificiale preaddestrati nei propri data center. Una volta integrati, questi modelli possono essere perfezionati utilizzando dati proprietari o utilizzati in progetti avanzati di generazione aumentata di recupero per applicazioni aziendali specifiche. Questa combinazione di flessibilità e potenza è fondamentale per le aziende che mirano a migliorare l’efficienza operativa e l’innovazione.
Monitoraggio GPU più approfondito e insight operativi
Dal suo rilascio iniziale nel marzo 2024, VMware ha continuamente migliorato le capacità di monitoraggio della GPU del sistema. Al momento della sua disponibilità generale, VMware ha introdotto due nuove dashboard che forniscono visualizzazioni complete dell'utilizzo della GPU nei cluster di server, cruciali per il mantenimento di prestazioni ed efficienza:
- Dashboard di riepilogo: questa dashboard fornisce una rapida panoramica dei cluster dotati di GPU, evidenziando parametri critici come la memoria GPU, che è vitale per il ridimensionamento delle prestazioni.
- Dashboard delle metriche dettagliate: questa dashboard offre approfondimenti sulla temperatura della GPU, sull'utilizzo della memoria e sull'utilizzo del calcolo, consentendo una gestione proattiva delle risorse ed evitando rischi di surriscaldamento.
Approfondimento nell'analisi GPU
I dashboard appena rilasciati consentono agli amministratori di approfondire le specifiche delle prestazioni della GPU su diversi cluster e server. Ogni pannello è codificato a colori per evidenziare le soglie critiche per temperatura, utilizzo della memoria e utilizzo del computer, aiutando il personale IT a identificare e risolvere rapidamente potenziali problemi. Gli utenti possono selezionare singoli riquadri GPU per un'analisi più approfondita per rivelare topologia dettagliata e dati operativi, garantendo una risoluzione dei problemi e una manutenzione precise.
Automazione con script PowerCLI
Per semplificare l'implementazione e l'integrazione di VMware Private AI Foundation con NVIDIA, il team di ingegneri di VMware ha sviluppato una serie di script PowerCLI. Questi script sono strumenti essenziali per configurare l'infrastruttura necessaria per supportare questa sofisticata piattaforma di intelligenza artificiale:
- Preparazione dell'infrastruttura: gli script aiutano nella creazione di domini del carico di lavoro VCF, nella configurazione di gestori vGPU NVIDIA e nella creazione di cluster NSX Edge.
- Abilitazione dei carichi di lavoro AI: questa sezione include i passaggi per l'attivazione del Kubernetes Supervisor Cluster all'interno del dominio dei carichi di lavoro, che è fondamentale per la gestione delle operazioni e delle distribuzioni AI.
Un componente fondamentale della VMware Private AI Foundation con NVIDIA è il supporto per i contenitori e i microservizi NVIDIA AI Enterprise. Questi includono il microservizio di inferenza NVIDIA NIM e il microservizio NVIDIA NeMo Retriever, che sono fondamentali per l'implementazione di modelli linguistici di grandi dimensioni e di applicazioni di generazione aumentata di recupero. Gli script PowerCLI facilitano il download e la distribuzione automatici di questi servizi su una VM Deep Learning durante la configurazione iniziale.
La disponibilità generale di VMware Private AI Foundation con NVIDIA introduce strumenti e funzionalità robusti per le aziende che desiderano migliorare le proprie applicazioni di data science e AI. La combinazione di monitoraggio avanzato della GPU, insight operativi dettagliati e potenti script di automazione semplifica l'implementazione di modelli di intelligenza artificiale complessi, garantendo che le aziende possano integrare rapidamente ed efficacemente queste tecnologie nel proprio framework operativo. Questa versione rappresenta un progresso sostanziale nell'impegno di VMware nell'integrare tecnologie all'avanguardia nelle sue offerte cloud, fornendo alle aziende gli strumenti di cui hanno bisogno per avere successo nel panorama digitale in evoluzione.
Trova maggiori informazioni in questo VMware Private AI Foundation con descrizione della soluzione NVIDIA.
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
