Jensen Huang di NVIDIA è presente questa settimana al Computex 2023 di Taiwan, dove ha tenuto un discorso di apertura ricco di annunci di nuovi prodotti, con particolare attenzione allo sviluppo di modelli di nuova generazione per applicazioni di intelligenza artificiale generativa, analisi dei dati e sistemi di raccomandazione. Il supercomputer NVIDIA DGX , basato sui chip NVIDIA GH200 Grace Hopper, e il sistema di switch NVIDIA NVLink sono stati i protagonisti.
La NVIDIA DGX GH200 utilizza la tecnologia di interconnessione NVLink con il sistema di switch NVLink per combinare 256 Superchip GH200 e farli funzionare come un'unica GPU, offrendo 1 exaflop di prestazioni e 144 terabyte di memoria condivisa. Si tratta di quasi 500 volte più memoria rispetto a un singolo sistema NVIDIA DGX A100!
La tecnologia NVLink espande l'intelligenza artificiale su larga scala
I Superchip GH200 combinano la CPU NVIDIA Grace basata su architettura Arm con la GPU NVIDIA H100 Tensor Core utilizzando interconnessioni chip NVLink-C2C , eliminando la necessità della tradizionale connessione PCIe tra CPU e GPU. La larghezza di banda tra GPU e CPU è aumentata di 7 volte rispetto alla più recente tecnologia PCIe, riducendo il consumo energetico dell'interconnessione di oltre 5 volte e fornendo un blocco di costruzione GPU con architettura Hopper da 600 GB per i supercomputer DGX GH200.
Questo è il primo supercomputer ad associare i Superchip Grace Hopper al sistema di commutazione NVLink. Questa nuova interconnessione consente a tutte le GPU di un sistema DGX GH200 di funzionare come una sola, rispetto al limite di otto GPU combinato con NVLink come una singola GPU senza influire sulle prestazioni. L'architettura DGX GH200 offre una larghezza di banda 10 volte maggiore rispetto alla generazione precedente, offrendo la potenza di un enorme supercomputer AI con la semplicità di programmazione di una singola GPU.
I pionieri dell'intelligenza artificiale ottengono nuovi strumenti di ricerca
Si prevede che i primi ad accedere al nuovo supercomputer saranno Google Cloud, Meta e Microsoft, consentendo loro di esplorare le sue capacità per carichi di lavoro di intelligenza artificiale generativa. NVIDIA intende fornire il design DGX GH200 come modello ai fornitori di servizi cloud e ad altri hyperscaler in modo che possano personalizzarlo per la loro infrastruttura.
I ricercatori e i team di sviluppo NVIDIA avranno accesso al nuovo supercomputer NVIDIA Helios dotato di quattro sistemi DGX GH200. Helios includerà 1,024 Grace Hopper Superchip e dovrebbe essere online entro la fine dell'anno. Ciascun sistema del supercomputer Helios sarà interconnesso con la rete NVIDIA Quantum-2 InfiniBand con una velocità di trasmissione dati di larghezza di banda fino a 400 Gb/s per l'addestramento di modelli IA di grandi dimensioni.
Integrato e costruito ad hoc
I supercomputer DGX GH200 includeranno il software NVIDIA, offrendo una soluzione completa e pronta all'uso, in grado di supportare i carichi di lavoro di intelligenza artificiale e analisi dei dati più complessi. Il software NVIDIA Base Command fornisce la gestione dei flussi di lavoro di IA, la gestione di cluster di livello enterprise, librerie per accelerare l'infrastruttura di calcolo, archiviazione e rete, nonché software di sistema ottimizzato per l'esecuzione di carichi di lavoro di IA. Sarà incluso anche il software NVIDIA AI Enterprise , che offre oltre 100 framework, modelli riaddestrati e strumenti di sviluppo per semplificare lo sviluppo e la distribuzione di IA in produzione, tra cui IA generativa, visione artificiale, IA vocale e altro ancora.
Disponibilità
Si prevede che i supercomputer NVIDIA DGX GH200 saranno disponibili entro la fine dell'anno.
Amazon