Jensen Huang z firmy NVIDIA jest obecny na targach Computex 2023 na Tajwanie w tym tygodniu, gdzie wygłosi przemówienie pełne zapowiedzi nowych produktów, ze szczególnym uwzględnieniem możliwości rozwoju modeli nowej generacji dla generatywnych aplikacji AI, analizy danych i systemów rekomendacji. Superkomputer NVIDIA DGX , oparty na układach NVIDIA GH200 Grace Hopper Superchips oraz system przełączników NVIDIA NVLink, zajmowały centralne miejsce.
NVIDIA DGX GH200 wykorzystuje technologię połączeń NVLink z systemem przełączania NVLink, aby połączyć 256 superchipów GH200 i działać jak pojedynczy procesor graficzny, zapewniając wydajność na poziomie 1 eksaflopa i 144 terabajty pamięci współdzielonej. To prawie 500 razy więcej pamięci niż pojedynczy system NVIDIA DGX A100!
Technologia NVLink rozszerza sztuczną inteligencję na dużą skalę
Superchipy GH200 łączą procesor NVIDIA Grace oparty na architekturze ARM z procesorem graficznym NVIDIA H100 Tensor Core za pomocą połączeń NVLink-C2C , eliminując potrzebę tradycyjnego połączenia PCIe między procesorem a procesorem graficznym. Przepustowość między procesorem graficznym a procesorem została zwiększona siedmiokrotnie w porównaniu z najnowszą technologią PCIe, co zmniejsza pobór mocy przez połączenie o ponad 5 razy i zapewnia 600-gigabajtowy moduł GPU w architekturze Hopper dla superkomputerów DGX GH200.
To pierwszy superkomputer, który łączy Grace Hopper Superchips z systemem przełączania NVLink. To nowe połączenie umożliwia wszystkim procesorom graficznym (GPU) w systemie DGX GH200 pracę jako jeden, w porównaniu z limitem ośmiu procesorów graficznych w połączeniu z NVLink jako pojedynczym procesorem graficznym, bez wpływu na wydajność. Architektura DGX GH200 zapewnia 10-krotnie większą przepustowość niż poprzednia generacja, oferując moc potężnego superkomputera AI z prostotą programowania pojedynczego procesora graficznego (GPU).
Pionierzy sztucznej inteligencji otrzymują nowe narzędzia badawcze
Oczekuje się, że pierwszymi, którzy uzyskają dostęp do nowego superkomputera, będą Google Cloud, Meta i Microsoft, co umożliwi im zbadanie jego możliwości w zakresie generatywnych obciążeń AI. NVIDIA zamierza udostępnić projekt DGX GH200 jako wzór dla dostawców usług chmurowych i innych firm zajmujących się skalowaniem hiperprzestrzennym, aby mogli dostosować go do swojej infrastruktury.
Badacze i zespoły programistów firmy NVIDIA uzyskają dostęp do nowego superkomputera NVIDIA Helios, wyposażonego w cztery systemy DGX GH200. Helios będzie zawierał 1,024 superchipów Grace Hopper i ma być gotowy do pracy do końca roku. Każdy system superkomputera Helios będzie połączony siecią NVIDIA Quantum-2 InfiniBand o przepustowości do 400 Gb/s, co umożliwi trenowanie dużych modeli sztucznej inteligencji.
Zintegrowane i celowo zbudowane
Superkomputery DGX GH200 będą wyposażone w oprogramowanie NVIDIA, zapewniające gotowe, kompleksowe rozwiązanie, obsługujące największe obciążenia związane ze sztuczną inteligencją i analityką danych. Oprogramowanie NVIDIA Base Command zapewnia zarządzanie przepływem pracy z zakresu sztucznej inteligencji, zarządzanie klastrami klasy korporacyjnej, biblioteki przyspieszające infrastrukturę obliczeniową, pamięci masowej i sieciową oraz oprogramowanie systemowe zoptymalizowane pod kątem obsługi obciążeń związanych ze sztuczną inteligencją. Oprogramowanie NVIDIA AI Enterprise będzie zawierać ponad 100 frameworków, przeszkolonych modeli i narzędzi programistycznych, które usprawnią rozwój i wdrażanie sztucznej inteligencji produkcyjnej, w tym sztucznej inteligencji generatywnej, rozpoznawania obrazu, sztucznej inteligencji mowy i innych.
Dostępność:
Oczekuje się, że superkomputery NVIDIA DGX GH200 będą dostępne pod koniec roku.
Amazon