Jensen Huang ze společnosti NVIDIA se tento týden účastní veletrhu Computex 2023 na Tchaj-wanu, kde přednese hlavní projev plný oznámení o nových produktech s důrazem na vývoj modelů nové generace pro generativní aplikace umělé inteligence, analýzu dat a doporučovací systémy. Ústředním bodem pozornosti se stal superpočítač NVIDIA DGX poháněný superčipy NVIDIA GH200 Grace Hopper a přepínacím systémem NVIDIA NVLink.
NVIDIA DGX GH200 využívá propojovací technologii NVLink se systémem přepínání NVLink, která kombinuje 256 superčipů GH200 a funguje jako jedna grafická karta, která poskytuje výkon 1 exaflop a 144 terabajtů sdílené paměti. To je téměř 500krát více paměti než jeden systém NVIDIA DGX A100!
Technologie NVLink rozšiřuje umělou inteligenci ve velkém měřítku
Superčipy GH200 kombinují procesor NVIDIA Grace založený na architektuře Arm s grafickou kartou NVIDIA H100 Tensor Core pomocí propojení čipů NVLink-C2C , čímž eliminují potřebu tradičního propojení CPU-GPU přes PCIe. Šířka pásma mezi GPU a CPU je ve srovnání s nejnovější technologií PCIe 7x zvýšena, což snižuje spotřebu energie propojení více než 5x a poskytuje 600GB stavební blok GPU s architekturou Hopper pro superpočítače DGX GH200.
Jedná se o první superpočítač, který spojuje superčipy Grace Hopper se systémem NVLink Switch. Toto nové propojení umožňuje všem GPU v systému DGX GH200 pracovat jako jeden celek, na rozdíl od limitu osmi GPU v kombinaci s NVLink jako jedním GPU, aniž by to ovlivnilo výkon. Architektura DGX GH200 poskytuje 10krát větší šířku pásma než předchozí generace, a poskytuje tak výkon masivního superpočítače s umělou inteligencí s jednoduchostí programování jediného GPU.
Průkopníci umělé inteligence získávají nové výzkumné nástroje
Očekává se, že jako první k novému superpočítači budou mít přístup společnosti Google Cloud, Meta a Microsoft, což jim umožní prozkoumat jeho možnosti pro generativní úlohy umělé inteligence. NVIDIA má v úmyslu poskytnout návrh DGX GH200 jako plán poskytovatelům cloudových služeb a dalším hyperškálovacím společnostem, aby si jej mohli přizpůsobit pro svou infrastrukturu.
Výzkumníci a vývojové týmy společnosti NVIDIA získají přístup k novému superpočítači NVIDIA Helios se čtyřmi systémy DGX GH200. Helios bude obsahovat 1 024 superčipů Grace Hopper a očekává se, že bude online do konce roku. Každý systém v superpočítači Helios bude propojen sítí NVIDIA Quantum-2 InfiniBand s propustností dat až 400 Gb/s pro trénování velkých modelů umělé inteligence.
Integrovaný a účelově navržený
Superpočítače DGX GH200 budou obsahovat software NVIDIA, který poskytne komplexní řešení na klíč s podporou největších úloh v oblasti umělé inteligence a datové analýzy. Software NVIDIA Base Command poskytuje správu pracovních postupů umělé inteligence, správu clusterů na podnikové úrovni, knihovny pro akceleraci výpočetní, úložné a síťové infrastruktury a systémový software optimalizovaný pro spouštění úloh umělé inteligence. Součástí bude i software NVIDIA AI Enterprise, který poskytne více než 100 frameworků, přeškolených modelů a vývojových nástrojů pro zefektivnění vývoje a nasazení produkční umělé inteligence, včetně generativní umělé inteligence, počítačového vidění, řečové umělé inteligence a dalších.
dostupnost
Očekává se, že superpočítače NVIDIA DGX GH200 budou dostupné do konce roku.
Amazon