NVIDIA Spectrum-X je akcelerovaná ethernetová platforma navržená pro zlepšení výkonu a efektivity cloudů s umělou inteligencí založených na Ethernetu. Síťová platforma Spectrum-X kombinuje procesory NVIDIA Spectrum-4, BlueField-3 DPU a akcelerační software, čímž dosahuje téměř 2x lepšího celkového výkonu a energetické účinnosti umělé inteligence a konzistentního a předvídatelného výkonu v prostředích s více klienty.
NVIDIA Spectrum-X je poháněna akceleračním softwarem a sadami pro vývoj softwaru (SDK), které vývojářům poskytují zdroje potřebné k vytváření softwarově definovaných, cloudově nativních aplikací umělé inteligence. Dodání komplexních funkcí zkracuje dobu běhu masivních generativních modelů umělé inteligence založených na transformátorech, což umožňuje síťovým inženýrům, datovým vědcům umělé inteligence a poskytovatelům cloudových služeb zlepšovat výsledky a rychleji činit informovaná rozhodnutí. Podle společnosti NVIDIA NVIDIA Spectrum-X zavádějí přední světoví hyperscaleři a cloudoví inovátoři.
Plán a testovací superpočítač
Jako plán a testovací prostředí pro referenční návrhy NVIDIA Spectrum-X staví NVIDIA Israel-1, hyperscale generativní superpočítač s umělou inteligencí, který bude nasazen v izraelském datovém centru na serverech Dell PowerEdge XE9680 založených na platformě NVIDIA HGX.
Platforma H100 s osmi GPU, DPU BlueField-3 a přepínače Spectrum-4.
Síťová platforma NVIDIA Spectrum-X využívá standardizovaný Ethernet, je interoperabilní s ethernetovými stacky a lze ji použít v různých aplikacích umělé inteligence. Platforma začíná Spectrum-4, prvním ethernetovým přepínačem postaveným pro sítě umělé inteligence. Pokročilá rozšíření RoCE fungují napříč přepínači Spectrum-4, DPU BlueField-3 a optikou LinkX a vytvářejí tak komplexní 400GbE síť optimalizovanou pro cloudy s umělou inteligencí.
NVIDIA Spectrum-X vylepšuje multitenancy díky izolaci výkonu, která zajišťuje optimální a konzistentní výkon úloh AI klientů. Dokáže identifikovat úzká místa výkonu a nabízí automatizované ověřování struktury pro lepší přehled o výkonu AI.
Akcelerační software, který řídí Spectrum-X, zahrnuje NVIDIA SDK, jako je Cumulus Linux, čistý SONiC a NetQ, a společně umožňují extrémní výkon platformy. Součástí je také softwarový framework NVIDIA DOCA, srdce procesorů BlueField DPU.
Spectrum-X umožňuje připojení 256 portů s rychlostí 200 Gb/s k jednomu přepínači nebo 16 000 portů v dvouvrstvé topologii typu leaf-spine pro podporu růstu a expanze cloudů s umělou inteligencí a zároveň zachování vysoké úrovně výkonu a minimalizaci latence sítě.
Mezi společnosti nabízející NVIDIA Spectrum-X patří Dell Technologies, Lenovo a Supermicro.
dostupnost
Přepínače NVIDIA Spectrum-X a Spectrum-4, procesory BlueField-3 a optika 400G LinkX jsou nyní k dispozici.
Amazon