Server Lenovo ThinkSystem SR675 V3 – poháněný novými grafickými procesory NVIDIA L40S – se představil na konferenci SIGGRAPH v Los Angeles a stal se ústředním bodem plánů společnosti NVIDIA na podporu globálního zavádění umělé inteligence a zavedení generativních aplikací umělé inteligence, jako jsou inteligentní chatboti, vyhledávací a shrnující nástroje, uživatelům v různých odvětvích.
Nový systém ThinkSystem byl představen jako server NVIDIA OVX a brzy bude integrovat nedávno oznámené grafické procesory NVIDIA L40S. Očekává se, že tato spolupráce pomůže zrevolucionizovat implementace umělé inteligence a umožní vývoj umělé inteligence nové generace, imerzivní simulace metaverza a kognitivní rozhodování ve velkém měřítku.
Grafické procesory NVIDIA L40S
Nově představená grafická karta NVIDIA L40S je výkonný univerzální procesor pro datová centra, určený pro akceleraci výpočetně náročných aplikací, včetně trénování a inference umělé inteligence, 3D návrhů a vizualizací, zpracování videa a průmyslové digitalizace s platformou NVIDIA Omniverse. Může se pochlubit průlomovou akcelerací více úloh pro inferenci a rekvalifikaci modelů velkých jazyků (LLM), grafiku a video aplikace.
Grafický procesor L40S umožňuje vývoj nové generace aplikací pro zvuk, řeč, 2D, video a 3D s využitím umělé inteligence a je klíčovou součástí nadcházejících platforem NVIDIA Omniverse OVX 3.0, které nabízejí vysoce věrná a přesná digitální dvojčata.
Grafická karta NVIDIA L40S bude klíčovým prvkem systémů NVIDIA OVX. Server je poháněn architekturou grafických karet NVIDIA Ada Lovelace a má velkorysých 48 GB paměti, takže může pojmout až osm grafických karet L40S. Může se také pochlubit jádry Tensor Cores čtvrté generace a enginem FP8 Transformer Engine, které poskytují ohromující tenzorový výpočetní výkon 1.45 petaflopů.
Ve srovnání se svým předchůdcem, grafickým procesorem NVIDIA A100 Tensor Core, vykazuje L40S až 1.2krát vyšší generativní výkon inference umělé inteligence a až 1.7krát rychlejší trénovací výkon pro zpracování komplexních úloh umělé inteligence s miliardami parametrů a více datovými modalitami.
Grafický procesor L40S je navržen tak, aby vyhovoval široké škále profesionálních pracovních postupů. Obsahuje 142 RT jader třetí generace, která poskytují 212 teraflopů výkonu sledování paprsků, což je ideální pro vysoce věrné profesionální vizualizační pracovní postupy, jako je vykreslování v reálném čase, návrh produktů a tvorba 3D obsahu.
Navíc 18 176 CUDA jader L40S poskytuje téměř 5krát vyšší výkon v operacích s plovoucí desetinnou čárkou (FP32) než GPU NVIDIA A100, což zajišťuje, že výpočetní nároky na inženýrské a vědecké simulace jsou splněny s vyšší efektivitou.
Konfigurace ThinkSystem SR675 V3
Společnost Lenovo je strategicky připravena podporovat L40S svou novou řadou serverů optimalizovaných pro nové grafické procesory. Kombinací plně simulovaných digitálních dvojčat s generativní umělou inteligencí si Lenovo klade za cíl zlepšit své obchodní procesy a výsledky návrhu. Spolupráce mezi společnostmi Lenovo a NVIDIA na systému NVIDIA OVX usnadňuje konstrukci a provoz virtuálních světů, rozšiřuje možnosti systému o generativní umělou inteligenci a poskytuje vysoký výkon pro datová centra s úlohami umělé inteligence.
ThinkSystem SR675 V3 nabízí tři serverové konfigurace v jedné, včetně podpory pro systémy NVIDIA HGX A100 se 4 GPU, technologií NVLink a hybridním kapalinovým chlazením Lenovo Neptune. Navíc je kompatibilní s konfiguracemi se 4 nebo 8 GPU, které obsahují servery NVIDIA L40S, NVIDIA H100 80GB nebo NVIDIA H100 NVL v 3U provedení.
Společnost Lenovo vnímá tento vývoj jako významný krok ve zjednodušení zavádění umělé inteligence, jejím zpřístupnění organizacím všech velikostí a podpoře transformativní inteligence napříč všemi odvětvími.
Konfigurace ThinkSystem SR675 V3: Základní, husté a HGX moduly
V oblasti konfigurací serverů s umělou inteligencí/HPC je pochopení kompromisů a výhod různých konfigurací klíčové pro optimalizaci a specifické požadavky na pracovní zátěž. Lenovo ThinkSystem SR675 V3 nabízí flexibilitu díky konfiguracím modulů Base, Dense a HGX, z nichž každá je navržena pro specifické potřeby.
Základní modul
Konfigurace základního modulu je určena pro organizace, které hledají vyváženou kombinaci podpory grafických karet (GPU) a úložné kapacity. Může pojmout až 4 grafické karty FHFL s dvojitou šířkou, plnou výškou a plnou délkou s využitím připojení PCIe Gen5 x16. To nabízí slušné možnosti paralelního zpracování pro úlohy umělé inteligence a hlubokého učení.
Co se týče úložiště, základní modul podporuje až 8 2.5" disků SAS/SATA/NVMe s možností výměny za provozu, což poskytuje rovnováhu mezi objemem úložiště a rychlostí.
Hustý modul
Pro organizace, které upřednostňují paralelní zpracování GPU, může modul Dense podporovat až 8 GPU s dvojitou šířkou, plnou výškou a plnou délkou. Každá GPU využívá PCIe Gen5 x16 na přepínači PCIe, čímž maximalizuje počet GPU na jednom serveru pro vylepšené paralelní zpracování.
Pokud jde o úložiště, Dense Module je všestranný. Podporuje až 6 disků SSD EDSFF E1.S NVMe nebo až 4 disky SSD EDSFF E3.S 1T NVMe HS. Tato konfigurace je ideální pro scénáře, kde náročné úlohy zpracování dat vyžadují více grafických procesorů na úkor určité flexibility úložiště.
Modul HGX
Konfigurace modulu HGX je specializovaná a zaměřená na potřeby vysokého výkonu se specifickými požadavky na GPU. Využívá technologii NVIDIA HGX H100 se 4 grafickými kartami SXM5 připojenými přes NVLink. Tyto grafické karty SXM5 mohou omezovat celkový počet, který se vejde do šasi, ale nabízejí vynikající výkon čipu, díky čemuž jsou ideální pro náročné úlohy umělé inteligence a hlubokého učení.
Co se týče úložiště, modul HGX je optimalizován pro rychlost. Může pojmout až 4x 2.5" Hot Swap NVMe SSD nebo až 4x EDSFF E3.S 1T NVMe HS SSD.
Závěrečné myšlenky
Každá konfigurace modulů ThinkSystem SR675 V3 má své jedinečné silné stránky. Zatímco grafické karty SXM5 v modulu HGX nabízejí bezkonkurenční výkon, organizace vyžadující více paralelního zpracování se mohou rozhodnout pro modul Dense, který osadí více grafických karet PCIe. To je však za cenu ztráty TDP a potenciálního snížení výkonu. Základní modul představuje střední cestu a nabízí rovnováhu mezi podporou grafických karet a možnostmi úložiště. Jako vždy, nejlepší volba závisí na konkrétních požadavcích a omezeních daného úkolu a žádnou z těchto konfigurací bychom z naší laboratoře nikdy nevyhodili.
Amazon