Idag efter att NVIDIA gjort flera GPU-relaterade tillkännagivanden vid sitt årliga GTC-evenemang, gjorde Supermicro vad de gör bäst, och tillkännagav hårdvarustöd för den senaste innovationen som kommer ut på marknaden. I det här fallet meddelade Supermicro att de har utökat sin nya 4U-server för att stödja upp till åtta NVIDIA HGX A100 GPU:er. Företaget har även en 2U-server och stöder upp till fyra A100 GPU:er.
Supermicro-servrarna för GPU-system, med NVIDIA HGX A100 GPU:er, körde omfånget inklusive 1U, 2U, 4U och 10U rackmonterade GPU-system. Dessa lösningar fungerar från kant till moln och drivs av antingen AMD EPYC- eller Intel Xeon-processorer. Enligt företaget innehåller 1U GPU-systemen upp till fyra NVIDIA GPU:er med NVLink, inklusive NEBS Level 3-certifierade, 5G/Edge-ready SYS-1029GQ. Supermicros 2U GPU-system, som SYS-2029GP-TR, kan stödja upp till sex NVIDIA V100 GPU: er med dubbla PCI-E Root komplexa kapacitet i ett system. Och slutligen, 10U GPU-servrarna, såsom SYS-9029GP-TNVRT, stöder 16 V100 SXM3 GPU-utbyggnader med till Dual Intel Xeon Scalable-processorer med inbyggd AI-acceleration.
För de nya servrarna använder Supermicro en avancerad termisk design, med anpassade kylflänsar och valfri vätskekylning för att ha NVIDIA HGX A100 4-GPU 8-GPU baskort, tillsammans med en ny 4U-server som stöder åtta NVIDIA A100 PCI-E GPU. De nya servrarna använder företagets Advanced I/O Module (AIOM) formfaktor för mer flexibilitet i nätverkskommunikation. AIOM fungerar med PCIe gen 4-lagrings- och nätverksenheter som stöder NVIDIA GPUDirect RDMA och GPUDirect Storage med NVME over Fabrics (NVMe-oF) på NVIDIA Mellanox InfiniBand. Allt ovanstående syftar till att eliminera flaskhalsar i alla GPU:er.
Först och främst kan 2U-systemet hysa upp till 4 NVIDIA GPU:er genom den termiska kylflänsdesignen. Detta system möjliggör peer-to-peer-kommunikation med hög GPU via NVIDIA NVLink, upp till 8TB DDR4 3200Mhz systemminne, fem PCI-E 4.0 I/O-platser som stöder GPUDirect RDMA samt tillåter fyra hot-swappable NVMe med GPUDirect Storage-kapacitet. Imponerande i ett 2U-system.
Till det större systemet har 4U-servern NVIDIA HGX A100 8-GPU-baskortet, upp till sex NVMe U.2 och två NVMe M.2, och tio PCI-E 4.0 x16-platser. Systemet utnyttjar ovan nämnda AIOM-, NVIDIA NVLink- och NVSwitch-teknik. Användningsfallen för den här stora killen är storskalig djupinlärningsutbildning, applikationer för neurala nätverksmodeller för forskning eller nationella laboratorier, superdatorkluster och HPC-molntjänster.
För maximal GPU-densitet har Supermicro även ett 8U SuperBlade-hölje. Den här servern kan stödja upp till 20 noder och 40 GPU:er med två enkelbredds GPU:er per nod, eller en NVIDIA Tensor Core A100 PCI-E GPU per nod. Att montera upp till 20 NVIDIA A100 i ett 8U-fotavtryck kan faktiskt spara kostnader, eftersom det bara är 8U som behöver drivas eller lämnar plats för andra enheter i racken. Denna SuperBlade tillhandahåller en 100 % icke-blockerande HDR 200Gb/s InfiniBand-nätverksinfrastruktur för att påskynda djupinlärning och möjliggöra realtidsanalys och beslutsfattande.
Amazon