Supermicro har lagt till sin robusta linje av universella GPU-system med en 8U-box som kan rymma åtta sockets (SXM) NVIDIA A100 och H100 GPU:er som stöder NVLink och NVSwitch. Detta innebär NVSwitch GPU-till-GPU-bandbredd på 600 GB och en total sammanlagd bandbredd på 4.8 TB/s med A100s. Förutom att hantera dagens behov är Supermicro GPU SuperServer SYS-820GP-TNAO redo för nästa gång, med gott om utrymme för högre TDP-processorer och acceleratorkort.
Supermicro GPU SuperServer SYS-820GP-TNAO Höjdpunkter
Höjdpunkten i denna box är helt klart stödet för NVIDIAs HGX A100 8-GPU SXM4 Multi-GPU Board. Det kortet och tillhörande fläktar och kylflänsar för kylning utgör den nedre halvan av 8U-chassit som ses ovan. Denna box stöder CPU-GPU PCIe 4.0 x16-interconnect och GPU-GPU-interconnect via NVIDIA NVLink med NVSwitch.
Kylning är en stor sak med GPU-system som detta; om termiken blir utom kontroll kommer systemet att strypa prestandan. Supermicro har lagt ner betydande ansträngningar på sina dubbla kylzoner för att säkerställa att GPU:erna fortsätter att fungera med högsta prestanda. Det finns fläktar på fram- och baksidan av systemet, förutom en bank inuti servern och några till på baksidan. Medan det primära go-to-market chassit är luftkylt, erbjuder Supermicro stöd för vätskekylning i detta chassi.
Den övre halvan av Supermicro GPU SuperServer SYS-820GP-TNAO är dator- och lagringsdelen av servern.
Vid lanseringen använder detta ett Supermicro Super X12DGO-6-moderkort, med stöd för två Intel Xeon-skalbara processorer med TDP upp till 270W. Kortet har också 32 DDR4 DIMM-platser, vilket översätts till ett maximalt DRAM-fotavtryck på 8 TB (LRDIMM).
Moderkortet har också 10 PCIe-platser, alla PCIe4 x16 LP, inklusive AIOM/OCP 3.0-stöd. Dessa kortplatser är uppdelade i två banker på baksidan av systemet och är redo för NIC eller en mängd olika acceleratorkort. När det gäller lagring stöder systemet sex enheter i fronten (tri-mode) och en valfri uppsättning med fyra NVMe-fack på baksidan. Vissa SSD-fack har även stöd för NVIDIA GPUDirect Storage. Det finns M.2 ombord för bagageutrymme.
En enda 6000W OCP-kompatibel strömkälla ger ström. Dessutom stöder systemet både AC och DC Power, inklusive stöd för standard OCP DC-rackkonfigurationer.
Vårt perspektiv
Supermicro lyssnar på kunder inom HPC- och AI-områden som ropar efter mer kraftfulla GPU-system. Hittills har Supermciro också varit flexibla i sin Universal GPU-linje, vilket gör det enkelt att byta ut Intel mot till exempel AMD-processorer eller NVIDIA SXM GPU:er mot något annat. Det betyder att från ett fåtal baskomponenter kan Supermicro bli ganska kreativ för att lösa avancerade GPU-behov.
Det enda som är konstigt med Supermicro GPU SuperServer SYS-820GP-TNAO är att det är 8U. Det är en mycket biffig låda och något som kan vara en utmaning för dem som är rack U-känsliga. Supermicro kan konfigurera liknande 8-GPU-servrar i 4U och 5U. Det finns dock skäl att välja 8U-chassit; den är lite effektivare, den borde ha bättre termik och det finns många fler expansionsalternativ.
Supermicro lutar sig väldigt hårt mot GPU-serverutrymmet; i traditionell Supermicro-form har de något för alla. Denna 8U-box verkar ganska imponerande men närmar sig kanske det sista hurra för luftkylda GPU:er. Dessa lådor kan bara bli så stora och kraftfulla innan vätskekylning är den primära lösningen.
Amazon