Op Computex 2024 onthulde ASRock Rack een reeks opschalingsservers die gebruik maken van de robuuste NVIDIA Blackwell-architectuur. ASRock Rack toonde verschillende geavanceerde systemen die zijn ontworpen om te voldoen aan de eisen van AI, HPC en datacenterworkloads.
Centraal in de aankondiging van ASRock Rack stond de ORV3 NVIDIA GB200 NVL72, een vloeistofgekoelde rackoplossing. Dit systeem is gebouwd rond het onlangs aangekondigde NVIDIA GB200 NVL72 scale-upsysteem, dat 36 NVIDIA Grace CPU's en 72 NVIDIA Blackwell Tensor Core GPU's integreert met behulp van NVIDIA NVLink-technologie. Deze configuratie vormt een enorme GPU-eenheid die in staat is tot snellere real-time grote taalmodellen (LLM)-afleiding, terwijl de totale eigendomskosten (TCO) worden verlaagd.
Naast het ORV3 systeem introduceerde ASRock Rack de 6U8X-EGS2 NVIDIA HGX B100 en 6U8X-GNR2/DLC NVIDIA HGX B200 geavanceerde servermodellen. Deze servers zijn respectievelijk uitgerust met de NVIDIA HGX B100 en B200 8-GPU systemen.
De NVIDIA HGX B100 is een drop-in vervanging voor bestaande NVIDIA HGX H100-infrastructuren, waardoor een gemakkelijke overgang wordt vergemakkelijkt. De 6U8X-GNR2/DLC NVIDIA HGX B200 is voorzien van direct-to-chip vloeistofkoelingstechnologie, waardoor het systeem efficiënt kan omgaan met het thermische ontwerpvermogen (TDP) van NVIDIA Blackwell GPU's binnen een 6U rackmount-ontwerp. Voor degenen zonder infrastructuur voor vloeistofkoeling is ASRock Rack van plan de luchtgekoelde 8U8X-GNR2 NVIDIA HGX B200 te introduceren, ook uitgerust met het NVIDIA HGX B200 8-GPU systeem voor krachtige real-time inferentie op modellen met biljoen parameters.
Verbeterde connectiviteit
Alle ASRock Rack NVIDIA HGX-servers ondersteunen maximaal acht NVIDIA BlueField-3 SuperNIC’s, waarbij gebruik wordt gemaakt van het NVIDIA Spectrum-X-platform, een end-to-end AI-geoptimaliseerde Ethernet-oplossing. Deze systemen zullen ook worden gecertificeerd voor het full-stack NVIDIA AI en het versnelde computerplatform, inclusief NVIDIA NIM-inferentiemicroservices, als onderdeel van de NVIDIA AI Enterprise-softwaresuite voor generatieve AI.
Weishi Sa, president van ASRock Rack, benadrukte de toewijding van het bedrijf aan het leveren van datacenteroplossingen van het hoogste niveau, aangedreven door de NVIDIA Blackwell-architectuur. “We presenteren datacenteroplossingen voor de meest veeleisende werklasten op het gebied van LLM-training en generatieve AI-inferentie. We zullen ons portfolio blijven uitbreiden om de voordelen van de NVIDIA Blackwell-architectuur naar de reguliere LLM-inferentie en gegevensverwerking te brengen”, aldus Sa.
ASRock Rack ontwikkelt nieuwe producten gebaseerd op de NVIDIA GB200 NVL2 om de voordelen van de NVIDIA Blackwell-architectuur uit te breiden naar schaalbare configuraties, waardoor een naadloze integratie met bestaande datacenterinfrastructuren wordt gegarandeerd.
Kaustubh Sanghani, Vice President GPU Product Management bij NVIDIA, benadrukte de samenwerking met ASRock Rack. Hij zei: “Door samen te werken met ASRock Rack bieden we ondernemingen een krachtig AI-ecosysteem dat hardware en software naadloos integreert om baanbrekende prestaties en schaalbaarheid te leveren, waardoor de grenzen van AI en high-performance computing worden verlegd.”
NVIDIA MGX modulaire referentiearchitectuur
Naast de nieuwe producten presenteerde ASRock Rack de 4UMGX-GNR2, een dual-socket GPU-server die compatibel is met de NVIDIA MGX 4U-architectuur. Deze server ondersteunt maximaal acht FHFL dual-slot GPU's, zoals de NVIDIA H200 NVL Tensor Core GPU, waardoor hij geschikt is voor reguliere bedrijfsservers. Het beschikt over vijf FHHL PCIe 5.0 x16-slots en één HHHL PCIe 5.0 x16-slot, met ondersteuning voor NVIDIA BlueField-3 DPU's en NVIDIA ConnectX®-7 NIC's voor meerdere 200Gb/s of 400Gb/s netwerkverbindingen. De server heeft ook 16 hot-swap schijfposities voor E1.S (PCIe 5.0 x4) SSD's.
Eén van de meest interessante aspecten van het ASRock Rack MGX platform is hun implementatie van de E1.S opslagoplossing. De helft van de maar liefst 16 E1.S-schijven is rechtstreeks op de CPU aangesloten, maar interessanter is dat de andere 8 zijn aangesloten op de PCI-e-schakelaar waarmee ook de GPU-backplane is verbonden. Dit presenteert verschillende interessante en zeer fascinerende gebruiksscenario's voor GPU Direct-opslag.
Verwacht wordt dat de ASRock Rack stand meer geavanceerde serversystemen zal tonen, waaronder de MECAI-NVIDIA GH200 Grace Hopper Superchip server, die ASRock Rack eerder dit jaar lanceerde. Het nieuwe serverportfolio van ASRock Rack, aangedreven door NVIDIA's Blackwell-architectuur, vertegenwoordigt een aanzienlijke vooruitgang in datacenter- en AI-technologieën. Deze systemen bieden uitzonderlijke prestaties, flexibiliteit en schaalbaarheid en voldoen aan de behoeften van ondernemingen die de grenzen van AI en high-performance computing willen verleggen.
Amazon