På Computex 2024 presenterade ASRock Rack en rad uppskalningsservrar som utnyttjar den robusta NVIDIA Blackwell-arkitekturen. ASRock Rack visade upp flera banbrytande system utformade för att möta kraven från AI, HPC och datacenters arbetsbelastningar.
I centrum för ASRock Racks tillkännagivande var ORV3 NVIDIA GB200 NVL72, en vätskekyld racklösning. Detta system är byggt kring det nyligen tillkännagivna NVIDIA GB200 NVL72 uppskalningssystemet, som integrerar 36 NVIDIA Grace-processorer och 72 NVIDIA Blackwell Tensor Core GPU:er med NVIDIA NVLink-teknik. Denna konfiguration bildar en massiv GPU-enhet som kan göra snabbare slutledning av stora språkmodeller i realtid (LLM) samtidigt som den totala ägandekostnaden (TCO) minskas.
Förutom ORV3-systemet introducerade ASRock Rack de avancerade servermodellerna 6U8X-EGS2 NVIDIA HGX B100 och 6U8X-GNR2/DLC NVIDIA HGX B200. Dessa servrar är utrustade med NVIDIA HGX B100 respektive B200 8-GPU-system.
NVIDIA HGX B100 är en drop-in-ersättning för befintliga NVIDIA HGX H100-infrastrukturer, vilket underlättar en enkel övergång. 6U8X-GNR2/DLC NVIDIA HGX B200 har direkt-till-chip vätskekylningsteknik, vilket gör att systemet kan hantera den termiska designkraften (TDP) hos NVIDIA Blackwell GPU:er effektivt i en 6U rackmonterad design. För de utan infrastruktur för vätskekylning planerar ASRock Rack att introducera den luftkylda 8U8X-GNR2 NVIDIA HGX B200, även utrustad med NVIDIA HGX B200 8-GPU-systemet för högpresterande realtidsslutning på biljonparametermodeller.
Förbättrad anslutning
Alla ASRock Rack NVIDIA HGX-servrar stöder upp till åtta NVIDIA BlueField-3 SuperNICs, med NVIDIA Spectrum-X-plattformen, en end-to-end AI-optimerad Ethernet-lösning. Dessa system kommer också att certifieras för fullstack NVIDIA AI och accelererad datorplattform, inklusive NVIDIA NIM-inferensmikrotjänster, som en del av NVIDIA AI Enterprise-programsviten för generativ AI.
Weishi Sa, VD för ASRock Rack, betonade företagets engagemang för att tillhandahålla datacenterlösningar i toppklass som drivs av NVIDIA Blackwell-arkitekturen. "Vi visar upp datacenterlösningar för de mest krävande arbetsbelastningarna inom LLM-träning och generativ AI-inferens. Vi kommer att fortsätta att utöka vår portfölj för att tillföra fördelarna med NVIDIA Blackwell-arkitekturen till mainstream LLM-inferens och databehandling, säger Sa.
ASRock Rack utvecklar nya produkter baserade på NVIDIA GB200 NVL2 för att utöka fördelarna med NVIDIA Blackwell-arkitekturen till att skala ut konfigurationer, vilket säkerställer sömlös integration med befintliga datacenterinfrastrukturer.
Kaustubh Sanghani, Vice President för GPU Product Management på NVIDIA, lyfte fram samarbetet med ASRock Rack. Han sa: "Genom att arbeta med ASRock Rack erbjuder vi företag ett kraftfullt AI-ekosystem som sömlöst integrerar hårdvara och mjukvara för att leverera banbrytande prestanda och skalbarhet, som hjälper till att tänja på gränserna för AI och högpresterande datorer."
NVIDIA MGX Modular Reference Architecture
Utöver de nya produkterna presenterade ASRock Rack 4UMGX-GNR2, en GPU-server med dubbla uttag som är kompatibel med NVIDIA MGX 4U-arkitekturen. Den här servern stöder upp till åtta FHFL GPU:er med dubbla kortplatser, såsom NVIDIA H200 NVL Tensor Core GPU, vilket gör den lämplig för vanliga företagsservrar. Den har fem FHHL PCIe 5.0 x16-platser och en HHHL PCIe 5.0 x16-plats, som stöder NVIDIA BlueField-3 DPU och NVIDIA ConnectX®-7 NIC för flera 200Gb/s eller 400Gb/s nätverksanslutningar. Servern har också 16 hot-swap-enhetsfack för E1.S (PCIe 5.0 x4) SSD:er.
En av de mest intressanta aspekterna av ASRock Rack MGX-plattformen är deras implementering av lagringslösningen E1.S. Hälften av de jättestora 16 E1.S-diskarna är direkt anslutna till CPU:n, men mer intressant är de övriga 8 anslutna till PCI-e-switchen som GPU-bakplanet också är anslutet till. Detta presenterar flera intressanta och mycket fascinerande användningsfall för GPU Direct-lagring.
ASRock Rack-båset förväntas visa upp mer avancerade serversystem, inklusive MECAI-NVIDIA GH200 Grace Hopper Superchip-servern, som ASRock Rack lanserade tidigare under året. ASRock Racks nya serverportfölj, som drivs av NVIDIAs Blackwell-arkitektur, representerar ett betydande framsteg inom datacenter- och AI-teknik. Dessa system erbjuder exceptionell prestanda, flexibilitet och skalbarhet, och möter behoven hos företag som vill tänja på gränserna för AI och högpresterande datoranvändning.
Amazon