StorageReview.com

ASRock Rack avslöjar kraftfulla AI-träningssystem med NVIDIA HGX H100/H200 8-GPU-stöd

Företag  ◇  server

ASRock Rack utnyttjade NVIDIA GTC 2024-evenemanget för att presentera sina nya AI-träningssystem, 6U8X-EGS2 H100 och 6U8X-EGS2 H200. Den här nya linjen är företagets mest potenta AI-träningssystem hittills, som kan ta emot NVIDIA HGX H100 och HGX H200 8-GPU:er. De är ytterligare förbättrade med tolv PCIe Gen5 NVMe-enhetsfack, flera PCIe 5.0 x16-platser och en robust 4+4 strömförsörjningsenhet för full redundans; ASRock Racks nya erbjudanden är designade för effektivitet och toppdrift.

Dessa servrar är specifikt byggda för de höga kraven från generativa AI-applikationer, accelererar stora språkmodeller och stöder dataanalys och högpresterande datorbelastningar. Detta överensstämmer med tillkännagivandet av NVIDIAs nya Blackwell-plattform , där ASRock Rack är redo att bidra med ett brett utbud av serverhårdvaruprodukter för att stödja denna nya generation av datoranvändning.

4UMGX dual-socket barebone-servern, som kan stödja upp till åtta NVIDIA H100 NVL eller H200 GPUs förutom sex NVIDIA BlueField-3 DPU eller NVIDIA ConnectX-7 NIC, fanns också med i ASRock Rack-montern. Denna 4U rackmonterade server är redo att införliva NVIDIA Blackwell-arkitekturdrivna GPU:er, som visar upp ASRock Racks beredskap för NVIDIAs senaste teknologier.

4UMGX-servern betonar flexibilitet i designen och använder NVIDIA MGX modulära referensdesign, vilket möjliggör anpassning för olika användningsfall, effektiviserar utvecklingsresurser och säkerställer snabb marknadsleverans. ASRock Rack har också indikerat att dess servrar som 4U8G-EGS2, 4U10G-GENOA2, 4U10G-EGS2 och 4U8G-GENOA2, som för närvarande stöder NVIDIA H100 NVL och NVIDIA H200 NVL GPU, snart kommer att få uppdateringar för att stödja NVIDIA-arkitekturen .

De som deltog i GTC fick möjligheten att uppleva MECAI-GH200, en 2U MGX-server som anses vara den mest kompakta plattformen som stöder NVIDIA GH200 Grace Hopper Superchip, perfekt för edge AI-applikationer. Med justeringar för en ännu mer kompakt formfaktor och avancerade nätverksmöjligheter utmärker sig MECAI-GH200 för implementeringar i utrymmesbegränsade miljöer med stränga anslutningskrav.

ASRock 6U8X-EGS2 H100 Specifikationer

 Systemkrav
Formfaktor 6U rackmontering
Mått 930 x 448 x 264.7 mm (36.6 x 17.6 x 10.4 tum)
Stöd MB SP2C741D32G-2L+
 Frontpanelen
Knappar Strömknapp med LED, Återställningsknapp, NMI-knapp, UID-knapp
lysdioder Systemfel LED, HDD aktivitet LED
I / O-portar 2 RJ45 (1GbE) från Intel i350, delar med Rear IO
1 dedikerad IPMI, delar med Rear IO
4 Typ-A (USB3.2 Gen1)
1 DB15 (VGA)
 Extern Drive Bay / Lagring
Drive Bay på framsidan 8 Hot-swap 2.5″ NVMe (PCIe5.0 x4)-enhetsfack, 4 Hot-swap 2.5″ NVMe (PCIe5.0 x4)/SATA-enhetsfack
Inre sida 1 M-nyckel (PCIe3.0 x4 eller SATA 6Gb/s), stöder 2280/22110 formfaktor [PCH]
1 M-nyckel (PCIe3.0 x4), stöder 2280/22110 formfaktor [PCH]
 Strömförsörjning
Typ 4+4 CRPS
Utgångs-watt 3002.4W @ 220-240Vac ingång, 2900W @200-220Vac ingång, 1250W @100-127Vac ingång
Effektivitet 80-PLUS Platina/Titan
AC Input Low-line: 100-127Vrms, 50/60Hz ; High-line: 200-240Vrms, 50/60Hz
 Systemfläkt
Fläkt 21 PWM Hot-swap 80×80 mm fläktar
 Processorsystem
CPU Stöder 5:e och 4:e generationens Intel Xeon skalbara processorer
Socket Dual Socket E (LGA 4677)
Termisk designkraft Upp till 350W
chipset C741
 Systemminne
Antal DIMM som stöds 16+16 DIMM-platser (2DPC)
Typ som stöds Stöder DDR5 288-stifts RDIMM, RDIMM-3DS
Max. Kapacitet per DIMM RDIMM: 96 GB (2R)
RDIMM-3DS: 512GB (2S8Rx4)
Max. DIMM-frekvens 5600 MT/s (1DPC) / 4400 MT/s (2DPC) på 5:e generationens Intel Xeon skalbara processorer
4800 MT/s (1DPC) / 4400 MT/s (2DPC) på 4:e generationens Intel Xeon skalbara processorer
*Stöd för minneshastighet och kapacitet varierar beroende på CPU SKU
Spänning 1.1V
 PCIe Expansion Slots (SLOT7 nära CPU)
PCIe x 16 Bak:
8 HHHL PCIe5.0 x16
5 FHHL PCIe5.0 x16
 ethernet
Ytterligare GbE Controller Intel i350: 2 RJ45 (1 GbE)
 Serverhantering
BMC styrenhet ASPEED AST2600
IPMI dedikerat GLAN 1 Realtek RTL8211F för dedikerad hantering GLAN
 Grafiken
Regulator ASPEED AST2600
VRAM DDR4 512MB
 Bakre I / O
UID-knapp/LED 1 UID-knapp
VGA-port 1 DB15 (VGA)
USB 3.2 Gen1-port 2 Typ-A (USB3.2 Gen1)
RJ45 2 RJ45 (1GbE) från Intel i350, delas med frontpanelen
1 dedikerad IPMI, delas med frontpanelen

ASRock 6U8X-EGS2 H200 Specifikationer

 Systemkrav
Formfaktor 6U rackmontering
Mått 930 x 448 x 264.7 mm (36.6 x 17.6 x 10.4 tum)
Stöd MB SP2C741D32G-2L+
 Frontpanelen
Knappar Strömknapp med LED, Återställningsknapp, NMI-knapp, UID-knapp
lysdioder Systemfel LED, HDD aktivitet LED
I / O-portar 2 RJ45 (1GbE) från Intel i350, delar med Rear IO
1 dedikerad IPMI, delar med Rear IO
4 Typ-A (USB3.2 Gen1)
1 DB15 (VGA)
 Extern Drive Bay / Lagring
Drive Bay på framsidan 8 Hot-swap 2.5″ NVMe (PCIe5.0 x4)-enhetsfack, 4 Hot-swap 2.5″ NVMe (PCIe5.0 x4)/SATA-enhetsfack
Inre sida 1 M-nyckel (PCIe3.0 x4 eller SATA 6Gb/s), stöder 2280/22110 formfaktor [PCH]
1 M-nyckel (PCIe3.0 x4), stöder 2280/22110 formfaktor [PCH]
 Strömförsörjning
Typ 4+4 CRPS
Utgångs-watt 3002.4W @ 220-240Vac ingång, 2900W @200-220Vac ingång, 1250W @100-127Vac ingång
Effektivitet 80-PLUS Platina/Titan
AC Input Low-line: 100-127Vrms, 50/60Hz ; High-line: 200-240Vrms, 50/60Hz
 Systemfläkt
Fläkt 21 PWM Hot-swap 80×80 mm fläktar
 Processorsystem
CPU Stöder 5:e och 4:e generationens Intel Xeon skalbara processorer
Socket Dual Socket E (LGA 4677)
Termisk designkraft Upp till 350W
chipset C741
 Systemminne
Antal DIMM som stöds 16+16 DIMM-platser (2DPC)
Typ som stöds Stöder DDR5 288-stifts RDIMM, RDIMM-3DS
Max. Kapacitet per DIMM RDIMM: 96 GB (2R)
RDIMM-3DS: 512GB (2S8Rx4)
Max. DIMM-frekvens 5600 MT/s (1DPC) / 4400 MT/s (2DPC) på 5:e generationens Intel Xeon skalbara processorer
4800 MT/s (1DPC) / 4400 MT/s (2DPC) på 4:e generationens Intel Xeon skalbara processorer
*Stöd för minneshastighet och kapacitet varierar beroende på CPU SKU
Spänning 1.1V
 PCIe Expansion Slots (SLOT7 nära CPU)
PCIe x 16 Bak:
8 HHHL PCIe5.0 x16
5 FHHL PCIe5.0 x16
 ethernet
Ytterligare GbE Controller Intel i350: 2 RJ45 (1 GbE)
 Serverhantering
BMC styrenhet ASPEED AST2600
IPMI dedikerat GLAN 1 Realtek RTL8211F för dedikerad hantering GLAN
 Grafiken
Regulator ASPEED AST2600
VRAM DDR4 512MB
 Bakre I / O
UID-knapp/LED 1 UID-knapp
VGA-port 1 DB15 (VGA)
USB 3.2 Gen1-port 2 Typ-A (USB3.2 Gen1)
RJ45 2 RJ45 (1GbE) från Intel i350, delas med frontpanelen
1 dedikerad IPMI, delas med frontpanelen
 Hårdvara Monitor
Temperatur CPU, MB, temperaturavkänning på kortsidan
Fläkt Fläktvarvräknare
Tyst CPU-fläkt (tillåt automatisk justering av chassifläkthastighet)

ASRock 6U8X-EGS2 H200

ASRock 6U8X-EGS2 H100

 

Engagera dig med StorageReview

Nyhetsbrev | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS-flöde

Lyle Smith

Lyle är skribent för StorageReview och täcker en bred uppsättning IT-ämnen för slutanvändare och företag.