NVIDIA och Wiwynns bidrag till Open Compute-projektet tillkännages

Open Compute Project (OCP) har tillkännagivit tilläggen av Wiwynn ES200 edge-servern och NVIDIA HGX-H100 GPU baseboard till deras plattform.

Wiwynns kortdjupsserver är designad för att möta den växande efterfrågan på datorkraft på edge-platser, specifikt för applikationer som omedelbar AI-inferens, on-site dataanalys och flerkanalig videobearbetning.

NVIDIA:s HGX-H100 GPU-baskorts fysiska specifikation förväntas bidra till att förbättra OCP:s OAI-delprojekts förmåga att utnyttja HGX och att utveckla kostnadseffektiva, högeffektiva, skalbara plattformar och systemspecifikationer för högpresterande beräkningar i AI- och HPC-applikationer.

Wiwynn ES200 Edge Server

Wiwynn ES200 är en 2U dual-socket edge-server som drivs av en 3:e generationens Intel Xeon Scalable-processor. Med NUMA-balansering kan den leverera datorkraften för varje installerad processor för att uppfylla olika arbetsbelastningar separat utan att skapa kommunikationsflaskhalsar mellan processorer.

Den har också extra PCIe Gen4 x16-kortplatser, som kan utrustas med två tilläggskort med dubbel bredd. Detta ger systemet stor flexibilitet, vilket gör det idealiskt för användningsfall som AI-inferensacceleration, videotranskodning och dataanalys, samt användningsfall som kräver ytterligare nätverksanslutning. Den har flexibla lagringsmoduler inklusive EDSFF (E1.S) eller U.2 SSD och två OCP NIC 3.0-kort, vilket gör att ES200 kan producera imponerande lokal databehandling och nätverksanslutning med hög bandbredd.

ES200 är också NEBS-3-kompatibel och har en kompakt formfaktor med kort djup. Dessutom indikerar Wiwynn att den kan fungera smidigt under svåra driftsförhållanden och kan passa på olika kantplatser.

Wiwynn ES200 Edge Server Node Specifikationer

NVIDIA HGX-H100 Baseboard

NVIDIA HGX-H100 är ett baskort som innehåller åtta av de senaste Hopper GPU-modulerna . HGX-baskortets fysiska specifikation definierar saker som fysiska dimensioner, värdgränssnitt, hanterings- och felsökningsgränssnitt. NVIDIAs bidragspaket innehåller även den fysiska specifikationen för baskortet, en lista över pinnar för in-/utgångar för baskortet samt en pinkarta och 2D/3D-ritning.

Följande lista från OCP visar hur NVIDIA HGX:s bidrag bygger på deras "fyra grundsatser": effektivitet, skalbarhet, öppenhet och effekt:

• Effektivitet – Detta är 3:e generationens HGX baskortformfaktor, och varje generation har gett ~3x-5x högre AI Training-genomströmning samtidigt som den förbrukar liknande aktiv kraft. Som ett resultat är HGX-baskortet nu de facto-standarden, med de flesta globala hyperskalare som designar kring denna formfaktor för AI-träning och slutledning.
• Skalbarhet – Globalt är hundratusentals HGX-system i produktion. Systemen och kapslingarna för denna formfaktor kommer att vara stabila och byggda i stor skala. HGX-specifikationen kommer att inkludera fysiska dimensioner, hanteringsgränssnitt för övervakning/felsökning etc. för tjänster i stor skala.
• Öppenhet – HGX-baserade system är den vanligaste AI-utbildningsplattformen globalt. Många OEM/ODM har byggt HGX-baserade AI-system. Med bidraget från denna HGX fysiska specifikation kommer OAI-gruppen att konvergera UBB2.0 med HGX-specifikationen så mycket som möjligt. OEM:er/ODM:er skulle kunna utnyttja samma systemdesign med olika acceleratorer på UBB/HGX-liknande baskort, till exempel samma baskortdimension, värdgränssnitt, hanteringsgränssnitt, strömleverans, etc.
• Effekt – NVIDIA HGX-plattformarna har blivit den de facto globala standarden för AI-utbildningsplattformar. Genom att öppna den här HGX baseboard-formfaktorn kan andra AI-acceleratorleverantörer utnyttja HGX-ekosystemet av system och kapslingar. Detta borde påskynda andra AI-leverantörer att utnyttja befintlig infrastruktur och anta sina lösningar tidigare. Detta accelererar ytterligare innovation inom AI/HPC-områdena.

Open Compute Project (OCP)