NVIDIA har tillkännagivit specifikationerna för sina Vera Rubin NVL144 MGX-generationens rackservrar med öppen arkitektur. Över 50 MGX-partners förbereder sig för denna release, tillsammans med ekosystemstöd för NVIDIA Kyber, som länkar 576 Rubin Ultra GPU:er och är byggd för att möta ökande inferenskrav.
I september tillkännagav NVIDIA ett utökat partnerskap med Intel . Samtidigt tillkännagav Intel sina nya Xeon 6-processorer, där en av processorerna fungerar som värd-CPU för NVIDIA DGX B300, företagets senaste generation av AI-accelererade system. NVIDIA DGX B300 integrerar Intel Xeon 6776P, som spelar en viktig roll i att hantera, orkestrera och stödja det AI-accelererade systemet. Med robust minneskapacitet och bandbredd stöder Xeon 6776P de växande behoven av AI-modeller och dataset.
Xeon 6776P är utformad som en "GPU-värd"-CPU med Priority Core Turbo (PCT) och Intel Speed Select-Turbo Frequency (SST-TF) så att en liten uppsättning kärnor kan öka hastigheten och hantera latenskänslig orkestrering medan andra kärnor körs med basklockfrekvenser. Detta bidrar till att förbättra effektiv GPU-användning i NVLink-kluster genom att minska stopp i förbehandling, KV-cachehantering och schemaläggning.
Vera Rubin NVL144: Utformad för att skalas upp för AI-fabriker
Vera Rubin NVL144 MGX-datorfacket har en energieffektiv, helt vätskekyld, modulär design. Dess centrala kretskortsmittplan ersätter konventionella kabelanslutningar, vilket möjliggör snabbare montering och enklare underhåll. Det inkluderar även modulära expansionsfack för NVIDIA ConnectX-9 800GB/s-nätverk och NVIDIA Rubin CPX, vilket stöder storskaliga inferensuppgifter.
NVIDIA Vera Rubin NVL144 representerar ett betydande framsteg inom accelererad databehandlingsarkitektur och AI-funktioner. Den är utformad för att stödja avancerade resonemangsmotorer och möta behoven hos AI-agenter.
Kärndesignen är baserad på MGX-rackarkitekturen och kommer att stödjas av över 50 MGX-system- och komponentpartners. NVIDIA avser att bidra med de förbättrade rack- och datorfackens innovationer som en öppen standard till OCP-konsortiet.
Dess standarder för datorbrickor och rack gör det möjligt för partners att montera modulära system och skala upp snabbare med arkitekturen. Vera Rubins NVL144-rackdesign har energieffektiv vätskekylning på 45 °C, en ny vätskekyld samlingsskena för förbättrad prestanda och 20 gånger mer energilagring för att bibehålla en jämn effekt.
MGX-förbättringarna av beräkningsfacks- och rackarkitekturen förbättrar AI-fabrikens prestanda och gör montering enklare, vilket möjliggör snabb uppskalning till AI-infrastruktur på gigawattnivå.
NVIDIA NVLink Fusion-ekosystemet expanderar
Förutom hårdvara får NVIDIA NVLink Fusion alltmer fart, vilket gör det möjligt för företag att sömlöst integrera sina semi-anpassade kiselkretsar i en mycket optimerad, brett distribuerad datacenterarkitektur, vilket minskar komplexiteten och snabbar upp tiden till marknaden.
Intel och Samsung Foundry går med i NVLink Fusion-ekosystemet, som omfattar designers av anpassade kisellösningar, CPU- och IP-partners, vilket gör det möjligt för AI-fabriker att snabbt skala och hantera intensiva arbetsbelastningar för modellträning och agentbaserad AI-inferens.
- Som en del av det nyligen tillkännagivna NVIDIA och Intels samarbete, Intel kommer att bygga x86-processorer som integreras i NVIDIAs infrastrukturplattformar med hjälp av NVLink Fusion.
- Samsung Foundry har inlett ett samarbete med NVIDIA för att möta den växande efterfrågan på anpassade processorer och XPU:er, och erbjuder en helt ny erfarenhet av anpassat kisel.
NVIDIA Kyber-rack
Över 20 branschpartners presenterar nya kiselkällor, komponenter, kraftsystem och stöd för nästa generations 800-volts likströmsdatacenter (VDC). Dessa center, designade för gigawatt-eran, kommer att stödja NVIDIAs Kyber-rackarkitektur.
Foxconn har delat detaljer om sitt 40 megawatt stora datacenter i Taiwan, Kaohsiung-1, som byggs för 800 VDC-eran. Andra branschledare, inklusive CoreWeave, Lambda, Nebius, Oracle Cloud Infrastructure och Together AI, planerar också datacenter med 800-voltsinfrastruktur i åtanke. Dessutom har Vertiv introducerat sin 800 VDC MGX-referensarkitektur, en lösning utformad för att optimera utrymme, kostnad och energieffektivitet samtidigt som den erbjuder en komplett infrastruktur för strömförsörjning och kylning. Samtidigt stöder HPE produkter för NVIDIA Kyber och NVIDIA Spectrum-XGS Ethernet-skalningsteknik, båda integrerade delar av Spectrum-X Ethernet-plattformen.
Att byta till 800 VDC-infrastruktur från konventionella 415 eller 480 VAC trefassystem erbjuder större skalbarhet, förbättrad energieffektivitet, minskad materialförbrukning och förbättrad prestanda i datacenter. Elfordons- och solcellssektorn har redan implementerat 800 VDC-infrastruktur för att uppnå dessa fördelar.
NVIDIA Kyber Rack Server-generationen
OCP-ekosystemet förbereder sig också för NVIDIA Kyber, som innehåller innovationer inom 800 VDC-strömförsörjning, vätskekylning och mekanisk design.
Dessa innovationer kommer att underlätta övergången till rackservergenerationen NVIDIA Kyber, efterföljaren till NVIDIA Oberon, som förväntas ha en högdensitetsplattform med 576 NVIDIA Rubin Ultra GPU:er år 2027.
Det bästa sättet att hantera utmaningar med hög effektdistribution är att höja spänningen. Att gå från ett vanligt trefassystem på 415 eller 480 VAC till ett system på 800 VDC erbjuder flera fördelar.
Den pågående övergången gör det möjligt för rackserverpartners att uppgradera sina rackkomponenter från 54 VDC till 800 VDC, vilket förbättrar prestandan. Vid evenemanget arbetade ett samarbetande ekosystem av leverantörer av likströmsinfrastruktur, partners inom kraftsystem och kylning samt kiseltillverkare tillsammans kring öppna standarder för MGX rackserverreferensarkitektur.
NVIDIA Kyber syftar till att öka GPU-densiteten i rack, förbättra nätverkskapaciteten och optimera prestandan för storskaliga AI-system. Den har vertikal montering av beräkningsblad, vilket stöder upp till 18 blad per chassi. Dessutom är NVIDIAs specialiserade NVLink- switchblad placerade på baksidan via ett kabelfritt mittplan, vilket möjliggör sömlös, skalbar nätverksanslutning.
Över 150 % mer effekt överförs genom samma koppar med 800 VDC, vilket eliminerar behovet av 200 kg kopparskenor för att mata ett enda rack.
Kyber kommer att bli en kärnkomponent i hyperskaliga AI-datacenter, vilket ökar prestanda, effektivitet och tillförlitlighet för avancerade generativa AI-uppgifter. NVIDIA Kyber-rack gör det möjligt för kunder att avsevärt minska kopparförbrukningen, vilket resulterar i kostnadsbesparingar på miljontals dollar.
Skala upp nästa generations AI-fabriker
Mer än 20 NVIDIA-partners hjälper till att leverera rackservrar med öppna standarder, vilket möjliggör framtidens gigawatt-AI-fabriker.
- KiselleverantörerAnalog Devices, Inc. (ADI), AOS, EPC, Infineon, Innoscience, MPS, Navitas, onsemi, Power Integrations, Renesas, Richtek, ROHM, STMicroelectronics och Texas Instruments
- Leverantörer av kraftsystemkomponenterBizlink, Delta Böja, GE Vernova, Lead Wealth, LITEON och Megmeet
- Leverantörer av elsystem för datacenterABB, Eaton, GE Vernova, Heron Power Hitachi Energy, Mitsubishi Electric, Schneider Electric, Siemens och Vertiv
NVIDIA är en ledande bidragsgivare till OCP-standarder över flera hårdvarugenerationer, inklusive viktiga delar av NVIDIA GB200 NVL72-systemets elektromekaniska design. Samma MGX-rackformat stöder GB300 NVL72 och kommer att stödja Vera Rubin NVL144, Vera Rubin NVL144 CPX och Vera Rubin CPX för högre prestanda och snabba distributioner.
Amazon