Giga Computing, ett dotterbolag till GIGABYTE, introducerade nyligen lösningar för att hantera komplexa AI-arbetsbelastningar och förbättra energieffektiviteten genom avancerad kylinfrastruktur. Som en NVIDIA-certifierad systemleverantör stöder GIGABYTE-servrar nu NVIDIA NIM-inferensmikrotjänster, en del av NVIDIA AI Enterprise-programvaruplattformen.
GIGABYTE visade upp sin senaste CPU och accelererade datorteknik, inklusive GIGA POD, en AI-lösning i rackskala. Flexibiliteten hos GIGA POD demonstreras med de senaste NVIDIA-lösningarna, såsom HGX B100, HGX H200, GH200 Grace Hopper Superchip och andra OAM baseboard GPU-system. Denna nyckelfärdiga lösning stöder baskortacceleratorer i stor skala, integrerar switchar, nätverk, beräkningsnoder och mer samtidigt som NVIDIA Spectrum-X utnyttjas för robusta nätverksmöjligheter i generativ AI-infrastruktur.
En höjdpunkt i showcasen var NVIDIA GB200 NVL72-systemet. Detta system ger 30 gånger snabbare slutledning av stora språkmodeller i realtid (LLM), minskar den totala ägandekostnaden (TCO) med 25 gånger och förbrukar 25 gånger mindre energi. Den vätskekylda lösningen i rackskala kopplar samman 36 NVIDIA Grace-processorer och 72 NVIDIA Blackwell GPU:er med NVIDIA NVLink, vilket bildar en enda, massiv GPU med 130 terabyte per sekund (TB/s) bandbredd.
Integrering av avancerade kyllösningar
GIGABYTEs portfölj inkluderar direkt vätskekylning (DLC) och enfas nedsänkningskylningsteknik, som är avgörande för nästa generations datoranvändning och kräver bättre värmeavledning än traditionell luftkylning. GIGABYTE DLC-racket har servrar för AMD-, Intel- och NVIDIA-tekniker som stöds av CDU-partners CoolIT Systems och Motivair.
Nyckelprodukter som visas upp inkluderar:
- G4L3-SD1: En DLC-server som stöder dubbla Intel Xeon-processorer och NVIDIA HGX B200 8-GPU, som använder kalla plattor för effektiv kylning.
- G593-ZX1: En server utrustad med vätskekylning för AMD EPYC 9004-processorer och OAM-moduler som visar högpresterande kyllösningar.
Frigör data från molnet till Edge
GIGABYTE presenterade en mängd olika servrar, från generella till ARM-baserade plattformar och OCP-lösningar, inriktade på både moln- och kantapplikationer. Nya system som visades inkluderade lagringsservrar som stöder E3.S- eller E1.S-enheter och servrar förberedda för nästa generations AMD EPYC-processorer. Totalt visades över 25 servrar.
GIGABYTE-moderkort för processorer som AMD EPYC 4004, Intel Xeon W-3400 och Intel Xeon 6-serien kommer med serverklassade funktioner, inklusive RAS och ett BMC-chip. Dessa moderkort är en del av en serie som inkluderar nybörjarservrar och Broadcom-baserade lösningar för HBA, RAID och OCP LAN-kort. Den här hårdvaran är designad för att vara flexibel, mångsidig och pålitlig, med fjärrserverhantering och övervakningsmöjligheter.
GIGABYTE förväntar sig att NVIDIA GB200 NVL72-systemen kommer att finnas tillgängliga under första kvartalet 1.
Amazon