Giga Computing, eine Tochtergesellschaft von GIGABYTE, hat kürzlich Lösungen vorgestellt, um komplexe KI-Workloads zu bewältigen und die Energieeffizienz durch eine fortschrittliche Kühlinfrastruktur zu verbessern. Als NVIDIA-zertifizierter Systemanbieter unterstützen GIGABYTE-Server jetzt NVIDIA NIM-Inferenz-Mikrodienste, die Teil der NVIDIA AI Enterprise-Softwareplattform sind.
Giga Computing, eine Tochtergesellschaft von GIGABYTE, hat kürzlich Lösungen vorgestellt, um komplexe KI-Workloads zu bewältigen und die Energieeffizienz durch eine fortschrittliche Kühlinfrastruktur zu verbessern. Als NVIDIA-zertifizierter Systemanbieter unterstützen GIGABYTE-Server jetzt NVIDIA NIM-Inferenz-Mikrodienste, die Teil der NVIDIA AI Enterprise-Softwareplattform sind.
GIGABYTE präsentierte seine neuesten CPU- und beschleunigten Computertechnologien, darunter GIGA POD, eine KI-Lösung im Rack-Maßstab. Die Flexibilität von GIGA POD wird mit den neuesten NVIDIA-Lösungen wie HGX B100, HGX H200, GH200 Grace Hopper Superchip und anderen OAM-Baseboard-GPU-Systemen demonstriert. Diese schlüsselfertige Lösung unterstützt Baseboard-Beschleuniger im großen Maßstab, integriert Switches, Netzwerke, Rechenknoten und mehr und nutzt gleichzeitig NVIDIA Spectrum-X für robuste Netzwerkfunktionen in generativen KI-Infrastrukturen.
Ein Highlight der Präsentation war das NVIDIA GB200 NVL72-System. Dieses System bietet 30-mal schnellere Echtzeit-Inferenz großer Sprachmodelle (LLM), reduziert die Gesamtbetriebskosten (TCO) um das 25-Fache und verbraucht 25-mal weniger Energie. Die flüssigkeitsgekühlte Rack-Scale-Lösung verbindet 36 NVIDIA Grace-CPUs und 72 NVIDIA Blackwell-GPUs über NVIDIA NVLink und bildet so eine einzige, massive GPU mit einer Bandbreite von 130 Terabyte pro Sekunde (TB/s).
Integration fortschrittlicher Kühllösungen
Das Portfolio von GIGABYTE umfasst Technologien für die direkte Flüssigkeitskühlung (DLC) und einphasige Immersionskühlung, die für die nächste Computergeneration unverzichtbar sind und eine bessere Wärmeableitung erfordern als herkömmliche Luftkühlung. Das GIGABYTE DLC-Rack enthält Server für AMD-, Intel- und NVIDIA-Technologien, die von den CDU-Partnern CoolIT Systems und Motivair unterstützt werden.
Zu den wichtigsten vorgestellten Produkten gehören:
- G4L3-SD1: Ein DLC-Server, der zwei Intel Xeon-Prozessoren und die NVIDIA HGX B200 8-GPU unterstützt und Kühlplatten zur effizienten Kühlung verwendet.
- G593-ZX1: Ein mit Flüssigkeitskühlung für AMD EPYC 9004-Prozessoren und OAM-Module ausgestatteter Server, der leistungsstarke Kühllösungen demonstriert.
Daten von der Cloud an den Rand übertragen
GIGABYTE präsentierte eine Vielzahl von Servern, von Allzweck- bis hin zu ARM-basierten Plattformen und OCP-Lösungen, die sowohl auf Cloud- als auch Edge-Anwendungen ausgerichtet sind. Zu den ausgestellten neuen Systemen gehörten Speicherserver, die E3.S- oder E1.S-Laufwerke unterstützen, und Server, die für die nächste Generation von AMD EPYC-Prozessoren vorbereitet sind. Insgesamt wurden über 25 Server präsentiert.
GIGABYTE-Motherboards für Prozessoren wie AMD EPYC 4004, Intel Xeon W-3400 und Intel Xeon 6-Serie verfügen über Server-Funktionen, darunter RAS und einen BMC-Chip. Diese Motherboards sind Teil einer Produktreihe, die Einstiegsserver und Broadcom-basierte Lösungen für HBA-, RAID- und OCP-LAN-Karten umfasst. Diese Hardware ist flexibel, vielseitig und zuverlässig und verfügt über Funktionen zur Remote-Serververwaltung und -überwachung.
GIGABYTE erwartet, dass die NVIDIA GB200 NVL72-Systeme im ersten Quartal 1 verfügbar sein werden.
Beteiligen Sie sich an StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
