技嘉旗下子公司GigaComputing最近推出了解決方案，透過先進的冷卻基礎設施來處理複雜的人工智慧工作負載並提高能源效率。作為NVIDIA認證的系統供應商，技嘉伺服器現在支援NVIDIA NIM推理微服務，這是NVIDIA AI Enterprise軟體平台的一部分。
技嘉旗下子公司GigaComputing最近推出了解決方案，透過先進的冷卻基礎設施來處理複雜的人工智慧工作負載並提高能源效率。作為NVIDIA認證的系統供應商，技嘉伺服器現在支援NVIDIA NIM推理微服務，這是NVIDIA AI Enterprise軟體平台的一部分。
技嘉展示了最新的CPU和加速運算技術，包括機架級AI解決方案GIGA POD。最新的 NVIDIA 解決方案（例如 HGX B100、HGX H200、GH200 Grace Hopper Superchip 和其他 OAM 底板 GPU 系統）展示了 GIGA POD 的靈活性。此交鑰匙解決方案支援大規模底板加速器，整合交換器、網路、運算節點等，同時利用 NVIDIA Spectrum-X 在生成 AI 基礎架構中提供強大的網路功能。
此次展示的一大亮點是 NVIDIA GB200 NVL72 系統。該系統的即時大語言模型 (LLM) 推理速度提高了 30 倍，總擁有成本 (TCO) 降低了 25 倍，能源消耗降低了 25 倍。此液冷機架級解決方案使用 NVIDIA NVLink 連接 36 個 NVIDIA Grace CPU 和 72 個 NVIDIA Blackwell GPU，形成一個頻寬為 130 TB/s 的大型 GPU。
整合先進的冷卻解決方案
技嘉的產品組合包括直接液體冷卻（DLC）和單相浸沒式冷卻技術，這些技術對於下一代運算至關重要，並且需要比傳統空氣冷卻更好的散熱效果。 GIGABYTE DLC 機架採用適用於 AMD、Intel 和 NVIDIA 技術的伺服器，並由 CDU 合作夥伴 CoolIT Systems 和 Motivair 提供支援。
展示的主要產品包括：
- G4L3-SD1：DLC 伺服器支援雙 Intel Xeon 處理器和 NVIDIA HGX B200 8-GPU，利用冷板實現高效冷卻。
- G593-ZX1：配備適用於 AMD EPYC 9004 處理器和 OAM 模組的液體冷卻的伺服器，展示了高效能冷卻解決方案。
將資料從雲端釋放到邊緣
技嘉展示了多種伺服器，從通用到基於ARM的平台和OCP解決方案，針對雲端和邊緣應用。展出的新穎系統包括支援 E3.S 或 E1.S 驅動器的儲存伺服器以及為下一代 AMD EPYC 處理器準備的伺服器。總共展示了超過 25 台伺服器。
適用於 AMD EPYC 4004、Intel Xeon W-3400 和 Intel Xeon 6 系列等處理器的技嘉主機板具有伺服器等級功能，包括 RAS 和 BMC 晶片。這些主機板屬於一系列產品的一部分，其中包括入門級伺服器以及基於 Broadcom 的 HBA、RAID 和 OCP LAN 卡解決方案。此硬體設計靈活、通用且可靠，具有遠端伺服器管理和監控功能。
技嘉預計 NVIDIA GB200 NVL72 系統將於 1 年第一季上市。
參與 StorageReview
電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱
