Supermicro 在其強大的通用 GPU 系統系列中增加了一個 8U 盒子，該盒子能夠容納八個支持 NVLink 和 NVSwitch 的插槽式 (SXM) NVIDIA A100 和 H100 GPU。 這意味著 NVSwitch GPU 到 GPU 的帶寬為 600 GB，A4.8 的總聚合帶寬為 100TB/s。 除了滿足當今的需求外，Supermicro GPU SuperServer SYS-820GP-TNAO 還為未來做好了準備，為更高 TDP CPU 和加速器卡提供了充足的空間。
Supermicro GPU SuperServer SYS-820GP-TNAO 亮點
這個盒子的亮點顯然是支持 NVIDIA 的 HGX A100 8-GPU SXM4 Multi-GPU Board。 該板以及用於冷卻的相關風扇和散熱器構成了上面看到的 8U 機箱的下半部分。 該盒子支持 CPU-GPU PCIe 4.0 x16 互連，以及通過 NVIDIA NVLink 和 NVSwitch 進行的 GPU-GPU 互連。
像這樣的 GPU 系統，冷卻是個大問題； 如果熱量失控，系統將限制性能。 Supermicro 對其雙冷卻區投入了大量精力，以確保 GPU 保持最佳性能運行。 系統前後都有風扇，服務器內部還有幾個風扇，後面還有幾個。 雖然主要的上市機箱是風冷的，但 Supermicro 確實在該機箱中提供液體冷卻支持。
Supermicro GPU SuperServer SYS-820GP-TNAO 的上半部分是服務器的計算機和存儲部分。
在發佈時，它使用了 Supermicro Super X12DGO-6 主板，支持兩個 TDP 高達 270W 的英特爾至強可擴展 CPU。 該主板還提供 32 個 DDR4 DIMM 插槽，這意味著最大 DRAM 佔用空間為 8TB (LRDIMM)。
該主板還提供 10 個 PCIe 插槽，均為 PCIe4 x16 LP，包括 AIOM/OCP 3.0 支持。 這些插槽在系統背面分為兩個槽，可用於 NIC 或各種加速卡。 在存儲方面，該系統支持正面六個驅動器（三模式）和背面一組可選的四個 NVMe 托架。 一些 SSD 托架還支持 NVIDIA GPUDirect Storage。 板載 M.2 用於啟動任務。
單個 6000W OCP 兼容電源提供電源。 此外，該系統同時支持交流和直流電源，包括支持標準 OCP 直流機架配置。
我們的觀點
Supermicro 正在聽取 HPC 和 AI 領域客戶的意見，他們要求更強大的 GPU 系統。 迄今為止，Supermciro 在其通用 GPU 系列中也很靈活，例如，可以輕鬆地將 Intel 換成 AMD CPU，或者將 NVIDIA SXM GPU 換成其他東西。 這意味著 Supermicro 可以從幾個基礎組件中獲得非常有創意的解決高端 GPU 需求的方法。
Supermicro GPU SuperServer SYS-820GP-TNAO 唯一奇怪的是它是 8U。 這是一個非常結實的盒子，對於那些對機架 U 敏感的人來說可能是一個挑戰。 Supermicro 可以在 8U 和 4U 中配置類似的 5-GPU 服務器。 不過，有理由選擇 8U 機箱； 它的效率更高一些，應該具有更好的散熱性能，並且有更多的擴展選項。
Supermicro 非常重視 GPU 服務器領域。 在傳統的 Supermicro 形式中，他們有適合每個人的東西。 這個 8U 盒子看起來相當令人印象深刻，但可能接近風冷 GPU 的最後一次歡呼。 在液體冷卻成為主要解決方案之前，這些盒子只能變得如此龐大和強大。
Amazon