Supermicro 今天發布了 NVIDIA Vera CPU 機架，這是一款 48U 全液冷機架，可容納 256 個 NVIDIA Vera CPU，擁有 22,528 個核心和 45,056 個線程，Supermicro 宣稱其最多可支援 22,500 個並發代理沙箱。它是資料中心建置模組解決方案(DCBBS) 產品組合的最新成員，可與 Supermicro Vera Rubin NVL72（該公司表示現已開始發貨）配合使用，也可作為獨立的密集型 CPU 機架，用於代理編排、強化學習和資料處理。機架現已開始接受報價；Supermicro 尚未公佈出貨日期。
這是繼戴爾在柏林GTC大會上發布的PowerEdge M9882之後，本週發布的第二款256核Vera機架式伺服器。這兩款伺服器均採用NVIDIA Vera CPU機架參考設計，每個CPU配備88個核心。戴爾計劃於2027年第一季發布M9882，但尚未公佈其記憶體和網路配置。而Supermicro則已公佈了這兩項配置，因此這是系統廠商首次公佈Vera CPU機架式伺服器的完整機架級配置資訊。
用於代理執行的專用 CPU 容量
Supermicro 認為，採用純 CPU 機架的理由是，智能體 AI 和強化學習會將線性推理鏈轉換為分支循環執行，其中包含許多等待 CPU 可用時間的中間步驟。 GPU 產生令牌、程式碼和查詢；基於 CPU 的沙箱執行作業、評估結果、執行工具並協調工作流程。 Supermicro 表示，在擁有數百或數千個 GPU 的 AI 工廠規模下，這意味著需要託管成千上萬個並行執行環境，而這正是該機架的設計初衷。
Supermicro 將此機架列為 SRS-VCPU-256-M0 型號：包含 32 個 1U 計算托架，每個托架可搭載四個雙 CPU 節點，每個托架共支援八個 Vera CPU；每個機架最多可支援 400TB SOCAMM2 LPDDR5X 內存，總內存寬為 3001/TB 13.6GB/s）；每個 CPU 最高支援 1.8TB/s 的 NVLink-C2C 頻寬；每個托架最多可支援 32TB 的 E1.S NVMe 固態硬碟。每個托架搭載四個 NVIDIA BlueField-4 DPU，每個 CPU 可提供 200Gb/s 的頻寬；機架網路採用 NVIDIA Spectrum-X 乙太網路融合架構，南北向傳輸速度最高可達 400Gb/s；配備兩個 1U 機架頂部交換器和 1G/10G 管理機。
22,500 個沙箱對應 45,056 個線程，平均每個沙箱可運行兩個線程。 Supermicro 並未說明該評級所依據的記憶體分配、工作負載或軟體配置，因此在參考配置發布之前，請將其視為輕量級沙箱的容量上限。作為獨立平台，Supermicro 也將資料庫操作、叢集管理、Slurm 和 Kubernetes 調度、資料分析以及大規模軟體建置管線列為目標工作負載。此外，Supermicro Vera CPU 產品組合還包括適用於無法使用液冷環境的場所的 1U 和 2U 風冷系統。
第三代MGX支援交流電和800伏直流電
機架採用第三代 NVIDIA MGX 設計，是 Supermicro DLC-2 架構的一部分，因此與 Supermicro Vera Rubin NVL72共享基礎架構。 Supermicro 將其安裝在 48U MGX v1.2 母線機架中，尺寸為 600 x 1,200 x 2,296 毫米，運行功率為 208kW。客戶可以選擇使用三個 3U 110kW 交流電源架（415 至 480VAC）以 2+1 冗餘方式為其供電，或透過三個 90kW 直流-直流電源架（由電源側架供電）以 800VDC 供電。
800V直流側掛式電源使得在斷電時可以使用電池備用單元取代傳統的UPS進行保護。 Supermicro表示，這種方案可以節省資料中心空間，提高端對端電源轉換效率，並降低購置成本和營運成本。但公告並未對這三項說法進行量化。冷卻系統採用DLC-2冷卻液分配裝置：這是一款額定功率高達5MW的機架內冷卻液分配單元，配備冗餘泵，可為多個機架提供服務；此外，還可選配後門熱交換器，以及適用於無自來水設施場所的200kW或500kW液冷式側掛式冷卻液分配分配。
對於基於 Supermicro DCBBS 藍圖構建 Vera Rubin NVL72 的客戶，Supermicro 提供了一種可選設計方案，該方案將 NVL72 機架與 Vera CPU 機架集成在特定的 Spectrum-X 網路拓撲結構、熱通道封閉佈局以及來自 DLC-2 堆疊的餘行內 CDU 和後冗餘交換器中。無論 CPU 機架是與 NVL72 一起交付還是單獨交付，Supermicro 的相同團隊都將負責現場勘測、設計、L11 和 L12 整合與測試、現場部署以及持續支援。
「隨著智慧人工智慧改變資料中心的需求，超微正在擴展其資料中心基座伺服器（DCBBS）產品組合，提供完全整合的基礎設施，」超微總裁兼執行長梁志強表示。 「對於尋求風冷部署的客戶，超微的NVIDIA Vera CPU產品組合包括風冷1U和2U系統，以及機架級液冷選項。我們與NVIDIA攜手合作，透過為安全、可擴展的智慧人工智慧打造的通用專用架構，幫助客戶加快部署速度。」
OpenShell 和 Sentry 管理代理活動
該機架原生支援NVIDIA本週在柏林GTC大會上詳細介紹的NVIDIA OpenShell參考架構。 OpenShell運行在Vera CPU上，並在運行時對代理應用基於最小權限和策略的控制；而NVIDIA Sentry則運行在BlueField-4 DPU上，作為帶外監控器，負責強制執行策略、提供經認證的遙測數據，並能在幾毫秒內隔離超出其允許邊界的代理。由於Sentry運作在DPU上，Supermicro表示，這種監控方式能夠在不佔用主機CPU資源的情況下，確保生產環境中的可觀測性和可審計性。
「隨著企業規模化應用智慧體人工智慧和強化學習，支援數千個並發智能體工作流程需要一種新型的高密度CPU基礎設施，」NVIDIA企業平台副總裁Chris Marriott表示。 “NVIDIA Vera CPU和BlueField-4 DPU與Supermicro的液冷DCBBS架構集成，為客戶提供專用的計算能力和基於硬體的安全保障，從而擴展其人工智能工廠中智能體工作負載的執行規模。”
本月，僅配備CPU的代理機架已成為一個獨立類別：AMD的Helion藍圖採用開放式OCP設計，最多可容納32,768個EPYC核心；戴爾的M9882將於2027年第一季度上市；而Supermicro的同類產品也已公佈規格參數。然而，這三家廠商都尚未公佈在特定工作負載下的沙箱密度，而這一數值將決定人工智慧工廠每行NVL72需要多少個這樣的機架。
Amazon