M光 192GB SOCAMM2：適用於 AI 資料中心的緊湊型低功耗 DRAM

by 萊爾·史密斯 on 2025 年 10 月 24 日

AI ◇ 企業

美光科技已開始向客戶發售其全新 192GB SOCAMM2 記憶體模組樣品，這標誌著面向人工智慧資料中心的低功耗 DRAM 取得了重大進展。該模組採用美光科技最先進的 1-gamma 製程節點和 LPDDR5X 技術，旨在以極其緊湊的外形提供高頻寬和更高的能源效率。

隨著 AI 模型變得越來越大、越來越複雜，記憶體已成為系統設計中最大的瓶頸之一。美光科技的 SOCAMM2 模組旨在透過提供大容量、低功耗且比傳統伺服器 DIMM 更靈活擴展的記憶體來解決這一問題。

美光科技公司 192GB SOCAMM2 亮點

美光科技 SOCAMM（小型壓縮連接記憶體模組）設計的最新版本，在不擴大實體佔用空間的情況下，容量較上一代提升了 50%。這款 192GB 的新模組預計將顯著提升即時 AI 推理效能。美光科技表示，與傳統伺服器記憶體相比，使用 SOCAMM2 的系統可將推理工作負載中的首次令牌時間 (TTFT) 縮短 80% 以上。

SOCAMM2 模組專為需要高吞吐量和節能基礎設施的下一代 AI 工作負載而設計，將 LPDDR5X 的固有優勢（低功耗和高資料傳輸率）與伺服器級的可靠性和可維護性相結合。這使得它們特別適合高密度液冷系統以及需要高記憶體容量且功耗預算有限的環境。

SOCAMM2 的能源效率比上一代提升了 20% 以上，與同等 RDIMM 相比，效率提升了三分之二以上。這可帶來顯著的規模節省，尤其是在全機架 AI 伺服器部署中，這類伺服器可能使用超過 40 TB 的低功耗 DRAM。此模組的實體尺寸僅為同類 RDIMM 的三分之一，使資料中心能夠提高記憶體密度，同時最大限度地減少系統佔用空間。

美光科技與 NVIDIA 合作

美光科技與 NVIDIA 在過去五年的合作，在開髮用於資料中心的 SOCAMM 規格方面發揮了關鍵作用。 SOCAMM 最初基於行動記憶體架構，之後不斷發展，以滿足伺服器環境的耐用性、頻寬和散熱需求。 SOCAMM2 透過堆疊創新和模組化結構擴展了這一願景，從而支持更便捷的可維護性和未來的可擴展性。

該公司還為 JEDEC 的 SOCAMM2 標準的製定做出了貢獻，並與產業合作夥伴合作推動整個 AI 資料中心生態系統的採用。