StorageReview.com

Micron 192GB SOCAMM2: AIデータセンター向けコンパクトで低消費電力のDRAM

AI  ◇  Enterprise

Micronは、AIデータセンター向け低消費電力DRAMの大きな進歩となる、新開発の192GB SOCAMM2メモリモジュールのサンプル出荷を開始しました。Micronの最新鋭1ガンマプロセスノードとLPDDR5Xテクノロジーをベースとしたこのモジュールは、非常にコンパクトなフォームファクタでありながら、高帯域幅と優れたエネルギー効率を実現します。

マイクロン 192GB SOCAMM2

AIモデルの大規模化と複雑化に伴い、メモリはシステム設計における最大のボトルネックの一つとなっています。MicronのSOCAMM2モジュールは、従来のサーバーDIMMよりも柔軟に拡張可能な大容量・低消費電力メモリを提供することで、この問題の解決を目指しています。

ミクロン 192GB SOCAMM2のハイライト

MicronのSOCAMM(Small Outline Compression Attached Memory Module)設計の最新版は、物理的なフットプリントを拡大することなく、前世代と比較して容量を50%増加させました。この新しい192GBモジュールは、リアルタイムAI推論性能を劇的に向上させると期待されています。Micronによると、SOCAMM2を搭載したシステムは、従来のサーバーメモリと比較して、推論ワークロードにおける最初のトークンまでの時間(TTFT)を80%以上短縮できます。

高スループットと省電力インフラストラクチャを必要とする次世代AIワークロード向けに設計されたSOCAMM2モジュールは、LPDDR5X本来の利点(低消費電力と高速データ転送速度)とサーバーグレードの信頼性と保守性を兼ね備えています。そのため、高密度の水冷システムや、限られた電力予算で大容量のメモリを必要とする環境に特に適しています。

SOCAMM2は、従来製品と比較して電力効率が20%以上向上し、同等のRDIMMと比較して3分の2以上の効率向上を実現します。これにより、特に40テラバイトを超える低消費電力DRAMを使用するフルラックAIサーバー環境において、大規模な導入において大幅なコスト削減を実現します。モジュールの物理サイズは同等のRDIMMのわずか3分の1であるため、データセンターはシステムフットプリントを最小限に抑えながらメモリ密度を向上させることができます。

MicronとNVIDIAの提携

MicronとNVIDIAの過去5年間の協業は、データセンター向けSOCAMMフォームファクターの開発において重要な役割を果たしました。当初はモバイルメモリアーキテクチャをベースとしたSOCAMMは、その後、サーバー環境の耐久性、帯域幅、そして熱要件を満たすように進化しました。SOCAMM2は、スタッキング技術の革新とモジュール構造によってこのビジョンをさらに発展させ、保守性と将来的な拡張性を向上させます。

同社はまた、JEDEC の SOCAMM2 標準の開発にも貢献しており、業界パートナーと協力して AI データセンター エコシステム全体での採用を推進しています。

利用状況

SOCAMM2 モジュールは現在、最大 192 GB の構成と最大 9.6 Gbps のデータ レートでサンプル出荷されており、顧客の導入スケジュールに合わせて量産が計画されています。

Micron SOCAMM2 テクノロジー有効化プログラムのウェブページ

StorageReview と連携する

ニュースレター| YouTube | ポッドキャスト(iTunes / Spotify) | Instagram | Twitter | TikTok | RSSフィード

ライル・スミス

ライルはStorageReviewのライターで、エンドユーザー向けおよび企業向けITに関する幅広いトピックを執筆している。