Marvell Structera X 3406および3506は、1つのCXL 3.2エキスパンダーに6つのDDR4またはDDR5チャネルと4つのホストを搭載します。

MarvellはOCPグローバルサミットで第2世代Structera X CXLメモリ拡張器を発表し、メモリチャネル数を6つ、ホスト共有数を4つ、ホストリンクをPCIe 6.0 x16に増やしました。Structera X 3406は1つのコントローラで最大9TBのDDR4 RDIMMスロットを18個駆動し、Structera X 3506は最大6TBのDDR5 RDIMMスロットを12個駆動します。どちらもCXL 3.2で、第1世代の2404と2504の4チャネルから増加しており、Marvellは2027年第1四半期にサンプル出荷を開始する予定です。

4 ホストファブリックは構造的な変更であり、単一の Structera X コントローラが最大 4 つのホストに同時に 256GB/s の総 PCIe 6.0 帯域幅で DIMM を提示できるため、DDR4 または DDR5 のトレイが、1 台の専用拡張カードの代わりに、サーバー グループの共有容量プールになります。Marvell は、この組み合わせを、推論のメモリバウンド側、つまり KV キャッシュ容量が最初のトークンまでの時間とサーバーが保持できるコンテキスト ウィンドウの長さを決定する場合と、埋め込みテーブルが通常ソケットが直接アドレス指定できる DRAM を超えるディープラーニングの推薦モデルに売り込んでいます。

高スループットLZ4圧縮

オンボードのLZ4エンジンは、圧縮および解凍スループットが最大250GB/秒に達し、前世代の5倍になります。Marvellによると、ワークロードに応じて、実効メモリ容量が2倍から3倍向上するとのことです。レコメンデーションモデルについては、1秒あたりのクエリ数が最大2倍、コントローラあたりの実効埋め込みテーブル容量が2倍から3倍向上するとMarvellは主張しています。LLMサービングについては、同じコンテキスト長で最初のトークンまでの時間が40%から50%高速化、または同じレイテンシでサポート可能なコンテキストウィンドウが最大2倍長くなると、いずれも第1世代の製品と比較して主張しています。これらはベンダーによる結果であり、弊社では実行や監査を行っていません。

セキュリティアーキテクチャ

信頼性は、DRAMデバイスの障害を対象とした高度なエラー訂正機能を備えたMarvellのRASレイヤーであるStructGuardによって実現されています。データパスでは、コントローラはポスト量子暗号化、Caliptra 2.0ルートオブトラスト、CXL IDEリンク暗号化、およびAES-256メモリ暗号化を組み合わせており、MarvellはこれをCXLエキスパンダにおけるポスト量子セキュリティとしては業界初であると述べています。

2 つの部品は、Marvell がハイパースケーラーに既に出荷している 2404 および 2504 からドライバ スタックとエコシステムの検証を引き継いでいます。AMD、Arm、Alibaba、Samsung、SK hynix はすべてサポート声明を提供し、Samsung と SK hynix は DDR 部品での Structera の検証を指摘しています。Structera X は、Structera A ニアメモリ アクセラレータおよびポッド レベルのプーリング用のPhotonic Fabric Memory Applianceと並んで配置されており、Marvell はこれをダイレクト アタッチ拡張から分離メモリまでを網羅するポートフォリオと説明しています。Marvell は、10 月 15 日までブース B31 で 3406 と 3506 をデモしています。

コントローラの仕様

マーベル・ストラクテラCXL