アトランタで開催された SC24 で、WEKA は、NVIDIA Grace CPU スーパーチップ専用に設計された業界初の高性能ストレージ ソリューションをプレビューしました。NVIDIA、Arm、Supermicro と共同で開発されたこのソリューションは、WEKA Data Platform ソフトウェアを活用して、エンタープライズ AI および高性能コンピューティング (HPC) ワークロードに比類のないパフォーマンス密度とエネルギー効率を提供します。Arm Neoverse V2 コア、NVIDIA ConnectX-7 NIC、BlueField-3 SuperNIC を搭載し、最先端の Supermicro ストレージ サーバーで実行され、現代のデータ センターで増大するデータ アクセス、スペース、電力制約の課題に対処します。
次世代のAIイノベーションを推進
NVIDIA Grace CPU スーパーチップは、主力の x86-64 デュアルソケット サーバーの機能を、144 個の Arm Neoverse V2 コアを搭載した単一モジュールに統合します。この設計により、従来の x2 サーバーの 86 倍のエネルギー効率が実現します。最大 7Gb/s のスループットを提供する NVIDIA ConnectX-3 NIC および BlueField-400 SuperNIC と組み合わせたこのソリューションは、AI および HPC ワークロードに不可欠な高速で低遅延のネットワークを提供します。これらの進歩は、WEKA Data Platform のゼロコピー アーキテクチャと組み合わされ、I/O ボトルネックを解消し、AI パイプラインの遅延を大幅に削減します。
この機能を WEKA データ プラットフォームの AI ネイティブ アーキテクチャと組み合わせることで、組織は AI ワークフローを最大 10 倍高速化し、最初のトークンまでの時間を短縮して、AI データ パイプラインの全体的な効率を向上させることができます。
Grace CPU の LPDDR5X メモリ アーキテクチャは、最大 1 TB/秒のメモリ帯域幅を備えており、ボトルネックを解消してシームレスなデータ フローを実現します。分散アーキテクチャとカーネル バイパス テクノロジーを活用した WEKA データ プラットフォームは、モデル トレーニングの高速化、エポック時間の短縮、推論速度の向上をサポートし、エンタープライズ AI ワークロードのスケーリングに最適なソリューションです。
このソリューションは、WEKAプラットフォームによってGPUスタックの効率が10～50倍向上するなど、これまでにないエネルギー効率を実現します。データコピーを削減し、クラウドの柔軟性を活用することで、データインフラストラクチャのフットプリントを4～7分の1に縮小し、年間1ペタバイトあたり最大260トンのCO2e排出量を削減、エネルギーコストを最大10分の1に削減します。Grace CPUスーパーチップのエネルギー効率により、企業はAIパフォーマンスを向上させながら、持続可能性目標を達成できます。
エンタープライズ AI 向けデータ センターの変革
WEKA、NVIDIA、Arm、Supermicro のコラボレーションは、次世代データセンター向けにカスタマイズされた高性能でエネルギー効率の高いソリューションを作成するという共通のビジョンを強調しています。WEKA の最高製品責任者である Nilesh Patel 氏は、このパートナーシップの変革の可能性を強調し、このソリューションが AI と HPC のワークロードを加速すると同時に、実用的な洞察を得るまでの時間を短縮し、データセンターのエネルギー消費の増加に対処する方法を強調しました。
Supermicro ARS-121L-NE316R ストレージ サーバーの機能:
- 高性能ストレージ用の 16 個の Gen5 E3.S NVMe SSD ベイ。
- 5 つの PCIe Gen 7 ネットワーク スロット。最大 3 つの NVIDIA ConnectX-3.0 または BlueField-XNUMX SuperNIC と XNUMX つの OCP XNUMX ネットワーク アダプターをサポートします。
- AI、データ分析、ハイパースケール クラウド アプリケーション向けに最適化された設計。
NVIDIA のデータセンター CPU 担当ディレクターの Ivan Goldwasser 氏は、データ集約型 AI ワークロードを改善するために NVIDIA Grace CPU スーパーチップを WEKA プラットフォームにシームレスに統合するソリューションを称賛しました。Supermicro のストレージ製品管理担当シニアディレクターの Patrick Chiu 氏は、Supermicro ARS-121L-NE316R ペタスケール ストレージ サーバーを、AI、データ分析、ハイパースケール クラウド アプリケーションなどの高性能ストレージ ワークロード向けにカスタマイズされた、NVIDIA Grace スーパーチップを使用した初のストレージ最適化サーバーであると説明しました。
利用状況
NVIDIA Grace CPU スーパーチップを搭載した WEKA と Supermicro のストレージ ソリューションは、2025 年初頭に市販される予定です。
Amazon