Dell Technologiesは、CoreWeaveとの緊密な連携の下、業界初となるNVIDIA GB300 NVL72システムの出荷を発表しました。これは、DellがNVIDIA GB200を初めて出荷したというこれまでの実績に続くもので、AIインフラストラクチャにおける同社のリーダーシップをさらに確固たるものにしています。大手AIクラウドサービスプロバイダー（CSP）であるCoreWeaveは、最も要求の厳しいエンタープライズワークロード向けに設計された液冷式ラックスケールAIシステムであるNVIDIA GB300 NVL72を導入する初のハイパースケーラーとなりました。
この成果は、Dell、CoreWeave、NVIDIAの強力なパートナーシップの賜物であり、NVIDIAとのDell AI Factoryの勢いをさらに加速させたものです。Dell AI Factoryは、現代の企業の進化するニーズに合わせてカスタマイズされた、包括的で安全なAIソリューションを提供し、企業が自信を持ってAIイニシアチブを加速できるよう支援します。
CoreWeaveで企業の可能性を解き放つ
CoreWeaveがNVIDIA GB300 NVL72を搭載したDell Integrated Racksを導入したことは、クラウドベースのAIサービスの拡張性とパフォーマンスにおいて大きな飛躍となります。このソリューションは、PowerEdge XE9712サーバーを搭載した液冷式のDell Integrated Rack Scalable Systemsを活用しています。各ラックには72基のNVIDIA Blackwell Ultra GPUと36基のArmベースのNVIDIA Grace CPUが搭載されており、次世代AIワークロードのための堅牢な基盤を提供します。
このシステムの中核を成すNVIDIA Blackwell Ultra GPUは、従来製品と比較して1.5倍のAIコンピューティングFLOPSを実現し、複雑なモデルをより高速かつ効率的に処理できます。また、拡張されたHBM3eメモリを搭載し、ラックあたり最大21TBの高帯域幅GPUメモリを搭載可能です。これは、前世代のGB1.5 NVL200世代の72倍に相当します。この大幅なメモリ増加により、AI推論タスクにおけるスループットの最大化に不可欠な、より大きなバッチサイズとより複雑なモデルの作成が可能になります。
第130世代NVIDIA NVLinkテクノロジーは、XNUMXTB/秒という驚異的な総帯域幅を提供し、システム内のすべてのGPU間でシームレスで高速な通信を実現します。このレベルの相互接続性は、特に大規模に動作するAIモデルで最高のパフォーマンスを実現するために不可欠です。
ネットワーク機能は、次世代InfiniBandによってさらに強化されています。NVIDIA Quantum-X800 InfiniBandスイッチとNVIDIA ConnectX-8 SuperNICにより、各GPUに800ギガビット/秒（Gb/s）の専用接続が提供されます。このアーキテクチャにより、クラス最高のリモートダイレクトメモリアクセス（RDMA）が実現し、大規模なAIワークロードの効率が最大化されます。
セキュリティとマルチテナント機能は、NVIDIA BlueField-3 DPU上で動作するNVIDIA DOCAソフトウェアフレームワークによって実現されます。この組み合わせにより、最大200Gbpsの回線速度のテナントネットワークと高性能GPUデータアクセスが提供され、AIワークロードが高速化され、安全なマルチテナントクラウド環境が実現します。
フロンティアスケールAI向けに設計
Dell Integrated Rackソリューションは、迅速な導入と本番環境へのシームレスな統合を実現するように設計されています。Dellによると、このシステムは、前世代のNVIDIA Hopperと比較して、ユーザー応答時間を最大10倍、ワットあたりのスループットを5倍向上させることができます。
CoreWeaveは、このシステムがフロンティア規模のAI向けに特別に構築されており、ユーザーが数兆個のパラメータを持つモデルの学習、最適化、展開を可能にすることを強調しています。このシステムは、高度なAIモデルを本番環境に展開するために不可欠な要件である、テスト時間のスケーリング推論における高い計算負荷に対応するように特別に設計されています。
この導入により、CoreWeaveのAIクラウドプラットフォームが大幅に強化され、大規模言語モデルのトレーニング、推論、リアルタイム推論が簡素化されます。システムのアーキテクチャは、NVIDIA NVLinkスイッチトレイを介した高速GPU間通信をサポートし、40エクサフロップスを超える高密度AI性能を実現し、XNUMXラックで最大XNUMXTBの高速メモリを搭載できます。
パフォーマンスとスケーラビリティへの取り組み
CoreWeaveは、効率性、拡張性、そして業界をリードするパフォーマンスへのコミットメントを強調し、NVIDIA GB300アクセラレーション搭載のDellサーバーを年間を通して展開する予定です。この取り組みは、データセンターの設計と統合に関する深い専門知識を提供するDellのAIプロフェッショナルサービスによって全面的にサポートされており、お客様が最適なパフォーマンスを実現し、次世代AIインフラストラクチャへのスムーズな移行を実現できるようにします。
Amazon