NVIDIA Grace Blackwell コンピュートトレイ
NVIDIA は、近々開催される Hot Chips 2024 カンファレンスで最新のイノベーションを発表し、データセンターのパフォーマンスとエネルギー効率の進歩について発表する予定です。XNUMX 兆ドル規模のデータセンター コンピューティング市場が進化を続ける中、NVIDIA のエンジニアは、NVIDIA Blackwell プラットフォーム、液体冷却ソリューション、チップ設計用の AI エージェントの開発成果を紹介します。
カンファレンスでは、NVIDIA は、Blackwell GPU、Grace CPU、BlueField DPU、CUDA ソフトウェアなど複数のチップを統合したNVIDIA Blackwellプラットフォームが、業界横断的な次世代 AI をどのように支えているかを強調します。NVIDIA によると、マルチノード液冷式ラック スケール ソリューションである新しい GB200 NVL72 システムは、72 個の Blackwell GPU と 36 個の Grace CPU を接続することで、AI システム設計の新たな基準を打ち立てます。このシステムは、生成型 AI ワークロードに対して前例のない低遅延推論を実現し、大規模言語モデル (LLM) の推論を最大 30 倍高速化します。
「ブラックウェルに備えて」
「NVIDIA Blackwell は究極のフルスタック コンピューティングの挑戦です」と、NVIDIA の Dave Salvator 氏は本日のブログ投稿で述べています。「これらの高度なテクノロジを統合することで、AI と高速コンピューティング パフォーマンスの標準を再定義し、エネルギー効率を劇的に向上させています。」
NVIDIA Quantum InfiniBand スイッチ
チップのイノベーション以外にも、NVIDIA はデータセンターを再定義する可能性のある冷却技術にも注力しています。大規模な AI ワークロードをサポートする上で重要な要素になりつつある液体冷却が、議論の焦点となります。NVIDIA のデータセンター冷却およびインフラストラクチャ担当ディレクターの Ali Heydari 氏は、既存の空冷式データセンターに後付けできるハイブリッド液体冷却ソリューションを紹介します。
NVIDIA スペクトラム ネットワーク 800Gbit スイッチ
こうしたハードウェアの進歩に加え、NVIDIA は AI を活用した設計の限界を押し広げています。NVIDIA の設計自動化研究担当ディレクターのマーク レン氏は、AI モデルとエージェント ベース システムが半導体設計をどのように変革するかについて洞察を提供します。これらの AI ツールは、セル クラスターの最適化やデバッグなどのタスクを自動化することでエンジニアの生産性を高め、チップ設計の効率化を図ります。「AI エージェントは、これまでは手動による介入が必要だった複雑なタスクを自律的に実行することで、新たな可能性を切り開いています」とレン氏は語ります。
NVIDIA NVLink スイッチ
Hot Chips 2024 は、25 月 27 日から XNUMX 日までスタンフォード大学およびオンラインで開催されます。参加者は、NVIDIA の最新のブレークスルーと、それが AI およびデータ センター テクノロジの未来をどのように形作るかについて、より深い洞察を得ることができます。
Hot Chips 2024におけるNVIDIA Blackwellに関する発表の詳細については、NVIDIAの公式ウェブサイトをご覧ください。
Amazon