NVIDIA の Jensen Huang 氏は今週台湾で開催される Computex 2023 に出席し、生成 AI アプリケーション、データ分析、レコメンダー システム用の次世代モデルの開発を可能にすることに重点を置いた新製品の発表が満載の基調講演を行いました。の NVIDIA DGX NVIDIA GH200 Grace Hopper Superchips と NVIDIA NVLink スイッチ システムを搭載したスーパーコンピューターが主役となりました。
NVIDIA の Jensen Huang 氏は今週台湾で開催される Computex 2023 に出席し、生成 AI アプリケーション、データ分析、レコメンダー システム用の次世代モデルの開発を可能にすることに重点を置いた新製品の発表が満載の基調講演を行いました。の NVIDIA DGX NVIDIA GH200 Grace Hopper Superchips と NVIDIA NVLink スイッチ システムを搭載したスーパーコンピューターが主役となりました。
この NVIDIA DGX GH200 は、NVLink 相互接続テクノロジーと NVLink スイッチ システムを使用して、256 個の GH200 スーパーチップを組み合わせて単一の GPU として実行し、1 エクサフロップスのパフォーマンスと 144 テラバイトの共有メモリを提供します。これは、単一の NVIDIA DGX A500 システムのメモリのほぼ 100 倍に相当します。
NVLink テクノロジーにより AI が大規模に拡張
GH200 スーパーチップは、Arm ベースの NVIDIA Grace CPU と NVIDIA H100 Tensor コア GPU を組み合わせます。 NVLink-C2C チップの相互接続により、従来の CPU と GPU 間の PCIe 接続が不要になります。 GPU と CPU 間の帯域幅は、最新の PCIe テクノロジーと比較して 7 倍増加し、インターコネクトの消費電力を 5 倍以上削減し、DGX GH600 スーパーコンピューターに 200 GB のホッパー アーキテクチャ GPU ビルディング ブロックを提供します。
これは、Grace Hopper スーパーチップと NVLink スイッチ システムを組み合わせた最初のスーパーコンピューターです。この新しいインターコネクトにより、パフォーマンスに影響を与えることなく、NVLink と組み合わせた 200 GPU の制限と比較して、DGX GH200 システム内のすべての GPU が 10 つの GPU として動作できるようになります。 DGX GHXNUMX アーキテクチャは、前世代に比べて XNUMX 倍の帯域幅を実現し、単一の GPU をプログラミングする簡単さで大規模な AI スーパーコンピューターのパワーを実現します。
AI の先駆者が新しい研究ツールを入手
新しいスーパーコンピューターに最初にアクセスするのは Google Cloud、Meta、Microsoft になると予想されており、これらの企業は生成 AI ワークロードの機能を探索できるようになります。 NVIDIA は、DGX GH200 設計をブループリントとしてクラウド サービス プロバイダーや他のハイパースケーラーに提供し、自社のインフラストラクチャに合わせてカスタマイズできるようにする予定です。
NVIDIA の研究者と開発チームは、200 つの DGX GH1,024 システムを備えた新しい NVIDIA Helios スーパーコンピューターにアクセスできるようになります。 Helios には 2 個の Grace Hopper スーパーチップが含まれており、年末までにオンラインになる予定です。 Helios スーパーコンピューターの各システムは、大規模な AI モデルをトレーニングするために最大 400Gb/s の帯域幅データ スループットを備えた NVIDIA Quantum-XNUMX InfiniBand ネットワーキングで相互接続されます。
統合された専用設計
DGX GH200 スーパーコンピューターには、ターンキーのフルスタック ソリューションを提供する NVIDIA ソフトウェアが組み込まれ、最大の AI およびデータ分析ワークロードをサポートします。 NVIDIA ベース コマンド このソフトウェアは、AI ワークフロー管理、エンタープライズ グレードのクラスター管理、コンピューティング、ストレージ、ネットワーク インフラストラクチャを高速化するライブラリ、および AI ワークロードの実行に最適化されたシステム ソフトウェアを提供します。 NVIDIA AI Enterprise ソフトウェアには、生成 AI、コンピューター ビジョン、音声 AI などを含むプロダクション AI の開発と導入を効率化するための 100 を超えるフレームワーク、再トレーニングされたモデル、開発ツールが含まれます。
利用状況
NVIDIA DGX GH200 スーパーコンピューターは、年末までに発売される予定です。
StorageReview と連携する
ニュースレター | YouTube |ポッドキャスト iTunes/Spotifyは | Instagram | Twitter | TikTok | RSSフィード
