生成 AI 用の NVIDIA DGX GH200 AI スーパーコンピューターを発表

by ハロルド・フリッツ on 2023 年 5 月 29 日

NVIDIAのジェンセン・フアン氏は今週、台湾で開催されているComputex 2023に参加し、次世代AIアプリケーション、データ分析、レコメンデーションシステム向けのモデル開発を可能にすることに重点を置いた新製品発表を盛り込んだ基調講演を行った。NVIDIA GH200 Grace Hopperスーパーチップを搭載したNVIDIA DGXスーパーコンピュータとNVIDIA NVLinkスイッチシステムが注目を集めた。

NVIDIA DGX GH200は、NVLinkインターコネクト技術とNVLinkスイッチシステムを採用し、256個のGH200スーパーチップを1つのGPUとして組み合わせることで、1エクサフロップの性能と144テラバイトの共有メモリを実現します。これは、単一のNVIDIA DGX A100システムと比較して、ほぼ500倍ものメモリ容量です。

NVLink テクノロジーにより AI が大規模に拡張

GH200スーパーチップは、ArmベースのNVIDIA Grace CPUとNVIDIA H100 Tensor Core GPUをNVLink-C2Cチップインターコネクトで統合し、従来のCPU-GPU間PCIe接続を不要にします。GPUとCPU間の帯域幅は最新のPCIe技術と比較して7倍に向上し、インターコネクトの消費電力は5倍以上削減され、DGX GH200スーパーコンピュータ向けに600GBのHopperアーキテクチャGPUビルディングブロックを提供します。

これは、Grace Hopper スーパーチップと NVLink スイッチシステムを組み合わせた最初のスーパーコンピューターです。この新しいインターコネクトにより、パフォーマンスに影響を与えることなく、NVLink と組み合わせた 200 GPU の制限と比較して、DGX GH200 システム内のすべての GPU が 10 つの GPU として動作できるようになります。 DGX GHXNUMX アーキテクチャは、前世代に比べて XNUMX 倍の帯域幅を実現し、単一の GPU をプログラミングする簡単さで大規模な AI スーパーコンピューターのパワーを実現します。

AI の先駆者が新しい研究ツールを入手

新しいスーパーコンピューターに最初にアクセスするのは Google Cloud、Meta、Microsoft になると予想されており、これらの企業は生成 AI ワークロードの機能を探索できるようになります。 NVIDIA は、DGX GH200 設計をブループリントとしてクラウドサービスプロバイダーや他のハイパースケーラーに提供し、自社のインフラストラクチャに合わせてカスタマイズできるようにする予定です。

NVIDIA の研究者と開発チームは、200 つの DGX GH1,024 システムを備えた新しい NVIDIA Helios スーパーコンピューターにアクセスできるようになります。 Helios には 2 個の Grace Hopper スーパーチップが含まれており、年末までにオンラインになる予定です。 Helios スーパーコンピューターの各システムは、大規模な AI モデルをトレーニングするために最大 400Gb/s の帯域幅データスループットを備えた NVIDIA Quantum-XNUMX InfiniBand ネットワーキングで相互接続されます。

統合された専用設計

DGX GH200スーパーコンピュータには、最大規模のAIおよびデータ分析ワークロードをサポートする、ターンキー方式のフルスタックソリューションを提供するNVIDIAソフトウェアが搭載されます。NVIDIA Base Commandソフトウェアは、AIワークフロー管理、エンタープライズグレードのクラスタ管理、コンピューティング、ストレージ、ネットワークインフラストラクチャを高速化するライブラリ、およびAIワークロードの実行に最適化されたシステムソフトウェアを提供します。NVIDIA AI Enterpriseソフトウェアには、生成AI、コンピュータビジョン、音声AIなどを含む、本番環境向けAIの開発と展開を効率化するための100以上のフレームワーク、再学習済みモデル、開発ツールが含まれます。