産業界がAIをコンピューティングインフラに導入・統合し続けるにつれ、リソースへの負荷が増大し、エネルギー効率の維持が困難になってきています。こうした状況において、高速コンピューティングと基盤となるテクノロジーは、次世代イノベーションの開発に必要な効率性を提供します。NVIDIA GPU、NVIDIA AI、そして第4世代Intel Xeon Scalableプロセッサープラットフォームなどの次世代プロセッサーがその先頭に立っています。
第4世代インテルXeonスケーラブル・プロセッサーの発売に伴い、NVIDIAとそのパートナー企業は、エネルギー効率に優れたAIアクセラレーション・コンピューティング・システムの新世代を切り開きます。NVIDIA H100 Tensor Core GPUと組み合わせることで、これらのシステムは従来世代よりも劇的に高いパフォーマンス、拡張性、そして効率性を実現します。
新しいシステムはエンタープライズ AI のパフォーマンスと効率を向上させます
NVIDIA と Intel を活用した新しいシステムにより、企業は CPU のみのデータセンター サーバーに比べて 25 倍効率的にワークロードを実行できるようになります。このワットあたりのパフォーマンスを実現することは、消費電力を削減することと同等であり、データセンターが最新のワークロードを加速するためにより多くの電力を供給することを意味します。
新世代の NVIDIA アクセラレーション サーバーにより、トレーニングと推論が高速化され、エネルギー効率が 3.5 倍向上し、実際の節約につながり、AI データ センターの TCO が 3 倍削減されます。
第 4 世代インテル Xeon CPU は PCIe Gen 5 をサポートします
新しい第 4 世代インテル Xeon CPU は PCIe 第 5 世代をサポートし、CPU から NVIDIA GPU およびネットワークへのデータ転送速度を XNUMX 倍に高めます。 PCIe レーンの増加により、GPU の密度が向上し、各サーバー内の高速ネットワーキングが実現します。
メモリ帯域幅の高速化により、AI などのデータ集約型ワークロードのパフォーマンスが向上し、接続あたり最大 400 ギガビット/秒 (Gbps) のネットワーク速度により、サーバーとストレージ間のより高速なデータ転送がサポートされます。
NVIDIAパートナーが提供するNVIDIA DGX H100システムおよびサーバー（H100 PCIe GPU搭載）には、エンドツーエンドでセキュアなクラウドネイティブなAI開発および展開ソフトウェアスイートであるNVIDIA AI Enterpriseのライセンスがバンドルされており、効率的なエンタープライズAIのための完全なプラットフォームを提供します。
NVIDIA Base Command を搭載した NVIDIA DGX H100 システム
NVIDIA DGX H100システムは、高速データセンター向けに設計されたNVIDIA Base Commandオペレーティングシステムを搭載した最適化されたプラットフォームを提供します。各システムには、8基のNVIDIA H100 GPU、10基のNVIDIA ConnectX-7ネットワークアダプタ、およびデュアル第4世代Intel Xeon Scalableプロセッサが搭載されており、大規模な生成型AIモデル、大規模な言語モデル、レコメンダーシステムなどを構築するために必要なパフォーマンスを実現します。
NVIDIA ネットワークと組み合わせることで、このアーキテクチャは効率的なコンピューティングを大規模に強化し、AI トレーニングや HPC ワークロード向けに前世代と比べて最大 9 倍のパフォーマンス、高速化されていない X20 デュアル ソケット サーバーと比べて 40 倍から 86 倍のパフォーマンスを実現すると期待されています。このようなパフォーマンスがあれば、言語モデルのトレーニングに 40 日かかっていた作業が XNUMX 日未満で完了できるようになります。
NVIDIA DGX H100システムは、 NVIDIA DGX SuperPODの構成要素であり、最大1エクサフロップスのAI性能を実現し、大規模な企業向けAI導入における効率性を飛躍的に向上させます。
NVIDIA パートナーがデータセンターの効率を向上
AI データセンターのワークロードの場合、NVIDIA H100 GPU を使用すると、企業はアプリケーションをより効率的に構築して展開できるようになります。
ASUS、Atos、Cisco、Dell Technologies、富士通、GIGABYTE、Hewlett Packard Enterprise、Lenovo、QCT、Supermicro を含む NVIDIA パートナーは、H100 GPU および第 4 世代インテル Xeon スケーラブル CPU サーバーの新しいポートフォリオの提供を間もなく開始する予定です。
NVIDIA ConnectX-7 ネットワークとインテル第 4 世代 Xeon スケーラブル プロセッサーを使用してサーバーを接続すると、効率が向上し、インフラストラクチャと電力消費が削減されます。 NVIDIA ConnectX-7 アダプターは、PCIe Gen 5 とイーサネットまたは InfiniBand 経由の 400 Gbps の接続速度をサポートし、サーバーとストレージ間のネットワーク スループットを XNUMX 倍にします。
アダプターは、高度なネットワーク、ストレージ、セキュリティのオフロードをサポートします。 ConnectX-7 は、必要なケーブルとスイッチ ポートの数を減らし、GPU で高速化された大規模な HPC および AI クラスターのネットワーク接続に必要な電力を 17% 以上節約し、これらの新しいサーバーのエネルギー効率の向上に貢献します。
NVIDIA AI エンタープライズ ソフトウェアは、フルスタック AI ソリューションを提供します
これらの次世代システムは、NVIDIA AI Enterprise Suite 向けに最適化されています。 NVIDIA H100 上で実行される NVIDIA AI Enterprise は、データ サイエンス パイプラインを高速化します。予測 AI モデルの開発と展開を合理化し、重要なプロセスを自動化し、データから迅速な洞察を得ることができます。
このソフトウェアは、リファレンス アプリケーション、フレームワーク、事前トレーニングされたモデル、インフラストラクチャの最適化の AI ワークフローを含むフルスタック ソフトウェアの広範なライブラリを備えており、エンタープライズ AI の成功を拡大するための理想的な基盤を提供します。
Amazon