GTCで発表され、ISCでAICとして利用可能になったNVIDIA A100 GPUが、Google Cloudに登場します。最初の発表からわずか1か月ほどしか経っていないことを考えると、GPUが主要なパブリッククラウドに導入されるのは非常に速いペースです。Googleは、Accelerator-Optimized VM（A2）インスタンスファミリーにA100、つまりAmpere GPUを導入する最初の主要なパブリッククラウドです。
最初の発表で述べたように、NVIDIA の最初の 7nm GPU は NVIDIA A100 です。 A100 は NVIDIA の Ampere アーキテクチャに基づいており、54 億個のトランジスタを搭載しています。以前の NVIDIA データセンター GPU と同様に、A100 には Tensor コアが含まれています。 Tensor コアは、推論で一般的に使用される一種の行列の乗算と加算の計算を迅速に実行するために特別に設計された GPU の特殊な部分です。より強力な新しい GPU に伴い、より強力な新しい Tensor コアが付属します。以前は、NVIDIA の Tensor コアは最大 100 ビットの浮動小数点数しかサポートできませんでした。 AXNUMX は XNUMX ビット浮動小数点演算をサポートしており、より高い精度が可能になります。
いくつかのクラウドのユースケースでは、GPU が提供できるタイプのコンピューティング能力、特に AI トレーニングと推論、データ分析、科学コンピューティング、ゲノミクス、エッジ ビデオ分析、5G サービスなどを必要とします。新しい NVIDIA A100 GPU は、トレーニングのパフォーマンスと推論のパフォーマンスを前世代の 20 倍に向上させることができるため、上記の用途に最適です。
Google Compute Engine は、AI トレーニングや科学計算のスケールアップから、推論アプリケーションのスケールアウト、リアルタイムの会話型 AI の実現まで、さまざまな用途に A100 を活用します。新しいインスタンスである A2 VM は、さまざまなサイズのワークロードで動作できます。このインスタンスは、CUDA 対応の機械学習トレーニングと推論、データ分析、およびハイ パフォーマンス コンピューティングにわたって機能します。大規模なワークロード向けに、Google は 2 個の A16 GPU を備えた a16-megagpu-100g インスタンスを提供しており、合計 640 GB の GPU メモリと 1.3 TB のシステム メモリを提供し、すべて合計最大 9.6 TB/秒の NVSwitch 経由で接続されています。帯域幅。それほど多くの電力を必要としないお客様のために、より小型の A2 VM も用意されています。
近い将来、Google Cloud は、Google Kubernetes Engine、Cloud AI Platform、その他の Google Cloud サービスに対する A100 サポートを展開する予定です。
Amazon