NVIDIAは、64GBの統合メモリを搭載したDGX Sparkを新たに発売した。価格は4,999ドルからで、10月23日からAcer、ASUS、Dell、Gigabyte、HP、MSIを通じて独占販売される。この新モデルは、128GBモデルと同じGB10 Grace Blackwell Superchip、ConnectX-7ネットワーク、DGX OS、NVIDIA AIソフトウェアスタックを搭載している。NVIDIAによると、64GBモデル単体で、ローカル推論、微調整、エージェントワークフローにおいて、データをクラウドに送信することなく、最大1,000億個のパラメータを持つモデルを実行できるという。
128GBクラスター1つに64GB Sparkを2つ使用
（大型モデルの市場価格と比較して）より安価なこのボックスの売り文句は、2台をクラスタ構成にした場合、非常に優れたパフォーマンスを発揮するという点です。各DGX SparkにはオンボードのConnectX-7 NICが搭載されているため、2台をQSFPケーブルで直接接続し、200GbEリンクで接続します。スイッチは不要です。NVIDIA Sync Cluster Assistantが検出、デバイス構成の検証、ConnectX-7ネットワークのセットアップを行います。64GBユニット2台で合計128GBの統合メモリとなり、NVIDIAによれば、最大2000億パラメータのモデルを実行するのに十分な容量です。
NVIDIA の社内データによると、この組み合わせでは Qwen3.8 27B を使用し、2 つのクラスタ化された 64GB システムが単一の 128GB システムの最大 1.7 倍のパフォーマンスを実現しています。各ノードは同じ CUDA ライブラリ、推論エンジン、および DGX OS イメージを実行するため、ワークロードはソフトウェア環境を再構築することなく両方のユニットにまたがります。サポートされている推論フレームワークには、llama.cpp、Ollama、vLLM、および LM Studio が含まれます。NVIDIA は、NVIDIA Sync を使用して 2 つの Spark を接続する短いビデオを用意しています。
当社では、Dell、Gigabyte、HPのDGX Sparkユニットを複数台使用して分散推論クラスタを構築し、最近では100GbE経由でSparkクラスタの背後に共有ストレージを配置しました。64GBモデルは、こうした構成の導入価格を引き下げますが、その代償として、1台のユニットあたりのメモリ容量が従来の半分に減少しています。
NVIDIA Sync Model Launcherは10月末に登場予定
発表の後半はソフトウェアに関するものです。10月末にリリース予定のNVIDIA Sync Model Launcherは、Qwen3.8 27Bを例として、単一のSparkまたはクラスタ化された2台のSpark上でモデルをダウンロードして起動し、その結果得られたエンドポイントをネットワーク上の開発者マシンに公開します。また、そのモデルに対してOpenCodeを設定することもできるため、開発者はブラウザからコーディングを行い、Sparkクラスタが推論を実行します。
64GBシステムには、128GBモデルと同じソフトウェアが搭載されています。DGX OS、CUDA-X AIライブラリ、NVIDIA Agent Toolkit、Nemotronオープンモデル、そしてOllama、vLLM、CUDA対応PyTorchなどのランタイムが含まれています。NVIDIAはこのシステムを、エージェント、推論、ファインチューニング、データサイエンス、エッジ開発のためのローカルプラットフォームとして位置付けており、ConnectX-7ポートにより、後から2台目のユニットを追加できます。エージェント開発者向けには、NVIDIAはbuild.nvidia.comにあるNemoClaw、OpenClaw、Hermes Agent、OpenShellのプレイブックを参考資料として提供しています。
Amazon