StorageReview.com

NVIDIA RTX PRO 6000 ワークステーション GPU レビュー: Blackwell アーキテクチャとプロワークフロー向け 96 GB

消費財  ◇ 

NVIDIAは8月、最上位のBlackwellデスクトップ製品をプロフェッショナル向けにワークステーションとサーバーの2つのトラックに分割しました。RTX PRO 6000ワークステーションカードは、タワー型またはデスクトップ型シャーシ内で最大限のコンピューティング性能とVRAMを必要とするクリエイター、エンジニア、AI開発者向けに設計されています。一方、RTX PRO 6000 Blackwell Server Editionは、ラックサーバーやデータセンターのヘッドレス推論ノード、レンダリングノード向けに設計されています。今回、ワークステーションカードをベンチテストに使用したので、今回のレビューではワークステーションカードに焦点を当てます。

ナマケモノを搭載したNvidia RTX PRO 6000の正面図。

8,500ドルという価格で、RTX PRO 6000は、24,064基のCUDAコア、752基の第5世代Tensorコア、188基の第4世代RTコア、そして96GBのGDDR7 ECCメモリを搭載した、フルスペックのGB202を搭載しています。その魅力は一目瞭然です。コンシューマー向けカードでは到底及ばないメモリ容量、プロ仕様のドライバー、そして特別な電源やエアフローを必要とせず、本格的なワークステーションにも設置可能なデュアルスロットフォームファクターを備えています。

NVIDIAはこのGPUを、混合ワークフロー向けに位置付けています。これには、ロングコンテキストでのローカルLLM推論、大規模シーンのレンダリング、複雑なシミュレーション、マルチGPU研究リグが含まれます。ここでは実用的な配慮が重要です。このカードは標準のPCIe 5.0 x16インターフェースを採用し、高解像度・高リフレッシュレートのビジュアライゼーションを実現する4つのDisplayPort 2.1b出力を備えています。また、600WのTDP(構成可能)を備えているため、インテグレーターは最適な熱、音響、密度に調整できます。

私たちの目標は、このワークステーション バージョンが AI、レンダリング、および一般的なコンピューティング全体でラボでどのように機能するかを評価し、96 GB プールが単一のデスクトップ ノードの機能に与える影響を定量化することです。

NVIDIA RTX PRO 6000 ワークステーション エディションとサーバー エディションの比較

RTX PRO 6000の各モデルは同じBlackwell GB202基盤をベースにしているため、演算性能は紙面上では馴染み深いものに見えます。違いは、搭載方法と搭載場所にあります。今回テストしたワークステーションカードは、4つのDisplayPort 2.1b出力とスタジオクラスのドライバーを搭載した、自己完結型でアクティブ冷却機能を備えたデュアルスロットボードです。タワー型またはデスクサイド型のワークステーションに挿入し、ローカルパネルを駆動し、CUDA、TensorRT、cuDNNに加えてISV認定のDCCおよびCADアプリを実行します。インタラクティブなビューポート作業、ローカルビジュアライゼーション、オンボックスAIを混在させるワークフローの場合、このカードは、音響と熱を予測可能な状態ですべてを1つのシャーシに収める最適な方法です。

RTX PRO 6000 Blackwell Server Editionは、全く異なる目的のために設計されています。サーバー向けに設計された、ヘッドレスのラックファースト構成で、前面から背面へのエアフローとリモート管理機能を備えています。ジョブはネットワーク経由でスケジュールされ、結果はリモートで消費されるため、アクティブなディスプレイ出力はありません。ファームウェア、電力、および熱プロファイルは、スケジューラによる24時間7日の稼働に合わせて調整されており、通常はNVIDIA AI Enterprise、コンテナオーケストレーション、およびハイパーバイザーパススルーと組み合わせて使用​​されます。つまり、クリエイターやエンジニアがローカルで作業を確認および操作しながら、大規模な推論やシミュレーションバッチを実行する必要がある場合は、ワークステーションモデルが最適です。一方、データセンターでキューの背後に同一ノードをスケールアウトする場合、すべてのワット、ケーブル、およびエアフロー経路がOEMサービスプランの範囲内に収まる必要があるため、サーバーエディションの方が理にかなっています。

NVIDIA RTX PRO 6000 の仕様

以下の表は、RTX 5090 および以前の Ada Lovelace 世代の RTX 4090 と比較した NVIDIA RTX PRO 6000 の仕様の概要を示しています。

GPUの比較 NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090
GPU名 GB202 GB202 AD102
アーキテクチャ ブラックウェル 2.0 ブラックウェル 2.0 エイダラヴェレス
プロセスサイズ 5 nmの 5 nmの 5 nmの
トランジスタ 92,200億円 92,200億円 76,300億円
密度 122.9M / mm² 122.9M / mm² 125.3M / mm²
ダイサイズ 750mm²の 750mm²の 609mm²の
スロット幅 デュアルスロット デュアルスロット トリプルスロット
寸法 304 mm x 137 mm x 40 mm 304 mm x 137 mm x 48 mm 304 mm x 137 mm x 61 mm
TDP 600W 575W 450W
出力 4x DisplayPort 2.1b HDMI 1b x 2.1、ディスプレイポート 3b x 2.1 HDMI 1 x 2.1、DisplayPort 3a x 1.4
電源用コネクター 1x 16ピン 1x 16ピン 1x 16ピン
バスインタフェース PCIe 5.0 x16 PCIe 5.0 x16 PCIe 4.0 x16
ベースクロック 1590 MHz 2017 MHz 2235 MHz
ブーストクロック 2617 MHz 2407 MHz 2520 MHz
メモリクロック 1750 MHz(有効28 Gbps) 2209 MHz(有効28 Gbps) 1313 MHz(有効21 Gbps)
メモリー容量 96 GB 32 GB 24 GB
メモリタイプ GDDR7 ECC GDDR7 GDDR6X
メモリーバス 512ビット 512ビット 384ビット
メモリ帯域幅 1.79 TB /秒 1.79 TB /秒 1.01 TB /秒
CUDAコア 24,064 21,760 16,384
テンソルコア 752 680 512
ROP 192 192 176
SM カウント 188 170 128
RTコア 188 170 128
L1キャッシュ 128 KB(SMあたり) 128 KB(SMあたり) 128 KB(SMあたり)
L2キャッシュ 128 MB 88 MB 72 MB
ピクセルレート 502.5 GPixel / s 462.1 GPixel / s 443.5 GPixel / s
テクスチャレート 1,968.0 GTexel / s 1,637 GTexel / s 1,290 GTexel / s
FP16(ハーフ) 126.0 TFLOPS (1:1) 104.8 TFLOPS (1:1) 82.58 TFLOPS (1:1)
FP32 (浮動小数点数) 126.0 TFLOPS 104.8 TFLOPS 82.58 TFLOPS
FP64(ダブル) 1.968 TFLOPS (1:64) 1.637 TFLOPS (1:64) 1,290 GFLOPS (1:64)
発売価格(USD) $8,500 $1,999 $1,599

ビルドとデザイン

RTX PRO 6000ワークステーションGPUは、RTX 5090 FEに見られるNVIDIAのクリーンで機能的なデザインを継承し、工業用マットブラック仕上げとワークステーション環境向けに最適化されたデュアル軸ファンレイアウトを備えています。各ファンは、全長3Dベイパーチャンバーに空気の流れを押し出すように設計されており、持続的なワークロード下でも熱平衡を維持します。304 mm × 137 mm × 40 mmの筐体はデュアルスロット構成に快適に収まり、600 WのTDP定格を考慮した優れたパフォーマンス密度を提供します。

Nvidia RTX PRO 6000 の正面図。

PRO 6000は上端に16ピン電源コネクタを1つ備え、96GBのGDDR7メモリとBlackwell 2.0アーキテクチャに必要な電流を供給します。アルミニウム製のシュラウドがフィンスタック全体に空気を効率的に送り込み、高級感と堅牢性を兼ね備えたビルドクオリティを実現しています。NVIDIAの控えめなロゴは、RGBやゲーミングの装飾を排し、プロフェッショナルな美観を際立たせています。これにより、熱負荷の高いワークステーション筐体における信頼性とパフォーマンスが強調されています。

Nvidia RTX PRO 6000 上面。

I/O面では、NVIDIAは4つのDisplayPort 2.1b出力を提供し、マルチモニター8Kセットアップ、色精度の高いHDRワークフロー、高度なレンダリング環境との互換性を確保しています。HDMIではなくDisplayPort 2.1bを採用することで、高リフレッシュレートと高解像度のディスプレイ向けに帯域幅が拡張され、プロフェッショナルな方向性を反映しています。

Nvidia RTX PRO 6000 ディスプレイ ポート。

性能試験

NVIDIA RTX PRO 6000 サンプルのパフォーマンスを評価するため、NVIDIA のフラッグシップコンシューマー向け製品である RTX 5090 Founders Edition および RTX 4090 Founders Edition と直接比較しました。テストは、プロフェッショナル向けワークロードと AI 主導型ワークロードを組み合わせ、純粋なコンピューティング能力と実際のアプリケーションパフォーマンスの両方を明らかにしました。ベンチマークには、UL Procyon AI テキスト生成、UL Procyon AI 画像生成、LuxMark、Geekbench 6、V-Ray が含まれ、レンダリング、推論、生産性パフォーマンスをバランスよく概観しています。

これらの標準的なワークロードに加えて、RTX PRO 6000 の 96 GB の GDDR7 メモリを実証するために設計されたターゲット テストも実行し、容量と持続的なスループットが重要となる大規模モデル、高解像度のデータセット、プロフェッショナルな視覚化ワークロードの処理における利点を実証しました。

新しいNVIDIA RTX PRO 6000のメリットを最大限に引き出すため、AMD ThreadRipperプラットフォームを採用しました。このシステムは、64コアCPUと水冷ループを搭載しており、CPUパワーが十分に発揮されるため、GPUが処理を滞りなく実行できます。システム構成の詳細は以下をご覧ください。

StorageReview AMD ThreadRipper テスト プラットフォーム
  • マザーボード: ASUS Pro WS TRX50-SAGE WIFI
  • CPU: AMD Ryzen Threadripper 7980X 64コア
  • RAM: 32GB DDR5 4800MT/秒
  • ストレージ: 2TB サムスン 980 プロ
  • OSの: ワークステーション用のWindows11 Pro

UL Procyon: AIテキスト生成

Procyon AIテキスト生成ベンチマークは、簡潔かつ一貫性のある評価方法を提供することで、AI LLMのパフォーマンステストを効率化します。複数のLLMモデルにわたる繰り返しテストを可能にし、大規模モデルや変動要因の複雑さを最小限に抑えます。AIハードウェアのリーディングカンパニーと共同開発されたこのベンチマークは、ローカルAIアクセラレータの利用を最適化し、より信頼性が高く効率的なパフォーマンス評価を実現します。以下の測定結果は、TensorRTを使用してテストされたものです。

NVIDIA RTX PRO 6000は、4つのモデルテストすべてにおいて、一貫してトップの座を維持しました。Phiから始めて、PRO 6000は総合スコア6,775を達成し、RTX 5090の5,749、RTX 4090の4,958、RTX 6000 Adaの4,508を上回りました。トークン生成速度(325.9トークン/秒)の高速化とレイテンシの低さ(最初のトークン生成まで0.182秒)は、リアルタイムテキスト生成やチャットベースのAIワークロードにおける応答性の高さを際立たせています。

この傾向はMistralでも続き、PRO 6000は7,346トークンを記録し、5090(6,267)、4090(5,094)、そして6000 Ada(4,255)に対して大きな差を維持しました。271.8トークン/秒というスループットは、96GBの大容量メモリプールと、ハイコンテキスト推論向けに最適化されたワークステーションチューニングのメリットを実証しています。

Llama3では、PRO 6000は6,501というスコアで、RTX 5090の6,104、4090の4,849、6000 Adaの4,026を上回り、依然としてリードを維持しました。これはNVIDIAのBlackwellアーキテクチャの一貫性を浮き彫りにしており、PRO 6000は、トランスフォーマーワークロードの複雑さとコンテキストの長さが拡大しても、パフォーマンスの優位性を維持しています。

最後に、ロングコンテキスト推論と持続的なパフォーマンスを重視するLlama2では、PRO 6000は8,008を達成しました。一方、5090、4090、6000 Adaはそれぞれ6,591、5,013、3,957と、PRO 6000に及ばない結果となりました。シーケンス長と推論時間が長くなっても、PRO 6000は速度と安定性の両面で明確な優位性を維持し、テストした他のどのGPUよりも高速かつスムーズなスループットで実行を完了しました。

UL Procyon: AIテキスト生成 NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090 NVIDIA RTX 6000 エイダ
ファイ総合スコア 6,775 5,749 4,958 4,508
最初のトークンまでの Phi 出力時間 0.182秒 0.244秒 0.255秒 0.288秒
Phi 出力トークン数/秒 325.855 トーク/秒 314.435 トーク/秒 244.343 トーク/秒 228.359 トーク/秒
Phi 全体期間 9.498秒 10.280秒 12.872秒 13.869秒
ミストラル総合スコア 7,346 6,267 5,094 4,255
ミストラルの最初のトークン出力時間 0.229秒 0.297秒 0.322秒 0.419秒
ミストラル出力トークン数/秒 271.779 トーク/秒 255.945 トーク/秒 183.266 トーク/秒 166.633 トーク/秒
ミストラル全体の所要時間 11.493秒 12.593秒 17.010秒 19.092秒
ラマ3 総合スコア 6,501 6,104 4,849 4,026
Llama3 最初のトークンまでの時間の出力 0.218秒 0.234秒 0.259秒 0.348秒
Llama3 出力トークン数/秒 226.407 トーク/秒 214.285 トーク/秒 150.039 トーク/秒 138.620 トーク/秒
Llama3 全体の所要時間 13.554秒 14.304秒 19.991秒 22.062秒
ラマ2 総合スコア 8,008 6,591 5,013 3,957
Llama2 最初のトークンまでの時間の出力 0.307秒 0.419秒 0.500秒 0.679秒
Llama2 出力トークン数/秒 145.595 トーク/秒 134.502 トーク/秒 92.853 トーク/秒 78.532 トーク/秒
Llama2 全体の所要時間 20.712秒 23.018秒 32.448秒 38.923秒

ULプロキオン: AI画像生成

Procyon AI Image Generation Benchmarkは、低消費電力NPUからハイエンドGPUまで、さまざまなハードウェアにおけるAI推論性能を、一貫性のある正確な方法で測定します。このベンチマークには、ハイエンドGPU向けのStable Diffusion XL(FP16)、中程度の性能のGPU向けのStable Diffusion 1.5(FP16)、低消費電力デバイス向けのStable Diffusion 1.5(INT8)の3つのテストが含まれています。ベンチマークは各システムに最適な推論エンジンを使用するため、公平で比較可能な結果が得られます。

NVIDIA RTX PRO 6000は、Stable Diffusion 1.5 (FP16) から開始し、総合スコア8,869という圧倒的なスコアを記録しました。これは、RTX 5090 (8,193)、RTX 4090 (5,260)、RTX 6000 Ada (4,230) を上回ります。PRO 6000は、11.27画像あたり平均0.705秒で画像生成を完了し、このテストで最速となりました。これは、ワークステーション向けに最適化されたチューニングと96GBのGDDR7メモリにより、効率性を損なうことなく、持続的で高精度な出力を実現していることを示しています。

軽量量子化推論性能を測定するStable Diffusion 1.5(INT8)テストでは、すべてのGPUがほぼ同等のパフォーマンスを示しました。PRO 6000のスコアは79,064で、RTX 5090の79,272とほぼ同等でしたが、RTX 4090(62,160)とRTX 6000 Ada(55,901)を上回りました。INT8ワークロードはメモリ帯域幅と容量への依存度が低いため、差はわずかでしたが、PRO 6000は平均生成時間が1画像あたり0.395秒と、安定した結果を維持しました。

Stable Diffusion XL (FP16) テストでは、メモリと持続的な計算スループットの両方に負荷をかける、より長く、より要求の厳しい推論実行で GPU を過酷な条件にさらします。このテストで PRO 6000 は総合スコア 6,991 を達成し、RTX 5090 の 7,179 にわずかに及ばないものの、RTX 4090 の 5,025 や RTX 6000 Ada の 3,043 を大きく上回りました。レンダリング時間は合計 85.8 秒、1 枚あたり 5.36 秒を維持しており、PRO 6000 が拡張世代のワークロードを効率的に、かつ速度低下なく処理できることを示しています。

UL Procyon: AI画像生成 NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090 NVIDIA RTX 6000 エイダ
安定拡散 1.5 (FP16) – 総合スコア 8,869 8,193 5,260 4,230
安定拡散 1.5 (FP16) – 全体時間 11.274秒 12.204秒 19.011秒 23.639秒
安定拡散1.5(FP16) – 画像生成速度 0.705 秒/画像 0.763 秒/画像 1.188 秒/画像 1.477 秒/画像
安定拡散 1.5 (INT8) – 総合スコア 79,064 79,272 62,160 55,901
安定拡散 1.5 (INT8) – 全体時間 3.162秒 3.154秒 4.022秒 4.472秒
安定拡散 1.5 (INT8) – 画像生成速度 0.395 秒/画像 0.394 秒/画像 0.503 秒/画像 0.559 秒/画像
安定拡散XL(FP16) – 総合スコア 6,991 7,179 5,025 3,043
安定拡散XL(FP16) – 全体時間 85.819秒 83.573秒 119.379秒 197.172秒
安定拡散XL(FP16) – 画像生成速度 5.364 秒/画像 5.223 秒/画像 7.461 秒/画像 12.323 秒/画像

ブレンダー4.4

Blenderはオープンソースの3Dモデリングアプリケーションです。このベンチマークはBlenderベンチマークユーティリティを使用して実行されました。スコアはXNUMX分あたりのサンプル数で測定され、値が高いほどパフォーマンスが優れていることを示します。

3つのシーンすべてにおいて、NVIDIA RTX PRO 6000がBlackwellアーキテクチャと拡張メモリ容量のメリットを発揮し、トップの座を獲得しました。モンスターシーンでは、PRO 6000は7,870.17サンプル/分を記録し、RTX 5090の7,421.50を上回りました。RTX 4090とRTX 6000 Adaはそれぞれ5,733.97と5,632.60で続きました。

Junkshopシーンでは、PRO 6000は4,158.91サンプル/分で引き続きリードし、RTX 5090の3,980.15、RTX 4090の2,827.83、RTX 6000 Adaの2,663.77を上回りました。最後に、シェーディングとメモリ効率の両方が重視されるClassroomシーンでは、PRO 6000は4,041.11サンプル/分を記録し、再びRTX 5090の3,732.63を上回り、RTX 4090の2,909.35とRTX 6000 Adaの2,818.83を大きく上回りました。

Blender 4.4(高いほど良い) NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090 NVIDIA RTX 6000 エイダ
モンスター 7,870.17 7,421.50 5,733.97 5,632.60
ジャンクショップ 4,158.91 3,980.15 2,827.83 2,663.77
教室 4,041.11 3,732.63 2,909.35 2,818.83

ラックスマーク

Luxmarkは、オープンソースのレイトレーシングレンダラーであるLuxRenderを活用したGPUベンチマークで、非常に精細な3Dシーンを処理するシステムのパフォーマンスを評価します。このベンチマークは、特に正確な光シミュレーションが不可欠な視覚効果や建築ビジュアライゼーションアプリケーションにおいて、サーバーやワークステーションのグラフィカルレンダリング能力を評価するのに特に有効です。

フードシーンテストでは、NVIDIA RTX PRO 6000が24,287のスコアでトップに立ち、23,141のRTX 5090を僅差で上回りました。RTX 4090とRTX 6000 Adaはそれぞれ17,171と14,873で続きました。これは、PRO 6000が、安定性の低下やサーマルスロットリングを生じることなく、非常に詳細なジオメトリとライティングのワークロード全体でスムーズなレイトレーシング性能を維持していることを示しています。

大規模なジオメトリと複雑なグローバル イルミネーションが重視される、より要求の厳しいホール シーンでは、PRO 6000 が再び 52,588 でトップの結果を獲得しました。これは、RTX 5090 の 51,725 をわずかに上回り、RTX 4090 (38,887) と RTX 6000 Ada (32,132) を大きく上回りました。

Luxmark(高いほど良い) NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090 NVIDIA RTX 6000 エイダ
フードスコア 24,287 23,141 17,171 14,873
ホールスコア 52,588 51,725 38,887 32,132

Geekbench 6

Geekbench 6は、システム全体のパフォーマンスを測定するクロスプラットフォームのベンチマークツールです。Geekbench Browserを使用すると、あらゆるシステムをGeekbench 6と比較できます。

このテストにおいて、NVIDIA RTX PRO 6000はGPU OpenCLスコア384,158を達成し、RTX 5090(374,807)、RTX 4090(333,384)、RTX 6000 Ada(336,882)を上回りました。PRO 6000の高いスコアは、最適化されたワークステーション設計、強化されたメモリ帯域幅、そしてプロフェッショナルなドライバースタックを反映しており、これらが相まって、幅広いコンピューティング負荷の高いワークロードにおいて一貫したパフォーマンスを実現しています。

Geekbench (高いほど良い) NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090 NVIDIA RTX 6000 エイダ
GPU OpenCLスコア 384,158 374,807 333,384 336,882

V線

V -Rayベンチマークは、高度なV-Ray 6エンジンを使用して、CPU、NVIDIA GPU、またはその両方のレンダリング性能を測定します。迅速なテストとシンプルなスコアリングシステムを採用することで、ユーザーはシステムのレンダリング能力を評価・比較できます。効率的なパフォーマンス分析を求めるプロフェッショナルにとって不可欠なツールです。

当社のテストでは、NVIDIA RTX PRO 6000は12,128 vpathを記録し、14,764でトップのRTX 5090と10,847のRTX 4090の中間に位置しました。RTX 6000 Adaは10,766でわずかに遅れをとりました。このGPU集中型レンダリングテストではRTX 5090がわずかにリードを維持しましたが、PRO 6000は強力で安定したパフォーマンスを発揮し、ワークステーション向けのチューニングとフルレンダリング負荷下でも持続的な効率性を発揮しました。

V-Ray (高いほど良い) NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090 NVIDIA RTX 6000 エイダ
vpaths 12,128 14,764 10,847 10,766

LM Studio マルチモデル推論テスト

今回のテストでは、LM Studioを使用して、GPT-OSS 120B、Gemma 3(4B、12B、27B)、Llama 3.1(8B、70B)、Llama 3.3 70Bなど、様々な一般的な大規模言語モデルにおいて、NVIDIA RTX PRO 6000のパフォーマンスを評価しました。各モデルには、以下の同じ指示を与えました。

「ナマケモノの歴史について500語の学術論文を書いてください。」

このテストでは、主に 1 秒あたりのトークン数 (スループット) と合計時間 (完了までの期間) に焦点を当てており、これらを組み合わせることで、RTX PRO 6000 が同一の生成条件下でさまざまなモデル サイズと複雑さをいかに効率的に処理できるかが明らかになります。

LM Studio 推論テスト全体を通じて、NVIDIA RTX PRO 6000 は、小規模な 4B パラメータ モデルから大規模な 120B クラスの構成まで、幅広いモデル サイズにわたって優れたパフォーマンスとスケーラビリティを実証しました。

このテストのハイライトはOpenAI GPT-OSS 120Bで、RTX PRO 6000は1秒あたり163.1トークンを生成し、500ワードの生成を9.54秒で完了しました。RTX 5090などのカードは120Bモデルの読み込みや実行ができず、VRAMの制限により70Bモデルでさえ処理できないことも多いため、この結果は際立っています。PRO 6000は96GBのGDDR7メモリを搭載しており、このような巨大なモデルをローカルで処理できるため、ワークステーションGPUの中でも比類のない性能を発揮します。

小型モデルでは、Gemma 3.4 Bが最高のスループットを達成し、226.7トークン/秒でタスクを3.51秒で完了しました。Llama 3.1 8B Instructはこれに続き、197.1トークン/秒で合計4.17秒という結果でした。これらの実行結果は、PRO 6000が中程度の推論ワークロードにおいて優れた効率性と迅速な応答性を発揮することを示しています。

上位モデルでは、Llama 3.1 70B Instruct と Llama 3.3 70B モデルは、平均して 1 秒あたり約 31.8 トークン、合計生成時間はそれぞれ 27.2 秒と 25.3 秒で、サイズが大きいにもかかわらず、一貫した出力を示しました。

RTX PRO 6000は、大規模モデルの実行において卓越した安定性、スループット、そして優れた性能を発揮します。96GBのメモリ容量により、コンシューマー向けGPUの限界を超えるワークロードにも対応可能で、高度なAIや生成モデル開発において信頼性の高いローカルパフォーマンスを必要とする開発者、研究者、そしてプロフェッショナルにとって最適な選択肢となります。

LM Studio(モデル推論結果)
モデル名 トークン / 秒 最初のトークンまでの時間(秒) 合計時間(秒) プロンプトトークン 予測トークン 合計トークン
OpenAI GPT-OSS 120B 163.15 0.193 9.543 81 1,557 1,638
ジェマ3 4B 226.73 0.113 3.51 25 796 821
ジェマ3 12B 117.15 0.068 8.06 25 944 969
ジェマ3 27B 68.06 0.221 12.048 25 820 845
メタラマ3.1 8B 指示 197.07 0.062 4.171 49 822 871
メタラマ3.1 70B 指示 31.84 0.159 27.227 49 867 916
メタラマ3.3 70B 31.74 0.323 25.329 49 804 853

NVIDIA RTX PRO 6000 の消費電力

AIワークロードの実世界における効率性を評価するため、UL Procyon AI画像生成ベンチマーク、特にStable Diffusion XL FP16テストを使用しました。このテストは、2番目と最後の画像生成間のインターバルに焦点を当て、インターバル完了までの時間、ピーク時および持続時の消費電力、そして完了後のシステムアイドル時の電力を測定します。

当社のテスト中、RTX PRO 6000は持続負荷時の平均システム消費電力が918.5Wで、ピーク時には1,036.3Wに達しました。ワークロードが完了するとアイドル時の消費電力は152.3Wに落ち着きました。テスト時間は5.3秒で、合計1.35Whの電力を消費しました。これらの結果は、ワークステーションクラスのGPUとしては優れた電力対性能効率を示しており、長時間の推論ワークロードにおいても高い出力を維持しながら、消費電力を適切に制御しています。

他のGPUと比較して、RTX PRO 6000は、RTX 4090と総消費電力がほぼ同等でありながら、より高速な処理完了時間を維持しており、電力効率と速度の両方でRTX 6000 Adaを大幅に上回っています。興味深いことに、GB202チップを共有する新しいBlackwellカードは、このワークロードにおいて非常に類似した効率特性を示しており、総消費電力の差はわずかで、これはPRO 6000のより高いTDPによるものと考えられます。これは、NVIDIAの最新世代がワットあたりのパフォーマンスを大幅に向上させるのではなく、継続的に改良していることを示しています。

安定した拡散XL FP16画像パワー使用(低いほど良い) NVIDIA RTX 6000 グラフィックス NVIDIA RTX 5090 NVIDIA RTX 4090 NVIDIA RTX 6000 エイダ
消費電力 1.35Wh 1.16Wh 1.35Wh 1.76Wh
テスト期間 5.3s 5.1s  7.3s 12.6s

結論

NVIDIA RTX PRO 6000は、総合的に見て、プロフェッショナルワークフローに利用できる最も高性能なワークステーションGPUであり、デスクサイドのフォームファクターでデータセンタークラスのパフォーマンスを提供します。テスト時点での小売価格は約8,500ドルで、制作作業において信頼性、高い計算密度、そして大規模なECCメモリプールを必要とするチームをターゲットにしています。24,064個のCUDAコア、752個のTensorコア、96GBのGDDR7 ECC、そしてBlackwellアーキテクチャを備え、GeForce RTX 5090や4090といったコンシューマー向けカードの実用的な限界を超えるワークロードに対応します。個々のベンチマークでは、生の速度ではコンシューマー向けカードが上回っている場合がありますが、容量、安定性、ドライバー、ISVサポートなど、総合的に見ると、RTX PRO 6000はプロフェッショナルユースにより適しています。

AIとMLにおいては、96GBのプールが目玉です。これにより、ローカルでのロングコンテキスト推論と非常に大規模なチェックポイントの実行が可能になり、70B~120Bクラスのモデルを1秒あたりの強力なトークン数を維持しながら実行することで、その実力を発揮しました。レンダリングとシミュレーションも、より大きなL2キャッシュとメモリ帯域幅の恩恵を受け、Blender、V-Ray、LuxMarkにおいて、高負荷時でも予測可能で持続的なパフォーマンスを実現します。

Nvidia RTX PRO 6000 の正面図。

このカードは本格的なワークステーションに最適です。PCIe 5.0 x16インターフェース、4つのDisplayPort 2.1b出力、そして1つの16ピン電源入力を備えた真のデュアルスロット設計を採用しています。600Wのボード電力をサポートするには、高品質の電源ユニットと筐体のエアフロー設計をご検討ください。マルチGPUも容易で、AI、レンダリング、コンピューティングスタック全体で2~8基のGPUをOEMおよびISVがサポートしています。

作業に長いコンテキストの LLM、非常に大きなシーン、または単一ノードでの高精度のシミュレーションが含まれる場合、RTX PRO 6000 は、他のカードには匹敵しない容量と一貫性でそのプレミアムを正当化します。

Nvidia RTX PRO 6000 製品ページ

StorageReview と連携する

ニュースレター| YouTube | ポッドキャスト(iTunes / Spotify) | Instagram | Twitter | TikTok | RSSフィード

ディラン・ドハティ

ネットワーク管理を専門とするITプロフェッショナルであり、StorageReviewのライターでもある。