2026年10月13日更新：ハウススタイルに関する校正が完了し、GB300に関する注記は公開済みのWS300レビューを反映したものになりました。GB300の校正が完了するまで、サイズ表記は変更されません。初版は2026年8月16日に公開され、モデルサイズは公開時に公式リリースと照合され、四半期ごとに更新されています。
ローカルAI向けのハードウェアガイドは、最終的に「モデルは適合するか？」という一つの疑問に集約されます。このページでは、数値を用いてその疑問に答え、さらにスペックシート上の数値計算よりも一歩踏み込んだ情報を提供します。以下の表にモデルクラスが記載されている場合、それはStorageReviewラボで実行済みであり、ハードウェアの推奨事項は、デスクトップおよびノートPCのローカルAIランキングでテスト済みのシステムへのリンクとなっています。
要約すると、パラメータ数だけではハードウェア要件を予測できなくなりました。量子化によって重みは約4分の1に縮小され、エキスパート混合モデルは総パラメータ数から想像されるよりもはるかに軽量に動作し、エージェントワークロードはほとんどのサイジングガイドで完全に無視されているメモリ負荷を伴います。以下のセクションでは、これら3つの要素すべてを考慮した予算を算出します。
モデルのメモリ要件
以下のファイルサイズは、2026年8月にOllamaとHugging Faceで公開された、一般的なQ4_K_M量子化リリース（または特記されている場合はネイティブフォーマット）のサイズです。「実行に必要なメモリ」列には、作業オーバーヘッドと適度なコンテキストウィンドウが追加されています。アスタリスクが付いている数値は計算による推定値であり、GPT-OSSとDeepSeek 671Bの数値はベンダー自身の発表値です。
| モデル | 技術パラメータ | Q4 / ネイティブダウンロード | 実行に必要なメモリ* | 走る |
|---|---|---|---|---|
| ラマ3.1 8B | 8B | 4.9 GB | 約6～8GB | 8GB VRAM搭載ノートパソコン 以上 |
| ファイ4 14B | 14.7B | 9.1 GB | 約11～12GB | 16GB VRAMまたは 64GB共有メモリ搭載ノートパソコン |
| GPT-OSS 20B (MXFP4) | 21B（アクティブ3.6B） | 12〜14 GB | 約13～16GB | 16GB VRAM、 共有メモリ搭載ノートパソコン |
| ミストラル スモール 3.2 24V | 24B | 15 GB | 約18～20GB | 24GB RTX PRO搭載ノートパソコン |
| ジェマ3 27B | 27B | 17 GB | 約20～22GB | 24GB RTX PRO搭載ノートパソコン, 統合メモリ搭載デスクトップ |
| Qwen3 30B-A3B | 30.5B（アクティブ3.3B） | 19 GB | 約22～24GB | 24GB VRAM (タイト) または 統合メモリ |
| QwQ 32B / DeepSeek-R1 32B | 32B | 20 GB | 約22～24GB | 24GB VRAM (タイト) または 統合メモリ |
| ラマ3.3 70B / R1ディスティル70B | 70B | 43 GB | 約48～50GB | 96GB以上の統合メモリ, RTX PRO 6000タワー |
| GPT-OSS 120B (MXFP4) | 117B（アクティブ5.1B） | 65 GB | 約65～80GB | 96GB～128GBの統合メモリ96GB GPU |
| DeepSeek-R1 671B (フル) | 671B（アクティブ37B） | 404 GB | 450 GB以上 | デスクトップでは手の届かない、ラック規模の領域 |
※この見積もりは、アクティブなコンテキストが約8KB、ウェイトファイルに加えて約15%の実行時オーバーヘッドを想定しています。コンテキストが大きいほどコストは大幅に増加します。詳細は下記のエージェント税をご覧ください。
この表には注目すべき2つのパターンがあります。1つ目は、専門家の混合によって計算が変わることです。GPT-OSS 120Bは1170億個のパラメータを持ちますが、トークンごとにアクティブ化するのは5.1億個だけなので、96GBから128GBの単一のメモリプールで動作します。OpenAIは、ターゲットを80GBの単一のGPUとしています。私たちは、ディスクリートGPUを全く搭載していない1リットルのマシン、 HP Z2 Mini G1aでこれを実行しました。2つ目は、6710億個のパラメータを持つ完全なDeepSeek-R1は全く別の次元です。Q4でダウンロードするだけで404GB、許容できるレベルで実行するには合計で約450GBのメモリが必要です。私たちのリーダーボードに掲載されているどのマシンもこれを実行できず、デスクトップで試すべきではありません。
どこを走るか
8GB VRAM搭載ノートパソコン（RTX PRO 500～2000クラス）。Q4の7B～8Bモデルや、より小型のPhiおよびGemmaバリアントで十分です。上限は確かに存在します。当社のテストでは、約12GBのグラフィックメモリを必要とする13Bモデルが、8GBカードでは動作しませんでした。ローカルAIに最適なノートパソコンについては、当社の「ローカルAIに最適なノートパソコン」ページをご覧ください。
24GB VRAM システム (RTX PRO 5000 ノート PC、デスクトップ RTX カード)。14B～ 27B モデルに最適で、コンテキストに余裕があり、実行速度も最速です。当社のDell Pro Max 18 Plus は、 Phi 上で毎秒 185 トークンという性能でこの分野をリードしています。32B クラスは Q4 に適合しますが、コンテキストのための余裕がほとんどありません。エージェントが関与すると、コンテキストは想像以上に重要になります。
統合メモリと共有メモリシステム（96GB～128GB）。AMD Strix Haloマシンは最大96GBのシステムRAMをGPUに割り当てることができ、NVIDIA DGX SparkのようなGB10システムは128GBのコヒーレントメモリを搭載しています。このクラスは、Q4で70Bモデル、GPT-OSS 120Bで動作し、速度と容量をトレードオフしています。ローカルAIに最適なデスクトップのリーダーボードでランキングされており、同じアーキテクチャはHP ZBook Ultra G1a 14のノートPCにも採用されており、テストではDeepSeek-R1 70Bが搭載されました。
RTX PRO 6000 ワークステーションタワー (カードあたり 96GB、最大 384GB までテスト済み)。速度と容量を同時に実現: フルコンテキストでより高い量子化の 70B モデル、余裕のある GPT-OSS 120B、またはマルチエージェントパイプライン用に複数のモデルを同時に配置。当社のベストデスクトップワークステーションリーダーボードでは、4 つの GPU に対応できるHP Z8 Fury G6i がトップに立っています。
エージェント税：コンテキストは第二の記憶予算である
重みファイルのみに基づくサイジングは短いチャットセッションには有効ですが、エージェントはループするため、この前提は崩れます。エージェントはツール出力、ファイル、および以前の手順をコンテキストウィンドウに読み込み、コンテキストに保持されるすべてのトークンは、重みに加えてKVキャッシュのメモリを消費します。以下の表は、これらのコストがどれほど大きくなるかを示しています。
| モデルクラス | 32KコンテキストのKVキャッシュ | 128KコンテキストのKVキャッシュ | トークン1,000個あたりの概算コスト |
|---|---|---|---|
| 8B（Llama 3.1 8B、FP16 KV） | 4.19 GB | 16.78 GB | 〜0.13 GB |
| 70B（Llama 3.3 70B、FP16 KV） | 10.49 GB | 41.94 GB | 〜0.33 GB |
上記のサイジング表と照らし合わせてこの表を見ると、問題点は明らかです。70B モデルでは Q4 で 43GB の重みが必要ですが、完全な 128K コンテキストでは合計で約 85GB が必要となり、これは重みの 2 倍になります。8B モデルでは 128K でコンテキスト (16.78GB) に、自身の Q4 重み (4.9GB) よりも多くのメモリが費やされます。KV キャッシュの量子化は、FP8 でこれらの数値を半分に、INT4 で品質を多少犠牲にして 4 分の 1 にすることで役立ちますが、計画のルールは変わりません。エージェント処理の場合は、コンテキストを第 2 のモデルのように予算化する必要があります。
複数のエージェントやユーザーを同時に処理する場合、各リクエストが独自のKVキャッシュを保持するため、サーバー処理によってコストがさらに増加します。ローカルAIリーダーボードでベンチマークに使用しているサーバースタックであるvLLMは、デフォルトでGPUメモリの90%を事前割り当てします。これは、スループットを低下させるプリエンプションなしで同時に処理できるリクエスト数を決定するのがKVスペースであるためです。1つのチャットを快適に処理できるマシンでも、3つのエージェントを処理するには容量不足になる可能性があります。
システムRAM：忘れられた第三の脚
GPUのみの推論の場合、システムRAMは邪魔にならないようにするだけでよく、テスト対象のマシンでは32GBから64GBあれば十分ですが、2つのケースではシステムRAMが決定的な要素となります。VRAMに収まらないレイヤーをCPUにスピルアウトするオフロードは、メモリマップドモデルファイルを介して行われるため、システムRAMは少なくともモデルファイルサイズとOSの余裕分に相当する必要があります。
統合メモリ搭載マシンでは、システムRAMがGPUメモリとして機能します。そのため、ローカルAIランキングでは64GBと128GBの構成が上位を占めています。Ollamaのフロアガイダンスは、7Bモデルで8GB、13Bで16GB、33Bクラスで32GBのRAMを使用しています。これらは目標値ではなく、最低限の要件として考えてください。
収納：誰もが飛ばしてしまう脚
モデルライブラリはすぐに大きくなります。というのも、サイズ表にある10個のモデルは、一般的な量子化で合計約240GBにもなり、いくつかのバリアント、検索用の埋め込みモデル、エージェントメモリ用のベクトルストアを含む作業用ライブラリは、プロジェクトデータが到着する前に500GBを超える可能性があるからです。さらに、エージェントワークフローは、モデルと並行して存在するログ、チェックポイント、検索インデックスといった実際のスクラッチトラフィックを生成します。
ドライブの性能が顕著に表れるのはロード時間です。計算は簡単です。65GBのGPT-OSS 120Bファイルは、SATA速度では約109秒、Gen3 NVMeドライブでは約17秒、Gen4速度では9秒未満で読み込まれます（初回ロードのみ。OSのページキャッシュにより再ロードはほぼ瞬時に行われるため）。実際のローダーは必ずしもドライブのフルスピードを維持できるとは限らないため、ドライブクラスごとに独自の測定モデルロード値を公開する予定です。変更履歴にご注目ください。ストレージリーダーボードでは、ドライブ自体の性能を取り上げています。
実用的なアドバイス：専用のAIワークステーションであれば、2TBのNVMeが最低限の容量として妥当です。マシンが状態を蓄積するエージェントをホストする場合は4TB、大規模なモデルを定期的に切り替える場合はGen4以上の容量が推奨されます。
エージェントAIハードウェアに関するよくある質問
70Bモデルをローカルで動作させるには、どれくらいのVRAMが必要ですか？
適度なコンテキストでQ4では約48～50GBとなり、そのためこのクラスはコンシューマー向けカードではなく、96GB統合メモリ搭載マシンや96GBワークステーションGPUに属します。コンテキストを128Kに近づけると、合計は85GBに近づきます。Q8で実行すると、ウェイトだけで75GBになります。
DeepSeek-R1のフルバージョンをローカル環境で実行できますか？
このサイトがランキングしているどの製品にも該当しません。なぜなら、671BのフルモデルはQ4時点で404GBのダウンロードが必要で、快適に動作させるには合計で約450GBのメモリが必要となるからです。実用的なローカルパスとしては公式のディスティル版が適しており、サイジング表にある32Bと70Bのディスティル版は、デスクトップクラスの要件を満たす十分な性能を備えています。
専門家混合モデルはハードウェアの計算方法を変えるのか？
実質的に、MoEモデルはトークンごとにパラメータの一部のみをアクティブ化するため、メモリ使用量はパラメータの総数に比例しますが、処理速度はアクティブなパラメータ数に比例します。GPT-OSS 120B（アクティブパラメータ数5.1B）とQwen3 30B-A3B（アクティブパラメータ数3.3B）は、それぞれが対応するメモリプール上で、そのサイズから想像されるよりも高速に動作します。すべての重みに必要なメモリは依然として必要ですが、1ギガバイトあたりの処理速度が向上します。
AIワークステーションにはどれくらいのストレージ容量が必要ですか？
最低でも2TBのNVMeストレージ、エージェントホストには4TBのストレージを用意してください。控えめなモデルライブラリだけでも数百ギガバイトに達し、エージェントはログやベクターストアを蓄積します。また、最大サイズの単一ファイル（65GB以上）は、モデルのロードやスワップのたびに低速なドライブで動作が重くなる原因となります。
現地のエージェント向けには、具体的にどのようなハードウェアを購入すべきでしょうか？
エージェントは長いコンテキストを保持し、場合によっては並行して実行されるため、処理速度よりもメモリを優先してください。そのため、KVキャッシュの予算はウェイトの予算と同じくらい重要です。デスクトップ版ローカルAIランキングでは、96GBから128GBの統合メモリシステムが最も経済的な選択肢であり、ワークステーション版ランキングでは、速度と並行処理の両方が重要な場合にRTX PRO 6000タワーが最適なソリューションです。
レビュー：GB300の数値が発表されました
上記すべては、弊社がテストしたハードウェアを反映しており、弊社が計算方法を変えると言ったシステムは実際に変わりました。弊社が初めて手にしたGB300 DGX StationであるMSI XpertStation WS300のレビューが公開されました。748GBのコヒーレントメモリプールは、252GBのHBM3eと496GBのLPDDR5Xにまたがり、20ペタFLOPSのFP4を備えています。テストでは、ワークステーションで実行すべきではない433GBのGLM-5.2チェックポイントが、Graceメモリに216GBのエキスパートウェイトを保持して動作しました。
このガイドでメモリが重要な理由は、メモリ容量です。このページの推奨事項はすべて、ハードリミットを前提として、モデルを複数の GPU に分割したり、量子化を利用したり、重みと KV キャッシュが収まらない場合は CPU オフロードを受け入れたりしています。NVIDIA は GB300 デスクトップ システムを、アクセラレータでアドレス指定可能な数百ギガバイトのコヒーレント メモリを搭載していると仕様付けしていますが、これは上記の表の基準となる 96GB クラスのカードとは桁違いの規模です。現在マルチ GPU タワーを必要とするモデル クラス、またはローカルで実行するのが非現実的だとリストしているモデル クラスは、シングル ボックスの範囲に移行します。
上記の表の数値はまだGB300に基づいたものではありません。次はWS300の結果に基づいたサイズ決定処理を行い、その変更点は以下のログに記録されます。
このガイドの維持方法
モデルのサイズと人気モデルのリストは四半期ごとに変更され、これはどのハードウェアサイクルよりも速いペースです。当社では、公式リリースと照らし合わせて四半期ごとにサイズ表を再検証し、新しいシステムがローカルAIテストを通過するたびにラボの領収書を追加します。変更内容は、ページ上部の日付付き注記に記載されます。推定値としてマークされたサイズ数値は、公開されているウェイトファイルに加えて、測定されたKVキャッシュコストと標準的なランタイムオーバーヘッドを使用しています。ベンダーが公表した数値は、その旨が明記されています。
Amazon