2026年8月16日更新：初版公開。モデルサイズとメモリ容量は、この日付時点の公式モデルリリースに基づいて検証済みです。モデルサイズは変動するため、この表は四半期ごとに更新されます。
ローカルAI向けのハードウェアガイドは、最終的に「モデルは適合するか？」という一つの疑問に集約されます。このページでは、数値を用いてその疑問に答え、さらにスペックシート上の数値計算よりも一歩踏み込んだ情報を提供します。以下の表にモデルクラスが記載されている場合、それはStorageReviewラボで実行済みであり、ハードウェアの推奨事項は、デスクトップおよびノートPCのローカルAIランキングで実際にテストしたシステムへのリンクとなっています。
要約すると、パラメータ数だけではハードウェア要件を予測できなくなりました。量子化によって重みは約4分の1に縮小され、エキスパート混合モデルは総パラメータ数から想像されるよりもはるかに軽量に動作し、エージェントワークロードはほとんどのサイジングガイドで完全に無視されているメモリ負荷をもたらします。これら3つすべてをどのように予算化するかを以下に説明します。
モデルのメモリ要件
以下のファイルサイズは、2026年8月にOllamaとHugging Faceで公開された、一般的なQ4_K_M量子化リリース（または特記されている場合はネイティブフォーマット）のサイズです。「実行に必要なメモリ」列には、作業オーバーヘッドと適度なコンテキストウィンドウが追加されています。アスタリスクが付いている数値は計算による推定値であり、GPT-OSSとDeepSeek 671Bの数値はベンダー自身の発表値です。
| モデル | 技術パラメータ | Q4 / ネイティブダウンロード | 実行に必要なメモリ* | 走る |
|---|---|---|---|---|
| ラマ3.1 8B | 8B | 4.9 GB | 約6～8GB | 8GB VRAM搭載ノートパソコン 以上 |
| ファイ4 14B | 14.7B | 9.1 GB | 約11～12GB | 16GB VRAMまたは 64GB共有メモリ搭載ノートパソコン |
| GPT-OSS 20B (MXFP4) | 21B（アクティブ3.6B） | 12〜14 GB | 約13～16GB | 16GB VRAM、 共有メモリ搭載ノートパソコン |
| ミストラル スモール 3.2 24V | 24B | 15 GB | 約18～20GB | 24GB RTX PRO搭載ノートパソコン |
| ジェマ3 27B | 27B | 17 GB | 約20～22GB | 24GB RTX PRO搭載ノートパソコン, 統合メモリ搭載デスクトップ |
| Qwen3 30B-A3B | 30.5B（アクティブ3.3B） | 19 GB | 約22～24GB | 24GB VRAM (タイト) または 統合メモリ |
| QwQ 32B / DeepSeek-R1 32B | 32B | 20 GB | 約22～24GB | 24GB VRAM (タイト) または 統合メモリ |
| ラマ3.3 70B / R1ディスティル70B | 70B | 43 GB | 約48～50GB | 96GB以上の統合メモリ, RTX PRO 6000タワー |
| GPT-OSS 120B (MXFP4) | 117B（アクティブ5.1B） | 65 GB | 約65～80GB | 96GB～128GBの統合メモリ96GB GPU |
| DeepSeek-R1 671B (フル) | 671B（アクティブ37B） | 404 GB | 450 GB以上 | デスクトップでは手の届かない、ラック規模の領域 |
※この見積もりは、アクティブなコンテキストが約8KB、ウェイトファイルに加えて約15%の実行時オーバーヘッドを想定しています。コンテキストが大きいほどコストは大幅に増加します。詳細は下記のエージェント税をご覧ください。
注目すべきパターンが2つあります。まず、専門家の混合によって計算が変わります。GPT-OSS 120Bは1170億個のパラメータを持ちますが、トークンごとにアクティブ化するのは5.1億個だけなので、96GBから128GBの単一のメモリプールで動作します。OpenAIは、ターゲットを80GBの単一のGPUとしています。私たちは、ディスクリートGPUを全く搭載していない1リットルのマシンであるHP Z2 Mini G1aで実行しました。次に、6710億個のパラメータを持つ完全なDeepSeek-R1は全く別の次元です。Q4でダウンロードするだけで404GB、許容できるレベルで実行するには合計で約450GBのメモリが必要です。私たちのリーダーボードに掲載されているどのマシンもこれを実行できず、デスクトップで試すべきではありません。
どこを走るか
8GB VRAM搭載ノートパソコン（RTX PRO 500～2000クラス）。Q4の7B～8Bモデルや、より小型のPhiおよびGemmaバリアントで十分です。上限は確かに存在します。当社のテストでは、約12GBのグラフィックメモリを必要とする13Bモデルが、8GBカードでは動作しませんでした。ローカルAIに最適なノートパソコンについては、当社の「ローカルAIに最適なノートパソコン」ページをご覧ください。
24GB VRAM システム (RTX PRO 5000 ノート PC、デスクトップ RTX カード)。14B～ 27B モデルに最適で、コンテキストに余裕があり、実行速度も最速です。当社のDell Pro Max 18 Plus は、 Phi 上で毎秒 185 トークンという性能でこの分野をリードしています。32B クラスは Q4 に適合しますが、コンテキストのための余裕がほとんどありません。エージェントが関与すると、コンテキストは想像以上に重要になります。
統合メモリと共有メモリシステム（96GB～128GB）。AMD Strix Haloマシンは最大96GBのシステムRAMをGPUに割り当てることができ、NVIDIA DGX SparkのようなGB10システムは128GBのコヒーレントメモリを搭載しています。このクラスは、Q4で70Bモデル、GPT-OSS 120Bで動作し、速度と容量をトレードオフしています。ローカルAIに最適なデスクトップのリーダーボードでランキングされており、同じアーキテクチャはHP ZBook Ultra G1a 14のノートPCにも採用されており、テストではDeepSeek-R1 70Bが搭載されました。
RTX PRO 6000 ワークステーションタワー (カードあたり 96GB、最大 384GB までテスト済み)。速度と容量を同時に実現: フルコンテキストでより高い量子化の 70B モデル、余裕のある GPT-OSS 120B、またはマルチエージェントパイプライン用に複数のモデルを同時に配置。当社のベストデスクトップワークステーションリーダーボードでは、4 つの GPU に対応できるHP Z8 Fury G6i がトップに立っています。
エージェント税：コンテキストは第二の記憶予算である
重みファイルのみに基づくサイズ設定は、短いチャットセッションには有効です。しかし、エージェントはこの前提を覆します。エージェントはループ処理を行い、ツール出力、ファイル、および以前の手順をコンテキストウィンドウに読み込みます。コンテキストに保持されるトークンごとに、重みに加えてKVキャッシュのメモリが消費されます。そのコストは決して小さくありません。
| モデルクラス | 32KコンテキストのKVキャッシュ | 128KコンテキストのKVキャッシュ | トークン1,000個あたりの概算コスト |
|---|---|---|---|
| 8B（Llama 3.1 8B、FP16 KV） | 4.19 GB | 16.78 GB | 〜0.13 GB |
| 70B（Llama 3.3 70B、FP16 KV） | 10.49 GB | 41.94 GB | 〜0.33 GB |
上記のサイジング表と照らし合わせてこの表を見ると、問題点は明らかです。70B モデルでは Q4 で 43GB の重みが必要ですが、完全な 128K コンテキストでは合計で約 85GB が必要となり、これは重みの 2 倍になります。8B モデルでは 128K でコンテキスト (16.78GB) に、自身の Q4 重み (4.9GB) よりも多くのメモリが費やされます。KV キャッシュの量子化は、FP8 でこれらの数値を半分に、INT4 で品質を多少犠牲にして 4 分の 1 にすることで役立ちますが、計画のルールは変わりません。エージェント処理の場合は、コンテキストを第 2 のモデルのように予算化する必要があります。
サービングは、さらにコストを増加させます。システムが複数のエージェントまたはユーザーを同時にホストする場合、各リクエストは独自のKVキャッシュを保持します。ローカルAIリーダーボードでベンチマークに使用しているサービングスタックであるvLLMは、デフォルトでGPUメモリの90%を事前割り当てします。これは、スループットを低下させるプリエンプションなしで実行できる同時リクエスト数を決定するのはKVスペースであるためです。1つのチャットを快適に実行できるマシンは、3つのエージェントには力不足になる可能性があります。
システムRAM：忘れられた第三の脚
GPU のみの推論の場合、システム RAM は邪魔にならないようにするだけでよく、テストしたマシンでは 32GB ～ 64GB が快適な最低値です。システム RAM が決定的な役割を果たすのは 2 つのケースです。VRAM に収まらないレイヤーが CPU に転送されるオフロードは、メモリ マップド モデル ファイルを介して機能するため、システム RAM は少なくともモデル ファイル サイズと OS の余裕に一致する必要があります。また、統合メモリ マシンでは、システム RAM が GPU メモリとなるため、ローカル AI リーダーボードでは 64GB と 128GB の構成が上位を占めています。Ollama の最低値ガイダンスでは、7B モデルで 8GB、13B で 16GB、33B クラスで 32GB の RAM を使用しています。これらは目標ではなく、最小値として扱ってください。
収納：誰もが飛ばしてしまう脚
モデルライブラリはすぐに大きくなります。サイズ表にある10個のモデルは、一般的な量子化で合計約240GBになります。いくつかのバリアント、検索用の埋め込みモデル、エージェントメモリ用のベクトルストアを含む作業用ライブラリは、プロジェクトデータが到着する前に500GBを超える可能性があります。さらに、エージェントワークフローは、モデルと並行して存在するログ、チェックポイント、検索インデックスといった実際のスクラッチトラフィックを生成します。
ドライブの性能が顕著に表れるのはロード時間です。計算は簡単です。65GBのGPT-OSS 120Bファイルは、SATA速度では約109秒、Gen3 NVMeドライブでは約17秒、Gen4速度では9秒未満で読み込まれます（初回ロードのみ。OSのページキャッシュにより再ロードはほぼ瞬時に行われるため）。実際のローダーは必ずしもドライブのフルスピードを維持できるとは限らないため、ドライブクラスごとに独自の測定モデルロード値を公開する予定です。変更履歴にご注目ください。ストレージリーダーボードでは、ドライブ自体の性能を取り上げています。
実用的なアドバイス：専用のAIワークステーションであれば、2TBのNVMeが最低限の容量として妥当です。マシンが状態を蓄積するエージェントをホストする場合は4TB、大規模なモデルを定期的に切り替える場合はGen4以上の容量が推奨されます。
エージェントAIハードウェアに関するよくある質問
70Bモデルをローカルで動作させるには、どれくらいのVRAMが必要ですか？
適度なコンテキストでQ4では約48～50GBとなり、そのためこのクラスはコンシューマー向けカードではなく、96GB統合メモリ搭載マシンや96GBワークステーションGPUに属します。コンテキストを128Kに近づけると、合計は85GBに近づきます。Q8で実行すると、ウェイトだけで75GBになります。
DeepSeek-R1のフルバージョンをローカル環境で実行できますか？
このサイトがランク付けしているどの製品にも該当しません。671BのフルモデルはQ4時点で404GBのダウンロードが必要で、快適に動作させるには合計で約450GBのメモリが必要です。実用的なローカルパスは公式のディスティル版であり、サイジング表にある32Bと70Bのディスティル版は、デスクトップクラスの要件を満たす多くの機能を備えています。
専門家混合モデルはハードウェアの計算方法を変えるのか？
実質的にそうです。MoEモデルはトークンごとにパラメータの一部のみをアクティブ化するため、メモリ使用量はパラメータの総数に比例しますが、処理速度はアクティブなパラメータ数に比例します。GPT-OSS 120B（アクティブパラメータ数5.1B）とQwen3 30B-A3B（アクティブパラメータ数3.3B）は、それぞれが対応するメモリプール上で、サイズから想像されるよりも高速に動作します。すべての重みに必要なメモリは依然として必要ですが、1ギガバイトあたりの処理速度が向上します。
AIワークステーションにはどれくらいのストレージ容量が必要ですか？
最低でも2TBのNVMeストレージ、エージェントホストには4TBのストレージを用意してください。控えめなモデルライブラリだけでも数百ギガバイトに達し、エージェントはログやベクターストアを蓄積します。また、最大サイズの単一ファイル（65GB以上）は、モデルのロードやスワップのたびに低速なドライブで動作が重くなる原因となります。
現地のエージェント向けには、具体的にどのようなハードウェアを購入すべきでしょうか？
処理速度よりもメモリを優先してください。エージェントは長いコンテキストを保持し、場合によっては並行して実行されるため、KVキャッシュの予算はウェイトの予算と同じくらい重要です。デスクトップ版ローカルAIランキングでは、96GBから128GBの統合メモリシステムが最も経済的な選択肢であり、ワークステーション版ランキングでは、速度と並行処理の両方が重要な場合にRTX PRO 6000タワーが最適です。
レビュー：GB300の数値が発表されました
上記すべては、弊社がテストしたハードウェアを反映しており、弊社が計算方法を変えると言ったシステムは実際に変わりました。弊社が初めて手にしたGB300 DGX StationであるMSI XpertStation WS300のレビューが公開されました。748GBのコヒーレントメモリプールは、252GBのHBM3eと496GBのLPDDR5Xにまたがり、20ペタFLOPSのFP4を備えています。テストでは、ワークステーションで実行すべきではない433GBのGLM-5.2チェックポイントが、Graceメモリに216GBのエキスパートウェイトを保持して動作しました。
このガイドでメモリが重要な理由は、メモリ容量です。このページの推奨事項はすべて、ハードリミットを前提として、モデルを複数の GPU に分割したり、量子化を利用したり、重みと KV キャッシュが収まらない場合は CPU オフロードを受け入れたりしています。NVIDIA は GB300 デスクトップ システムを、アクセラレータでアドレス指定可能な数百ギガバイトのコヒーレント メモリを搭載していると仕様付けしていますが、これは上記の表の基準となる 96GB クラスのカードとは桁違いの規模です。現在マルチ GPU タワーを必要とするモデル クラス、またはローカルで実行するのが非現実的だとリストしているモデル クラスは、シングル ボックスの範囲に移行します。
実際にテストを実施するまでは、具体的な数値は公表しません。このページに掲載されている数値はGB300に基づいたものではなく、GB300を前提とした調整も一切行っていません。レビューが公開され次第、このガイドは測定結果に基づいて改訂され、変更内容は以下のログに記載されます。
このガイドの維持方法
モデルのサイズと人気モデルのリストは四半期ごとに変更され、これはどのハードウェアサイクルよりも速いペースです。当社では、公式リリースと照らし合わせて四半期ごとにサイズ表を再検証し、新しいシステムがローカルAIテストを通過するたびにラボの領収書を追加します。変更内容は、ページ上部の日付付き注記に記載されます。推定値としてマークされたサイズ数値は、公開されているウェイトファイルに加えて、測定されたKVキャッシュコストと標準的なランタイムオーバーヘッドを使用しています。ベンダーが公表した数値は、その旨が明記されています。
Amazon