Updated October 24, 2026: The RTX PRO 6000 tower note now points multi-GPU towers to Best Desktops for Local AI and single-card towers to Best Desktop Workstations, matching the October 20 split between those boards, and the tested ceiling now reflects the eight-card, 768GB Comino Grando. Originally published August 16, 2026, with model sizes verified against official releases at publication and refreshed quarterly.
Ogni guida hardware per l'intelligenza artificiale locale si riduce in definitiva a una domanda: il modello è compatibile? Questa pagina risponde con dati numerici, andando oltre i semplici calcoli delle specifiche. Laddove una classe di modelli compare nelle tabelle sottostanti, significa che l'abbiamo testata nel laboratorio di StorageReview, e i consigli hardware rimandano ai sistemi che abbiamo testato nelle nostre classifiche di intelligenza artificiale locale per desktop e laptop.
In breve: il solo conteggio dei parametri non è più sufficiente a prevedere i requisiti hardware. La quantizzazione riduce i pesi di circa 4 volte, i modelli a miscela di esperti risultano molto più leggeri di quanto suggerisca il numero totale di parametri, e i carichi di lavoro agentici aggiungono un costo in termini di memoria che la maggior parte delle guide al dimensionamento ignora completamente; le sezioni seguenti tengono conto di tutti e tre questi aspetti.
Requisiti di memoria del modello
Le dimensioni dei file riportate di seguito si riferiscono alle versioni quantizzate Q4_K_M (o al formato nativo, ove indicato) pubblicate su Ollama e Hugging Face nell'agosto 2026. La colonna "Memory to Run" aggiunge l'overhead di elaborazione e una finestra di contesto moderata; i valori contrassegnati da un asterisco sono stime calcolate, mentre i valori GPT-OSS e DeepSeek 671B sono le dichiarazioni dei fornitori.
| Modello | Scheda Sintetica | Q4 / Download nativo | Memoria per l'esecuzione* | Gira su |
|---|---|---|---|---|
| Lama 3.1 8B | 8B | 4.9 GB | ~6-8 GB | Portatili con 8 GB di VRAM e su |
| Phi-4 14B | 14.7B | 9.1 GB | ~11-12 GB | 16 GB di VRAM o laptop con memoria condivisa da 64 GB |
| GPT-OSS 20B (MXFP4) | 21B (3.6B attivi) | Da 12 a 14 GB | ~13-16 GB | 16 GB di RAM, laptop con memoria condivisa |
| Mistral Piccolo 3.2 24B | 24B | 15 GB | ~18-20 GB | Laptop con RTX PRO da 24 GB |
| Gemma3B | 27B | 17 GB | ~20-22 GB | Laptop con RTX PRO da 24 GB, desktop a memoria unificata |
| Qwen3 30B-A3B | 30.5B (3.3B attivi) | 19 GB | ~22-24 GB | 24 GB di VRAM (stretta) o memoria unificata |
| QwQ 32B / DeepSeek-R1 32B | 32B | 20 GB | ~22-24 GB | 24 GB di VRAM (stretta) o memoria unificata |
| Llama 3.3 70B / R1 Distillato 70B | 70B | 43 GB | ~48-50 GB | 96 GB di memoria unificata, Case RTX PRO 6000 |
| GPT-OSS 120B (MXFP4) | 117B (5.1B attivi) | 65 GB | ~65-80 GB | Memoria unificata da 96 GB a 128 GBGPU da 96 GB |
| DeepSeek-R1 671B (completo) | 671B (37B attivi) | 404 GB | 450+GB | Fuori dalla portata dei computer desktop; territorio dei rack. |
*Le stime si basano su circa 8 KB di contesto attivo e un overhead di runtime di circa il 15% in aggiunta al file dei pesi. Contesti più grandi costano molto di più; vedi la tassa agentica di seguito.
Due aspetti di quella tabella meritano attenzione, e il primo è che la combinazione di esperti cambia i calcoli: GPT-OSS 120B ha 117 miliardi di parametri ma ne attiva solo 5.1 miliardi per token, quindi funziona su un singolo pool di memoria da 96 GB a 128 GB, e OpenAI indica come target una singola GPU da 80 GB. Lo abbiamo eseguito su un HP Z2 Mini G1a , una macchina da 1 litro senza alcuna GPU dedicata. In secondo luogo, la versione completa di DeepSeek-R1 con 671 miliardi di parametri è in un altro universo: 404 GB solo per il download al quarto trimestre, circa 450 GB di memoria combinata per eseguirla in modo accettabile. Nessun computer nelle nostre classifiche riesce a eseguirla, e nessun computer desktop dovrebbe nemmeno provarci.
Cosa corre dove
Laptop con 8 GB di VRAM (RTX PRO classe 500-2000). Funzionano bene anche i modelli da 7 a 8 bit del quarto trimestre e le varianti più piccole Phi e Gemma. Il limite è reale: nei nostri test, un modello da 13 bit che richiedeva circa 12 GB di memoria grafica non è riuscito a raggiungere le prestazioni desiderate con schede da 8 GB. La nostra pagina sui migliori laptop per l'IA locale copre l'argomento.
Sistemi con 24 GB di VRAM (laptop RTX PRO 5000, schede RTX per desktop). Il punto di equilibrio ideale per modelli da 14 a 27 bit con contesto in abbondanza, e il modo più veloce per eseguirli; il nostro Dell Pro Max 18 Plus è in testa a questa categoria con 185 token al secondo su Phi. La classe da 32 bit si colloca nel quarto trimestre, ma lascia poco spazio al contesto, che è più importante di quanto si pensi quando sono coinvolti gli agenti.
Sistemi di memoria unificata e condivisa (da 96 GB a 128 GB). Le macchine AMD Strix Halo possono assegnare fino a 96 GB di RAM di sistema alla GPU, mentre i sistemi GB10 come NVIDIA DGX Spark dispongono di 128 GB di memoria coerente. Questa categoria comprende modelli da 70 B a Q4 e GPT-OSS da 120 B, privilegiando la capacità rispetto alla velocità. La classifica dei migliori desktop per l'IA locale li elenca, e la stessa architettura è presente anche nei laptop come l' HP ZBook Ultra G1a 14 , che nei nostri test ha installato DeepSeek-R1 da 70 B.
Workstation tower RTX PRO 6000 (96 GB per scheda, fino a 768 GB testati). Speed and capacity at once: 70B models at higher quantization with full context, GPT-OSS 120B with headroom, or several models resident simultaneously for multi-agent pipelines. Multi-GPU towers rank on our I migliori computer desktop per l'intelligenza artificiale locale leaderboard, from the four-GPU-capable HP Z8 Fury G6i to the liquid-cooled Comino Grande, which carried eight cards and 768GB of VRAM in our testing. Single-card towers rank on Le migliori postazioni di lavoro desktop, guidato dal Dell Pro Precision 9 T2.
La tassa agentica: il contesto è un bilancio di memoria secondaria
Il dimensionamento basato esclusivamente sul file dei pesi funziona per sessioni di chat brevi, ma gli agenti invalidano questa ipotesi perché eseguono un ciclo: leggono l'output degli strumenti, i file e i passaggi precedenti nella loro finestra di contesto, e ogni token mantenuto nel contesto comporta un costo in termini di memoria nella cache KV, oltre ai pesi, come mostrato nella tabella seguente.
| Classe modello | Cache KV a 32K Contesto | Cache KV a 128K Contesto | Costo approssimativo per 1,000 token |
|---|---|---|---|
| 8B (Llama 3.1 8B, FP16 KV) | 4.19 GB | 16.78 GB | ~ 0.13 GB |
| 70B (Llama 3.3 70B, FP16 KV) | 10.49 GB | 41.94 GB | ~ 0.33 GB |
Confrontando quella tabella con quella di dimensionamento riportata sopra, il problema è evidente. Un modello 70B a Q4 richiede 43 GB di pesi, ma con un contesto completo da 128K necessita di circa 85 GB in totale, ovvero il doppio dei pesi. Un modello 8B a 128K impiega più memoria per il contesto (16.78 GB) che per i propri pesi Q4 (4.9 GB). La quantizzazione della cache KV aiuta, con FP8 che dimezza questi valori e INT4 che li riduce a un quarto, a scapito della qualità, ma la regola di pianificazione rimane valida: per il lavoro con agenti, è consigliabile prevedere un budget per il contesto pari a quello di un secondo modello.
Il servizio moltiplica ulteriormente il costo, perché se un sistema ospita più agenti o utenti contemporaneamente, ogni richiesta ha la propria cache KV. vLLM, lo stack di servizio che utilizziamo per i benchmark nelle nostre classifiche di IA locali, prealloca il 90% della memoria GPU per impostazione predefinita proprio perché lo spazio KV è ciò che determina quante richieste simultanee sopravvivono senza interruzioni che ne compromettono la velocità di elaborazione. Una macchina che gestisce comodamente una chat potrebbe essere sottodimensionata per tre agenti.
RAM di sistema: la terza gamba dimenticata
Per l'inferenza basata esclusivamente sulla GPU, è sufficiente che la RAM di sistema non interferisca, e 32-64 GB rappresentano un minimo confortevole per le macchine che testiamo, diventando decisivo in due casi. L'offloading, in cui i layer che non rientrano nella VRAM vengono trasferiti alla CPU, funziona tramite file modello mappati in memoria, quindi la RAM di sistema dovrebbe essere almeno pari alla dimensione del file modello più il margine di sicurezza del sistema operativo.
Sui dispositivi con memoria unificata, la RAM di sistema corrisponde alla memoria della GPU, ed è proprio per questo che le configurazioni da 64 GB e 128 GB dominano le nostre classifiche locali di intelligenza artificiale. Le linee guida di Ollama indicano 8 GB di RAM per i modelli 7B, 16 GB per i 13B e 32 GB per la classe 33B; questi valori vanno considerati come minimi, non come obiettivi.
Deposito: la parte che tutti saltano
Le librerie di modelli diventano rapidamente di grandi dimensioni, dato che i dieci modelli presenti nella nostra tabella di dimensionamento occupano complessivamente circa 240 GB nelle loro quantizzazioni comuni, e una libreria di lavoro con alcune varianti, modelli di embedding per il recupero e archivi vettoriali per la memoria degli agenti può superare i 500 GB prima ancora che arrivino i dati del progetto. Oltre a ciò, i flussi di lavoro degli agenti generano un traffico dati reale: log, checkpoint e indici di recupero che risiedono insieme ai modelli.
Il tempo di caricamento è dove la classe dell'unità fa la differenza. Il calcolo è semplice: un file GPT-OSS da 65 GB a 120 byte viene letto in circa 109 secondi a velocità SATA, circa 17 secondi su un'unità NVMe Gen3 e meno di 9 secondi a velocità Gen4, solo al primo caricamento, poiché la cache di pagina del sistema operativo rende i ricaricamenti quasi istantanei. I caricamenti reali non sempre mantengono la velocità massima dell'unità, quindi prevediamo di pubblicare i nostri dati misurati sui tempi di caricamento per modello per tutte le classi di unità; consulta il registro delle modifiche. La nostra classifica di archiviazione riguarda le unità stesse.
Consigli pratici: 2 TB NVMe rappresentano il minimo indispensabile per una workstation dedicata all'IA, 4 TB se la macchina ospita agenti che accumulano dati, e Gen4 o superiore se si passa regolarmente da un modello di grandi dimensioni all'altro.
Domande frequenti sull'hardware Agentic AI
Di quanta VRAM ho bisogno per eseguire un modello a 70 bit in locale?
Circa 48-50 GB a Q4 con un contesto moderato, motivo per cui questa categoria appartiene a macchine con 96 GB di memoria unificata e GPU per workstation da 96 GB piuttosto che a qualsiasi scheda consumer. Spingendo il contesto verso 128 KB, il totale si avvicina a 85 GB. Eseguendolo a Q8, i soli pesi arrivano a 75 GB.
Posso eseguire la versione completa di DeepSeek-R1 in locale?
Non in nessuna delle classifiche di questo sito, perché il modello completo da 671 byte ha una dimensione di 404 GB (Q4) e richiede circa 450 GB di memoria RAM per funzionare in modo accettabile. La soluzione più pratica a livello locale è rappresentata dalle versioni ufficiali, e le versioni da 32 e 70 byte presenti nella nostra tabella di dimensionamento offrono gran parte delle funzionalità richieste per i computer desktop.
I modelli con un mix di esperti modificano i calcoli relativi all'hardware?
In sostanza, poiché i modelli MoE attivano una frazione dei loro parametri per token, la memoria scala con il numero totale di parametri, ma la velocità scala più vicino ai parametri attivi. GPT-OSS 120B (5.1B attivi) e Qwen3 30B-A3B (3.3B attivi) funzionano entrambi più velocemente di quanto suggeriscano le loro dimensioni sui pool di memoria che li supportano. È comunque necessaria la memoria per tutti i pesi; si ottiene semplicemente una maggiore velocità per gigabyte.
Di quanto spazio di archiviazione ha bisogno una workstation per l'intelligenza artificiale?
Prevedi un minimo di 2 TB di NVMe, 4 TB per gli host agent. Una modesta libreria di modelli da sola occupa centinaia di gigabyte, gli agent accumulano log e archivi vettoriali, e i file singoli più grandi (65 GB e oltre) rendono le unità lente un vero problema ogni volta che carichi o sostituisci un modello.
Quale hardware dovrei acquistare specificamente per gli agenti locali?
Dai priorità alla memoria rispetto alla velocità pura, perché gli agenti mantengono contesti lunghi e a volte vengono eseguiti in parallelo, quindi il budget della cache KV è importante tanto quanto quello del peso. Un sistema con memoria unificata da 96 GB a 128 GB nella nostra classifica locale di IA per desktop è la soluzione più economica, mentre le tower RTX PRO 6000 nella classifica delle workstation sono la risposta quando velocità e concorrenza sono entrambe importanti.
Recensione: sono arrivati i dati GB300
Tutto quanto sopra si riferisce all'hardware che abbiamo testato, e il sistema che avevamo previsto avrebbe cambiato le carte in tavola ora lo ha fatto. La nostra recensione della MSI XpertStation WS300 , la prima workstation DGX GB300 che abbiamo avuto tra le mani, è online: un pool di memoria coerente da 748 GB che si estende su 252 GB di HBM3e e 496 GB di LPDDR5X, 20 petaFLOPS di FP4, e nei nostri test ha gestito un checkpoint GLM-5.2 da 433 GB che non dovrebbe assolutamente essere eseguito su una workstation, con 216 GB di pesi esperti residenti nella memoria Grace.
Il motivo per cui è importante per questa guida è la memoria. Ogni raccomandazione in questa pagina si basa su un limite massimo, suddividendo i modelli tra le GPU, sfruttando la quantizzazione o accettando l'offload della CPU quando i pesi e la cache KV non rientrano. NVIDIA specifica per i sistemi desktop GB300 diverse centinaia di gigabyte di memoria coerente indirizzabile dall'acceleratore, un ordine di grandezza completamente diverso rispetto alle schede da 96 GB che costituiscono la base delle tabelle precedenti. Le classi di modelli che attualmente richiedono un sistema multi-GPU, o che consideriamo impraticabili da eseguire localmente, rientrano nell'ambito di un singolo sistema.
Nessun valore nelle tabelle sopra riportate si basa ancora su GB300; il prossimo passo sarà la fase di dimensionamento rispetto ai risultati di WS300 e la modifica verrà annotata nel registro sottostante.
Come manteniamo aggiornata questa guida
Le dimensioni dei modelli e l'elenco dei modelli più popolari cambiano trimestralmente, più velocemente di qualsiasi ciclo hardware. Verifichiamo nuovamente la tabella delle dimensioni confrontandola con le versioni ufficiali ogni trimestre e aggiungiamo i dati di laboratorio man mano che i nuovi sistemi superano i nostri test di intelligenza artificiale locali. Le modifiche vengono riportate nella nota datata in cima alla pagina. I valori di dimensionamento contrassegnati come stime utilizzano il file dei pesi pubblicato più i costi della cache KV misurati e l'overhead di runtime standard; i valori dichiarati dal fornitore sono identificati come tali.




Amazon