Quando abbiamo avuto per la prima volta tra le mani l'NVIDIA DGX Spark lo scorso ottobre, è stato subito chiaro che NVIDIA puntava seriamente a miniaturizzare l'intelligenza artificiale di livello data center, rendendola compatibile con le postazioni di lavoro di una scrivania. Il nostro primo esemplare della Founders Edition ci ha offerto un'anteprima di ciò che la piattaforma GB10 basata su Grace Blackwell era in grado di fare in un dispositivo compatto e autonomo.
Da allora, l'ecosistema è maturato con design OEM. Recentemente abbiamo ricevuto in laboratorio due Dell Pro Max con GB10 per una recensione. Li abbiamo posizionati accanto agli altri nostri sistemi Spark per valutare la coerenza delle prestazioni, la gestione termica e le differenze di progettazione complessive tra le implementazioni dei vari fornitori.
Mentre la Spark originale si concentrava sull'hardware di riferimento, Dell apporta il proprio tocco personale alla piattaforma. Il Pro Max con GB10 presenta il design dello chassis Dell L6, con un look industriale più raffinato e un'estetica adatta al desktop, conferendogli un'identità distinta pur mantenendo la stessa base GB10. Sembra meno un kit di sviluppo e più un prodotto finito pensato per un ambiente di lavoro professionale.
Al momento della stesura di questo articolo, la configurazione da 1 TB è disponibile sul sito di Dell al prezzo di 4,061.34 dollari , posizionandosi come un dispositivo desktop di fascia alta dedicato all'intelligenza artificiale. In questa recensione, analizzeremo come la piattaforma GB10 di Dell si confronta con gli altri sistemi Spark che abbiamo testato, concentrandoci sulle prestazioni reali e sul comportamento termico sotto carichi di lavoro prolungati.
Specifiche del Dell Pro Max con GB10
La tabella seguente illustra le configurazioni di archiviazione e le opzioni di configurazione disponibili per il Dell Pro Max con GB10.
| Specificazione | Dell Pro Max con GB10 |
|---|---|
| Dimensioni e peso | |
| Altezza | 2 in |
| Larghezza | 5.9 in |
| Profondità | 5.9 in |
| Peso | 2.69 lb |
| Processore | |
| Tipo di processore | NVIDIA GB10 (Grace Blackwell Superchip) (20 core) |
| Grafica integrata | GPU NVIDIA Blackwell (integrata) |
| Memorie | |
| Tipo di memoria | LPDDR5x (Memoria di sistema unificata) |
| Configurazione della memoria | 128 GB LPDDR5x, memoria di sistema unificata |
| Banda di memoria | 273 GB/s (8533 MT/s) |
| Sistema operativo | |
| Sistemi operativi supportati | Sistema operativo NVIDIA DGX |
| Porte e slot esterni | |
| Porte di rete | Una porta RJ45 (10GbE) Scheda di rete NVIDIA ConnectX-7 (200G × 2 QSFP) |
| Porte USB | Tre porte USB 3.2 Gen 2×2 Type-C (20 Gbps) Una porta USB 3.2 Gen 2×2 Type-C con PD in |
| Porta(e) video | Una porta HDMI 2.1a |
| Porta adattatore di alimentazione | USB Type-C (ingresso PD) |
| Slot di sicurezza | Nona |
| Wireless | |
| WiFi | WiFi 7 (AW-EM637, 2×2) |
| Bluetooth | Bluetooth 5.4 |
| Archiviazione | |
| Opzioni di storage | M.2 Gen4 NVMe: 1 TB / 2 TB / 4 TB (la versione Opal 2.0 varia) |
| Adattatore di alimentazione | |
| Tipo | Adattatore esterno da 280 W (USB Type-C) |
Dell Pro Max con configurazione e design GB10
Nel complesso, Dell ha adottato un approccio di design diverso rispetto ai desktop della serie Pro, aggiungendo una cornice frontale a nido d'ape che gli conferisce un'estetica da server enterprise, nonostante il case mini da 1 litro. La qualità costruttiva generale è impressionante. Il case in metallo grigio canna di fucile trasmette una sensazione di solidità e robustezza al tatto, rendendolo al contempo portatile e resistente, sia su una scrivania affollata che in un laboratorio. Dell ha inoltre incluso un indicatore LED di alimentazione nel modello GB10, una caratteristica che abbiamo visto solo su questo modello e su un'altra versione presente sul mercato.
Il GB10 misura 4,57 cm di altezza sia nella parte anteriore che in quella posteriore, con un'altezza massima di 5,12 cm. Le dimensioni compatte, con una base quadrata di 15 cm x 15 cm, occupano uno spazio minimo e pesano tra 1,22 e 1,34 kg, a seconda della configurazione.
Sul retro del dispositivo, troverete una porta Ethernet RJ45 10GbE, due porte QSFP 200 Gbps (Realtek RTL8127-CG; NVIDIA ConnectX-7), tre porte USB 3.2 Gen 2×2 (20 Gbps) Type-C con DisplayPort 1.4a alt-mode e alimentazione, una porta HDMI 2.1a e Dell si differenzia dalla Founders Edition e da altri design OEM includendo un alimentatore USB Type-C più grande da 280 W, comunemente utilizzato nella sua gamma di workstation portatili, che fornisce un'ampia riserva di potenza per carichi di lavoro prolungati.
All'interno, il GB10 integra il modulo wireless AzureWave AW-EM637, che offre connettività Wi-Fi per scenari di implementazione flessibili. Lo storage è gestito da un singolo slot M.2 2230/2242 che supporta SSD PCIe Gen 4 per tempi di avvio rapidi e accesso veloce ai dati. La memoria è un punto di forza, con 128 GB di RAM LPDDR5X a 8533 MT/s, che fornisce l'elevata larghezza di banda necessaria per i carichi di lavoro di intelligenza artificiale più impegnativi.
Il cuore del sistema è il chip NVIDIA GB10, progettato specificamente per l'inferenza AI e l'edge computing. Il sistema viene fornito con NVIDIA DGX OS preinstallato, la distribuzione Linux ottimizzata di NVIDIA che include driver preconfigurati, librerie CUDA e framework AI popolari come TensorFlow e PyTorch. Ciò consente agli utenti di implementare immediatamente applicazioni di intelligenza artificiale senza complesse configurazioni di sistema.
Test termici del Dell Pro Max con GB10
Per testare la gestione termica dei componenti del Dell Pro Max con GB10, li abbiamo confrontati con quelli della Founders Edition e di produttori OEM come ASUS, Acer e Gigabyte. Abbiamo approfondito ulteriormente l'argomento nel nostro documento Spark Thermal Testing.
Abbiamo monitorato i componenti dell'intera architettura per un determinato periodo di tempo, suddividendo il carico di lavoro in tre fasi e aumentando gradualmente l'utilizzo nell'arco di circa un'ora. Questo ci ha permesso di osservare il dispositivo in condizioni di utilizzo prolungato e in diverse fasi di carico. Abbiamo monitorato le temperature di CPU, GPU, rete, NVMe e il consumo energetico totale.
Temperatura della CPU
Durante i test termici della CPU, il Dell Pro Max con GB10 si è posizionato tra i migliori del gruppo durante le fasi di picco intenso. Nella fase Prefill Heavy, Dell ha registrato una temperatura di picco di circa 87.7 °C intorno al 1500° secondo, risultando tra i sistemi più caldi durante questa transizione di carico di lavoro.
Nella fase Equal ISL/OSL, Dell ha seguito da vicino i sistemi di fascia medio-alta, raggiungendo costantemente temperature comprese tra 62 e 75 °C, al pari di ASUS e della Founders Edition. Gigabyte ha operato a temperature notevolmente inferiori durante questa fase, mentre Acer ha mantenuto le temperature complessive della CPU più basse.
In modalità Prefill Heavy, la curva di temperatura di Dell è salita più rapidamente rispetto alla maggior parte degli altri sistemi, raggiungendo un picco di circa 88 °C prima di passare alla modalità Decode Heavy. Una volta in condizioni di carico di lavoro Decode prolungato, il sistema si è stabilizzato a 80-83 °C. Sebbene questo posizionasse Dell nella fascia di temperature più elevate del gruppo, ha dimostrato un controllo termico costante sotto carico prolungato, anziché un continuo aumento della temperatura.
Durante i test, Acer si è confermata l'azienda con le temperature complessive più basse, mantenendosi intorno ai 60°C durante le fasi di utilizzo prolungato. Anche Gigabyte ha registrato temperature più moderate rispetto a Dell.
Nel complesso, il Dell Pro Max con GB10 ha registrato una delle temperature massime della CPU più elevate del gruppo durante i picchi di carico, ma si è stabilizzato su valori termici competitivi a carico costante una volta che il carico di lavoro si è normalizzato.
Temperatura GPU
Le temperature della GPU hanno seguito un andamento simile. Durante il test Prefill Heavy, Dell ha raggiunto una temperatura di picco di circa 80 °C, posizionandosi nella fascia più alta della categoria durante i picchi di utilizzo.
Nella configurazione Equal ISL/OSL, Dell ha raggiunto rapidamente temperature intorno ai 60°C, seguendo da vicino ASUS e la Founders Edition. Gigabyte e Acer hanno invece operato a temperature inferiori durante questa fase.
Una volta passata alla modalità Decode Heavy, la temperatura di Dell si è stabilizzata tra 68 e 71 °C. Pur rimanendo più alta rispetto ad Acer e Gigabyte, la differenza si è ridotta rispetto alla fase di picco. Le versioni Founders Edition e ASUS hanno mostrato un andamento termico simile a quello di Dell durante la decodifica prolungata.
Nel complesso, il sistema Dell ha mostrato temperature della GPU più elevate nei picchi di utilizzo, ma ha dimostrato un comportamento stabile e prevedibile sotto carichi di lavoro prolungati.
Temperatura NVMe
Le temperature di archiviazione sono state l'aspetto in cui la configurazione Dell si è discostata maggiormente dalle altre. Durante il test Prefill Heavy, l'unità NVMe ha raggiunto un picco di circa 63-64 °C, posizionandosi nella fascia più alta del gruppo di confronto.
Nel test Equal ISL/OSL, Dell ha iniziato con temperature comprese tra i 40 e i 45 °C, per poi salire costantemente, mantenendosi leggermente al di sopra della maggior parte dei concorrenti durante tutta la fase. Durante i carichi di lavoro Decode prolungati, l'unità si è stabilizzata tra i 59 e i 61 °C.
Sebbene queste temperature rimangano entro le specifiche operative standard NVMe, indicano un flusso d'aria o un posizionamento dei dispositivi di archiviazione relativamente più restrittivo rispetto ad Acer e Gigabyte, che hanno entrambe mantenuto temperature NVMe costanti inferiori durante le stesse fasi.
Temperatura NIC
Le temperature della scheda di rete hanno mostrato un andamento simile, ma meno pronunciato. La scheda Dell ha raggiunto un picco di circa 70 °C durante la fase di precaricamento intensivo e si è stabilizzata intorno ai 60 °C durante la fase di decodifica intensiva.
Durante i test, Dell si è posizionata nella metà superiore del gruppo per quanto riguarda le temperature, senza tuttavia mostrare deviazioni estreme rispetto ad ASUS o alla Founders Edition. Acer ha mantenuto ancora una volta le temperature complessive più basse.
Consumo energetico della GPU
Il comportamento energetico della GPU si è allineato maggiormente alla media del gruppo. Dell ha raggiunto un picco di circa 70 W durante la fase Prefill Heavy, intorno ai 1,400-1,600 secondi. Questo valore si è avvicinato brevemente al limite massimo di 74 W della Founders Edition, ma è rimasto complessivamente leggermente inferiore.
Durante Equal ISL/OSL, il consumo di Dell è passato da circa 27 W a circa 40 W, in linea con quello degli altri sistemi. In Prefill Heavy, ha toccato brevemente i 70 W prima di stabilizzarsi. In Decode Heavy, Dell si è stabilizzato tra 40 e 45 W, leggermente al di sopra di Acer e ASUS, ma al di sotto della Founders Edition, che ha mantenuto il consumo energetico della GPU più elevato per il resto del benchmark.
Dal punto di vista energetico, Dell non sembra aver sovraccaricato eccessivamente la GPU. Piuttosto, le temperature più elevate rispetto ad alcuni concorrenti derivano probabilmente più dal flusso d'aria del case e dalle scelte di layout interno che da un'eccessiva allocazione di potenza.
Riepilogo termico
Monitorando CPU, GPU, NVMe e NIC, il Dell Pro Max con GB10 ha generalmente registrato temperature elevate, tendenzialmente nella fascia più alta del gruppo, durante i carichi di lavoro Prefill intensivi. Tuttavia, in condizioni di Decode prolungate, le temperature si sono stabilizzate entro intervalli competitivi, senza aumenti eccessivi.
Acer ha mantenuto costantemente il profilo termico complessivo più basso, con Gigabyte che ha registrato temperature inferiori rispetto a Dell. Le Founders Edition e ASUS hanno generalmente seguito un andamento termico più simile a quello di Dell.
In definitiva, i dati suggeriscono che l'implementazione di Dell privilegia un design compatto e un packaging in stile workstation, con un comportamento termico che rimane stabile sotto carico ma che presenta un margine di sicurezza più ristretto durante le transizioni di carico di lavoro aggressive rispetto allo chassis con le prestazioni termiche migliori del gruppo.
Test delle prestazioni del Dell Pro Max GB10
Per valutare il Dell Pro Max con GB10, abbiamo testato le unità Spark utilizzando il benchmark vLLM Online Serving, il motore di inferenza e di gestione di grandi modelli linguistici più diffuso. Il benchmark vLLM Online Serving simula carichi di lavoro di produzione reali inviando richieste simultanee a un server vLLM in esecuzione e misurando metriche chiave, tra cui il throughput totale dei token (token al secondo), il tempo al primo token e il tempo per token di output, in diverse condizioni di carico.
I nostri test hanno coperto una vasta gamma di modelli, incluse architetture dense e tipi di dati a scalabilità ridotta, e hanno valutato le prestazioni in tre scenari di carico di lavoro: ISL/OSL bilanciato, precaricamento intensivo e decodifica intensiva. Questi scenari rappresentano modelli di servizio reali distinti, da carichi di input e output bilanciati all'elaborazione intensiva dei prompt e alla generazione di token limitata dalla larghezza di banda della memoria.
Oltre al Dell Pro Max con GB10, abbiamo utilizzato come punto di riferimento la scheda grafica NVIDIA Founders Edition Spark, insieme a sistemi OEM di ASUS, Acer e Gigabyte. Questo ci ha permesso di contestualizzare i risultati di Dell nel panorama competitivo più ampio e di capire dove si posiziona, si allinea o è in svantaggio rispetto alla concorrenza, considerando diversi modelli e tipologie di carico di lavoro.
GPT-OSS-120B
In Equal ISL/OSL, Dell scala da 68.57 a 670.83 tok/s, posizionandosi a metà classifica per l'intero intervallo di batch. Prefill Heavy parte da 298.60 tok/s e scala fino a 2,707.15 tok/s con batch size 64, collocando Dell al vertice per batch size più grandi nonostante un punto di partenza più modesto. Decode Heavy varia da 37.74 a 273.54 tok/s, con una scalabilità che rimane limitata rispetto agli altri tipi di carico di lavoro.
GPT-OSS-20B
Le prestazioni di ISL/OSL sono scalabili da 90.76 a 1,585.28 tok/s con una crescita costante in funzione delle dimensioni del batch. Prefill Heavy raggiunge 4,453.55 tok/s con una dimensione del batch di 64, rappresentando la velocità effettiva assoluta più elevata di Dell tra i modelli testati. Decode Heavy varia da 49.88 a 687.17 tok/s, scalando in modo coerente in tutto lo spettro dei batch.
Codificatore Qwen3 30B A3B FB8
Le prestazioni di ISL/OSL variano da 103.76 a 1,258.08 tok/s, con i fornitori raggruppati in modo simile per dimensioni di batch. Prefill Heavy raggiunge i 2,018.58 tok/s con una dimensione di batch pari a 64, con una separazione minima tra i sistemi per dimensioni di batch più elevate. Decode Heavy varia da 54.69 a 493.82 tok/s, mantenendo un raggruppamento simile tra i fornitori.
Codificatore Qwen3 30B A3B Base
ISL/OSL uguali variano da 62.74 a 748.04 tok/s a seconda della dimensione del batch. Prefill Heavy scala da 266.80 a 1,693.68 tok/s, rimanendo vicino al limite superiore per batch di dimensioni medie e grandi. Decode Heavy varia da 34.11 a 365.68 tok/s a seconda del carico di lavoro.
Llama 3.1 8B Istruzione FP4
Le prestazioni di ISL/OSL sono scalabili da 76.03 a 2,776.30 tok/s a seconda della dimensione del batch. Prefill Heavy posiziona Dell nella fascia intermedia per batch di dimensioni maggiori, con un throughput che aumenta di pari passo con il resto dello stack. Decode Heavy varia da 40.87 a 575.50 tok/s, scalando progressivamente con la dimensione del batch.
Llama 3.1 8B Istruzione FP8
Le velocità di ISL/OSL uguali variano da 24.50 a 1,079.44 tok/s, con i fornitori strettamente allineati lungo l'intero intervallo di lotti. Prefill Heavy raggiunge 245.35 tok/s con una dimensione del lotto di 64, con una maggiore separazione tra i fornitori all'aumentare delle dimensioni del lotto. Decode Heavy varia da 23.60 a 464.12 tok/s, con una scalabilità coerente in tutto il gruppo.
Archiviazione diretta GPU
Uno dei test che abbiamo condotto sullo Spark è stato il test MagnumIO GPU Direct Storage (GDS). GDS è una funzionalità sviluppata da NVIDIA che consente alle GPU di bypassare la CPU quando accedono ai dati archiviati su unità NVMe o altri dispositivi di archiviazione ad alta velocità. Invece di instradare i dati attraverso la CPU e la memoria di sistema, GDS consente la comunicazione diretta tra la GPU e il dispositivo di archiviazione, riducendo significativamente la latenza e migliorando la velocità di trasmissione dei dati.
Dell utilizza l'SSD Phison ESL04TBTLCZ da 4 TB di quarta generazione (Gen4) all'interno del Pro Max GB10. Sebbene questa capacità sia paragonabile a quella di altri modelli da 4 TB, si tratta di un'unità Gen4, con velocità di lettura e scrittura inferiori.
Come funziona l'archiviazione diretta GPU
Tradizionalmente, quando una GPU elabora i dati memorizzati su un'unità NVMe, questi devono prima attraversare la CPU e la memoria di sistema prima di raggiungere la GPU. Questo processo introduce dei colli di bottiglia perché la CPU funge da intermediario, aggiungendo latenza e consumando preziose risorse di sistema. La tecnologia GPU Direct Storage elimina questa inefficienza consentendo alla GPU di accedere ai dati direttamente dal dispositivo di archiviazione tramite il bus PCIe. Questo percorso diretto riduce l'overhead di trasferimento dati, consentendo trasferimenti più rapidi ed efficienti.
I carichi di lavoro AI, in particolare quelli che coinvolgono il deep learning, sono altamente intensivi in termini di dati. L'addestramento di grandi reti neurali richiede l'elaborazione di terabyte di dati e qualsiasi ritardo nel trasferimento dei dati può portare a GPU sottoutilizzate e tempi di addestramento più lunghi. GPU Direct Storage affronta questa sfida assicurando che i dati vengano consegnati alla GPU il più rapidamente possibile, riducendo al minimo i tempi di inattività e massimizzando l'efficienza computazionale.
Inoltre, GDS è particolarmente utile per carichi di lavoro che comportano lo streaming di grandi set di dati, come l'elaborazione video, l'elaborazione del linguaggio naturale o l'inferenza in tempo reale. Riducendo la dipendenza dalla CPU, GDS accelera lo spostamento dei dati e libera risorse della CPU per altre attività, migliorando ulteriormente le prestazioni complessive del sistema.
Velocità di lettura GDSIO 16k
Analizzando il throughput di lettura GDSIO a 16K, il Dell parte da circa 0.50 GiB/s con 1 thread e sale a 1.34 GiB/s con 8 thread, superando nettamente l'ASUS che si attesta intorno a 0.95 GiB/s. Questo vantaggio si conferma con 16 thread, dove il Dell offre 2.26 GiB/s rispetto agli 1.58 GiB/s circa dell'ASUS, e ancora con 32 thread, dove il Dell raggiunge i 3.32 GiB/s contro i 2.55 GiB/s dell'ASUS.
Anche con 64 thread, Dell mantiene il vantaggio con 4.35 GiB/s, davanti ad ASUS che si ferma a circa 3.68 GiB/s. Solo con 128 thread Dell si stabilizza intorno ai 4.30 GiB/s, mentre le altre piattaforme raggiungono velocità superiori. Nell'intero intervallo di frequenze, Dell è costantemente in testa e supera il sistema ASUS con un margine netto.
Latenza media di lettura GDSIO 16K
Analizzando la latenza media di lettura GDSIO (16K), Dell offre la latenza più bassa su gran parte della curva di scalabilità. Si parte da circa 0.03 ms con 1 thread, un valore molto simile a quello di ASUS, ma si distacca rapidamente con 2 thread (0.09 ms contro 0.13 ms) e 4 thread (0.112 ms contro 0.118 ms). Dell mantiene il suo vantaggio con 8 thread (0.092 ms contro 0.13 ms), 16 thread (0.108 ms contro 0.155 ms) e 32 thread (0.148 ms contro 0.193 ms).
Con 64 thread, Dell rimane competitivo con una latenza di circa 0.222 ms, leggermente inferiore a quella di ASUS (0.267 ms). Solo con 128 thread la latenza aumenta bruscamente fino a circa 0.45 ms, avvicinandosi molto a quella di ASUS allo stesso livello. Nel complesso, Dell dimostra una latenza costantemente inferiore a livelli di concorrenza bassi e medi, prima di convergere al numero massimo di thread.
Velocità di scrittura GSDIO 16K
Analizzando il throughput di scrittura GDSIO (16K), Dell parte forte con circa 0.35 GiB/s a 1 thread e si distacca rapidamente a livelli di concorrenza inferiori, raggiungendo circa 0.75 GiB/s a 2 thread e 1.55 GiB/s a 4 thread, nettamente davanti ad ASUS negli stessi punti (0.58 e 0.65 GiB/s). Dell continua a scalare fino a 2.33 GiB/s a 8 thread e raggiunge picchi intorno a 2.88-2.90 GiB/s a 16 e 32 thread, dove si posiziona al vertice del gruppo.
Tuttavia, oltre i 32 thread, le prestazioni di Dell si stabilizzano e diminuiscono leggermente, attestandosi intorno ai 2.90 GiB/s a 64 thread e scendendo a circa 2.75 GiB/s a 128 thread, mentre Acer, Gigabyte e la Founders Edition accelerano bruscamente superando i 5 GiB/s a 64 thread e raggiungendo circa 6.5 GiB/s a 128 thread. Nel complesso, Dell domina la fascia di thread medio-bassa, ma non riesce a raggiungere livelli di concorrenza più elevati come i sistemi con le prestazioni migliori.
Latenza media di scrittura GDSIO 16K
Analizzando la latenza media di scrittura GDSIO (16K), Dell offre la latenza più bassa su quasi tutta la curva di scalabilità. Si parte da circa 0.045 ms con 1 thread e si mantiene molto bassa a 0.05 ms con 2 thread e 0.04 ms con 4 thread, significativamente inferiore ad ASUS, che misura rispettivamente circa 0.06 ms e 0.10 ms. Con 8 thread, Dell si attesta intorno a 0.055 ms, rispetto a circa 0.20 ms di ASUS. Il divario si amplia ulteriormente a 16 thread, dove Dell registra circa 0.085 ms contro circa 0.35 ms di ASUS, e a 32 thread, Dell si mantiene stabile a circa 0.17 ms mentre ASUS sale a quasi 0.68 ms.
Anche con 64 thread, Dell si mantiene intorno a 0.34 ms, mentre ASUS raggiunge picchi di circa 1.51 ms. Solo con 128 thread Dell registra un aumento più marcato, arrivando a circa 0.71 ms, ma rimane comunque nettamente inferiore a ASUS, che supera i 3.10 ms. Nel complesso, Dell dimostra un controllo della latenza di scrittura significativamente migliore rispetto ad ASUS all'aumentare della concorrenza.
Velocità di lettura GDSIO 1M
Analizzando il throughput di lettura GDSIO (1M), Dell parte da circa 2.6 GiB/s su 1 thread, sale a 4.3 GiB/s su 2 thread e raggiunge circa 5.6 GiB/s su 4 thread. Da lì, le prestazioni si stabilizzano sostanzialmente, mantenendosi intorno a 5.6 GiB/s con 8 thread, 5.4 GiB/s con 16 thread, 5.4 GiB/s con 32 thread e 5.5 GiB/s con 64 thread, per poi terminare vicino a 5.5 GiB/s con 128 thread.
Sebbene Dell offra una scalabilità iniziale elevata e prestazioni stabili, Acer e Gigabyte continuano a superare gli 11 GiB/s con un numero maggiore di thread, e la Founders Edition si avvicina ai 10 GiB/s, posizionando Dell saldamente nella fascia media per la velocità di lettura di blocchi di grandi dimensioni.
Latenza media di lettura GDSIO 1M
Analizzando la latenza media di lettura GDSIO (1M), Dell parte da circa 0.35 ms con 1 thread, aumenta a circa 0.45 ms con 2 thread e raggiunge approssimativamente 0.70 ms con 4 thread. La latenza continua ad aumentare in modo controllato con 8 thread (1.50 ms) e 16 thread (3.00 ms), per poi scendere a circa 5.90 ms con 32 thread e 12.40 ms con 64 thread, prima di stabilizzarsi intorno ai 25.40 ms con 128 thread.
Sebbene Dell scali in modo più efficiente rispetto ad ASUS, che raggiunge quasi 29.60 ms con 128 thread, rimane superiore ad Acer e Gigabyte al picco di concorrenza, entrambe le quali si mantengono più vicine agli 11 ms con 128 thread. Nel complesso, Dell mantiene un comportamento di latenza intermedio per le letture di blocchi di grandi dimensioni, superando ASUS ma rimanendo indietro rispetto alle piattaforme con la latenza più bassa al maggior numero di thread.
Velocità di scrittura GDSIO 1M
Analizzando il throughput di scrittura GDSIO (1M), Dell parte da circa 2.6 GiB/s con 1 thread, aumenta a circa 3.2 GiB/s con 2 thread e raggiunge circa 3.3 GiB/s con 4 thread. Da lì, le prestazioni si stabilizzano, mantenendosi intorno a 3.2-3.3 GiB/s da 8 a 64 thread, prima di scendere leggermente a circa 3.1 GiB/s a 128 thread.
Sebbene Dell offra prestazioni di scrittura di blocchi di grandi dimensioni costanti e affidabili, non scala con un numero maggiore di thread concorrenti come Acer e Gigabyte, che superano i 12 GiB/s tra 8 e 64 thread, o persino la Founders Edition, che si mantiene intorno agli 8.7 GiB/s nella fascia media. Nel complesso, Dell rimane stabile, ma è chiaramente indietro rispetto ai sistemi più performanti in termini di throughput di scrittura a 1 MB con elevata concorrenza.
Latenza media di scrittura GDSIO 1M
Analizzando la latenza media di scrittura GDSIO (1M), Dell parte da circa 0.6 ms con 1 thread, aumentando gradualmente fino a circa 0.8 ms con 2 thread e 1.2 ms con 4 thread. La latenza continua a salire fino a circa 2.5 ms con 8 thread, 5.0 ms con 16 thread e 9.5 ms con 32 thread, prima di raggiungere circa 19.0 ms con 64 thread e terminare vicino a 40.0 ms con 128 thread.
Sebbene Dell offra una scalabilità più fluida rispetto ad ASUS, che registra picchi drammatici oltre i 100 ms a 64 thread, rimane comunque indietro rispetto ad Acer e Gigabyte in caso di maggiore concorrenza, entrambe le quali si mantengono più vicine ai 14 ms a 128 thread. Nel complesso, Dell mantiene una latenza di scrittura di blocchi di grandi dimensioni controllata, ma di fascia media, all'aumentare del numero di thread.
Conclusione
Il Dell Pro Max con GB10 integra la piattaforma Spark GB10 standardizzata di NVIDIA nello chassis Dell Pro Max, mantenendo la stessa architettura di calcolo di base presente in tutto l'ecosistema. Nei test vLLM, le prestazioni di inferenza AI sostenute sono rimaste in linea con quelle degli altri sistemi Spark, con una solida scalabilità del pre-caricamento e un comportamento prevedibile nei carichi di lavoro di equalizzazione e decodifica.
Dal punto di vista termico, Dell ha registrato temperature più elevate rispetto alla media del gruppo durante le transizioni Prefill ad alto carico, con temperature NVMe superiori rispetto ad alcuni concorrenti. Tuttavia, sotto carichi di lavoro Decode prolungati, le temperature si sono stabilizzate entro i limiti della concorrenza, senza mostrare segni di instabilità o throttling. Il consumo energetico della GPU è rimasto entro i limiti previsti per la piattaforma.
Nei test GPU Direct Storage, Dell ha ottenuto buoni risultati nello scaling della velocità di lettura a 16K e ha dimostrato un forte controllo della latenza di scrittura a livelli di concorrenza medio-bassi. Nei trasferimenti più grandi da 1 MB, la velocità di trasmissione si è stabilizzata prima rispetto ad Acer e Gigabyte con un numero maggiore di thread, un comportamento che sembra legato alla specifica configurazione SSD Gen4 piuttosto che a una limitazione dell'architettura GB10 stessa. Sfortunatamente, Dell ha preso una serie di decisioni deludenti in materia di storage con la sua implementazione GB10, non offrendo opzioni SSD Gen5. Inoltre, la loro offerta da 2 TB utilizza un SSD QLC Gen4, che probabilmente offre prestazioni inferiori rispetto ai risultati di questa recensione.
Nell'intera gamma Spark, le prestazioni di base dell'IA rimangono pressoché identiche. Le differenze risiedono nelle scelte di implementazione, non nella pura potenza di elaborazione.
Pagina del prodotto – Dell Pro Max con GB10
Classifica: Il Dell Pro Max con GB10 è tra i dispositivi testati presenti nella nostra classifica dei migliori desktop per l'intelligenza artificiale locale.
Amazon