Recensione di Solidigm 122.88 TB D5-P5336: l'archiviazione ad alta capacità incontra l'efficienza operativa

La densità è più importante che mai nei data center moderni, dove ogni centimetro di spazio rack e ogni watt di potenza consumata influiscono direttamente sull'efficienza operativa e sui costi. L'SSD D5-P5336 da 122.88 TB di Solidigm si presenta come una soluzione convincente a questa sfida, racchiudendo una capacità straordinaria in una singola unità U.2 e stabilendo un nuovo standard nella densità di archiviazione SSD.

Questa densità di storage senza precedenti non solo semplifica l'infrastruttura fisica, ma trasforma anche le possibilità di progettazione dei data center riducendo significativamente i requisiti di spazio rack e migliorando l'efficienza energetica complessiva. Poiché i data center cercano sempre più di bilanciare le crescenti esigenze dei carichi di lavoro di intelligenza artificiale, della distribuzione di contenuti e dell'archiviazione di oggetti con le pressioni della sostenibilità e dei costi, unità come Solidigm D5-P5336 rappresentano non solo un progresso tecnologico, ma un'evoluzione essenziale nella strategia di storage aziendale.

Stiamo già assistendo a questa adozione; i fornitori di server e storage stanno rapidamente certificando le unità ad alta capacità per poter rispondere alle richieste dei clienti in termini di efficienza dello storage. Dell Technologies, ad esempio, ha già aggiunto il supporto per unità da 122.88 TB nella sua linea di array di storage PowerScale e ha appena presentato il PowerEdge R7725xd , in grado di ospitare quasi 3 PB di capacità con queste unità capienti.

Per questa recensione, non raggiungeremo quei livelli di scala; per questo report abbiamo a disposizione un solo drive. Detto questo, i nostri carichi di lavoro dimostreranno dove questo drive eccelle in vari ambiti aziendali, inclusi quelli progettati per supportare le moderne applicazioni di intelligenza artificiale. Se preferite un approccio leggermente più originale all'utilizzo di SSD da 122.88 TB, all'inizio di quest'anno abbiamo esplorato il potenziale del Solidigm 122TB D5-P5336 in una particolare implementazione di intelligenza artificiale edge, utilizzando NVIDIA Jetson Orin Nano Super.

Un'ultima nota prima di iniziare. È fondamentale capire cos'è e cosa non è il P122.88 da 5336 TB. Questo lancio rappresenta un'estensione della famiglia Drive, lanciata a metà del 2023. Solidigm è stata una delle prime aziende a commercializzare lo storage QLC per casi d'uso aziendali, offrendo densità, economicità, buone prestazioni di lettura e prestazioni adeguate ai carichi di lavoro che potevano trarre vantaggio da questa combinazione unica. Da allora, il settore si è affrettato a raggiungere la leadership di Solidigm in termini di capacità. Tuttavia, con la varietà di configurazioni e formati di unità, le acque si sono fatte relativamente confuse. Sebbene l'unità Solidigm da 122.88 TB rimanga un modello Gen4 in formato U.2 (disponibile anche in formato E1.L), è progettata per offrire un'elevata capacità a un interessante rapporto TB/$.

Costruire e disegnare

L'unità Solidigm D5-P5336 da 122.88 TB mantiene la stessa architettura di base del modello da 61.44 TB recensito in precedenza , utilizzando memorie NAND QLC a 192 strati. Questa uniformità garantisce prestazioni, comportamento termico e compatibilità delle interfacce prevedibili tra le diverse capacità, aspetto fondamentale per le implementazioni scale-out. Essendo dotata di un'unità I/O da 32 KB (rispetto ai 16 KB della versione da 61 TB), la D5-P5336 da 122 TB è ottimizzata per i modelli di I/O di medie dimensioni comunemente utilizzati nello storage a oggetti e nelle pipeline di dati per l'intelligenza artificiale. Questa progettazione offre una maggiore flessibilità dei carichi di lavoro, mantenendo al contempo un'elevata efficienza.

Ciò che distingue questo modello è la sua capacità di 122.88 TB, che raddoppia lo spazio di archiviazione senza aumentare lo spazio fisico. Alloggiato in un formato standard da 2.5 pollici U.2 da 15 mm, è disponibile anche nelle configurazioni E3.S da 7.5 mm ed E1.L da 9.5 mm per supportare diverse esigenze di scalabilità. L'unità utilizza l'interfaccia PCIe Gen4 x4 NVMe, offrendo fino a 7 GB/s di throughput in lettura sequenziale e 3 GB/s di throughput in scrittura. Pur non adottando PCIe Gen5, Gen4 offre larghezza di banda sufficiente per i carichi di lavoro ad alta intensità di lettura a cui si rivolge il D5-P5336, tra cui pipeline di intelligenza artificiale, distribuzione di contenuti e storage di oggetti.

Dal punto di vista delle prestazioni, l'unità offre fino a 900,000 IOPS per letture casuali (4K, QD256) e 19,000 IOPS per scritture casuali (16K, QD256). La latenza di lettura è di 110 microsecondi (4K) e quella di scrittura di 40 microsecondi (32K). La latenza di accesso sequenziale è ancora inferiore, con letture di 8 microsecondi (4K) e scritture di 21 microsecondi (32K), a supporto di operazioni altamente reattive in distribuzioni su larga scala.

Confrontando il P122 da 5336 TB con il precedente modello da 61 TB, l'SSD a maggiore capacità offre prestazioni di scrittura inferiori. I trasferimenti sequenziali a 128K scendono a 3 GB/s da 3.3 GB/s, e le prestazioni di scrittura casuale a 16K diminuiscono in modo più significativo, da 43 IOPS a soli 19 IOPS. Nel corso della valutazione, è fondamentale notare che le capacità variano a seconda dei carichi di lavoro specifici che sollecitano le unità in termini di prestazioni di trasferimento sequenziale o casuale.

L'unità include cache DRAM SK hynix e condensatori di protezione da interruzioni di corrente. Questi componenti garantiscono un buffering affidabile e salvaguardano i dati in caso di interruzioni di corrente impreviste, un requisito fondamentale negli ambienti aziendali. L'affidabilità dell'unità include un tempo medio tra guasti (MTBF) di due milioni di ore e un tasso di errore di bit irrecuperabile inferiore a un errore di bit ogni 100 quadrilioni di bit letti.

Le organizzazioni sono preoccupate per la durata complessiva degli SSD, con particolare attenzione al numero di scritture nell'arco di molti anni di utilizzo. Il valore di resistenza per il Solidigm D5-P5336 è di 0.6 scritture al giorno (DWPD), basato su un carico di lavoro di scrittura casuale di 32K, che si traduce in 134.3 petabyte scritti (PBW) durante il periodo di garanzia. L'SSD D122-P5 da 5336TB di Solidigm stabilisce un nuovo standard di resistenza, progettato per un funzionamento continuo 24 ore su 7, 32 giorni su 5 per un periodo di cinque anni. Può gestire scritture casuali da 4KB, mantenendo il 12% della sua resistenza dopo cinque anni, oppure scritture casuali da 0.60K, con una resistenza residua del XNUMX%. Pur mantenendo un valore di scritture al giorno (DWPD) di XNUMX, la maggiore capacità NAND gli consente di supportare carichi di lavoro continui in modo più efficace.

L'unità è raffreddata passivamente e alloggiata in un robusto case in alluminio. Funziona con un profilo di potenza ridotto di 24 watt in modalità attiva e 5 watt in modalità inattiva, consentendone la facile integrazione nelle infrastrutture esistenti. Pesa circa 166.4 grammi, supporta un intervallo di temperatura di esercizio da 0 a 70 gradi Celsius, resiste alle vibrazioni fino a 2.17 GRM, resiste agli urti fino a 1,000 G ed è coperta da una garanzia di cinque anni. È progettata per ambienti che privilegiano densità, efficienza e consolidamento dei rack, offrendo un'enorme capacità in un fattore di forma aziendale familiare.

Specifiche della serie Solidigm D5-P5336 (122.88 TB)

specifiche Panoramica	Serie Solidigm D5-P5336 (122.88 TB)
Ultra-Grande	122.88TB
Fattore di forma	U.2 15mm o E1.L 9.5mm
Interfaccia	PCIe 4.0x4, NVMe
Usa caso	Server / Azienda
Lettura sequenziale	7000MB / s
Scrittura sequenziale	3000MB / s
Lettura casuale (IOPS)	900,000 (4K, QD256)
Scrittura casuale (IOPS)	19,000 (16K, QD256)
Latenza (lettura/scrittura)	Lettura: 110μs (4K) / Scrittura: 40μs (32K)
Latenza sequenziale (tip.)	Lettura: 8μs (4K) / Scrittura: 21μs (32K)
Potenza (attiva/inattiva)	Attivo: 24 W / Inattivo: 5 W
Resistenza	0.6 DWPD (32K RW) / 134.3 PBW
MTBF	2 milioni di ore
UBER	<1 settore per 10 bit letti
Temperatura di esercizio	0 ° C a 70 ° C
Vibrazione/Shock	2.17 GRMS (operativo), 1,000 G (urto)
Garanzia	5 anni
Peso	166.4 g ± 10 g

Test di Performance

Piattaforma di test di guida

In questa recensione, utilizziamo come piattaforma di test un Dell PowerEdge R760 con Ubuntu 22.04.02 LTS per tutti i carichi di lavoro. Dotato di un JBOF Serial Cables Gen5 , offre un'ampia compatibilità con SSD U.2, E1.S, E3.S e M.2. La configurazione del nostro sistema è descritta di seguito:

• 2 x Intel Xeon Gold 6430 (32 core, 2.1 GHz)
• 16 x 64GB DDR5-4400
• SSD Dell BOSS da 480 GB
• Cavi seriali Gen5 JBOF

Unità a confronto

• Solidigm P5336 122.88 TB (Gen4 | 2.5″ | U.2)
• Solidigm P5336 61.44 TB (Gen4 | 2.5″ | U.2)
• Micron 6550 ION 61.44 TB (Gen5 | E3.S)

Come affermato nell'introduzione, il mercato delle unità aziendali ad alta capacità è complesso, con diversi fattori di forma, tipi di NAND e profili di costo-prestazioni da considerare. Per questa recensione, abbiamo selezionato un piccolo gruppo di SSD da confrontare con il Solidigm P122.88 da 5336 TB, inclusi il più piccolo Solidigm P61.44 da 5336 TB e il Micron 61.44 da 6550 TB.

Il Micron 6550 è unico in quanto basato su Gen5 e TLC, ed è uno dei pochi in produzione a questo punto di capacità. L'unità Micron offrirà il vantaggio di velocità di I/O più elevate.

Nell'esaminare i risultati prestazionali, è fondamentale comprendere questa fase. In fase di implementazione, queste unità potrebbero non competere direttamente, ma si sovrappongono in termini di capacità offerte. Per fornire un riferimento di scalabilità, abbiamo incluso l'unità Micron in questa recensione.

Prestazioni della CDN

Per simulare un carico di lavoro CDN realistico a contenuto misto, gli SSD sono stati sottoposti a una sequenza di benchmark multifase progettata per replicare i modelli di I/O di server edge ad alto contenuto. La procedura di test comprende una gamma di dimensioni di blocchi, sia grandi che piccole, distribuiti tra operazioni casuali e sequenziali, con diversi livelli di concorrenza.

Prima dei test principali delle prestazioni, ogni SSD ha completato un riempimento totale del dispositivo con una scrittura sequenziale al 100% utilizzando blocchi da 1 MB. Questo processo ha utilizzato I/O sincrono e una profondità di coda di quattro, consentendo quattro processi simultanei. Questa fase garantisce che l'unità entri in una condizione di stato stazionario rappresentativa dell'utilizzo reale. Dopo il riempimento sequenziale, è stata eseguita una fase secondaria di saturazione in scrittura randomizzata di tre ore utilizzando una distribuzione bssplit ponderata (dimensione del blocco/percentuale), favorendo fortemente i trasferimenti a 128K (98.51%), con contributi minori dai blocchi inferiori a 128K fino a 8K. Questa fase emula modelli di scrittura frammentati e irregolari spesso osservati negli ambienti con cache distribuita.

La suite di test principale si è concentrata su operazioni di lettura e scrittura casuali scalate per misurare il comportamento dell'unità in presenza di profondità di coda variabili e di processi concorrenti. Ogni test è durato cinque minuti (300 secondi) ed è stato seguito da un periodo di inattività di tre minuti, consentendo ai meccanismi di ripristino interni di stabilizzare le metriche prestazionali.

• Eseguito utilizzando una distribuzione di dimensioni di blocco fisse che privilegiava 128K (98.51%), con il restante 1.49% di operazioni composto da dimensioni di trasferimento inferiori, comprese tra 64K e 8K. Ogni configurazione variava tra 1, 2 e 4 job simultanei, con profondità di coda di 1, 2, 4, 8, 16 e 32, per profilare la scalabilità del throughput e la latenza in tipiche condizioni di edge-write.
• È stato utilizzato un profilo di dimensione dei blocchi fortemente misto, che imitava il recupero dei contenuti CDN, partendo da una componente dominante di 128K (83.21%) e proseguendo con una coda lunga di oltre 30 blocchi di dimensioni inferiori, che vanno da 4K a 124K, ciascuno con rappresentazione di frequenza frazionaria. Questa distribuzione riflette i diversi modelli di richiesta riscontrati durante il recupero dei segmenti video, l'accesso alle miniature e la ricerca dei metadati. Questi test sono stati eseguiti anche sull'intera matrice dei conteggi dei job e delle profondità di coda.

Questa combinazione di test di precondizionamento, saturazione e accesso randomizzato di dimensioni miste è progettata per rivelare come gli SSD gestiscono ambienti simili a CDN sostenuti, enfatizzando la reattività e l'efficienza in scenari ad alta larghezza di banda e altamente parallelizzati.

Lettura del carico di lavoro CDN 1

In questo test di lettura single-thread che simula un traffico di lettura leggero, i modelli Solidigm P5336 da 122.88 TB e Solidigm P5336 da 61.44 TB mostrano caratteristiche di scalabilità costanti. Il modello da 122.88 TB raggiunge 7,109 MB/s a QD32, leggermente superiore ai 61.44 MB/s del modello da 7,002 TB. Questa scalabilità pressoché identica suggerisce che il modello a maggiore capacità di Solidigm mantenga la stessa efficienza in condizioni di lettura leggere, senza degrado delle prestazioni. Al contrario, il Micron 6550 da 61.44 TB scala in modo molto più aggressivo, raggiungendo un massimo di 12,288 MB/s.

Lettura del carico di lavoro CDN 2

Con due thread applicati, Solidigm P5336 da 122.88 TB e P5336 da 61.44 TB offrono prestazioni pressoché identiche, passando da 840 MB/s a QD1 a circa 7,467 MB/s e 7,469 MB/s rispettivamente a QD32. Entrambe le unità mostrano miglioramenti costanti fino a QD16, dopodiché la velocità di trasmissione si stabilizza, indicando un punto di saturazione nella loro architettura attuale. Per applicazioni con un parallelismo moderato, questo fornisce una base affidabile per una scalabilità prevedibile. Il Micron 6550, al contrario, mostra un intervallo di scalabilità complessivo più elevato, a partire da 1,384 MB/s e proseguendo fino a 13,312 MB/s a QD32, riflettendo i vantaggi della sua NAND TLC e dell'interfaccia Gen5.

Lettura del carico di lavoro CDN 4

Questo scenario di lettura ad alta richiesta sottopone le unità a un maggiore stress, con una maggiore concorrenza. Le unità Solidigm P5336 da 122.88 TB e P5336 da 61.44 TB mostrano una scalabilità costante, raggiungendo circa 7,466-7,469 MB/s a QD16 e mantenendo la stabilità fino a QD32. I risultati tra le due capacità rimangono praticamente identici, rafforzando il comportamento costante del controller Solidigm in tutta la sua gamma ad alta capacità. In confronto, il Micron 6550 ha raggiunto 13,107 MB/s a QD16 e ha mantenuto tale larghezza di banda per il resto del test.

Scrittura del carico di lavoro CDN 1

Passando alle prestazioni di scrittura in condizioni single-thread, il Solidigm P5336 da 122.88 TB parte da 1,742 MB/s e raggiunge circa 2,572 MB/s a QD32. Il Solidigm P5336 da 61.44 TB parte da 461 MB/s, ma scala in modo più aggressivo, raggiungendo un picco di 3,029 MB/s. Il Micron 6550 parte da 984 MB/s e continua a scalare in modo costante lungo l'intervallo di profondità della coda, raggiungendo 6,288 MB/s a QD32. I modelli Solidigm presentano caratteristiche di scalabilità diverse, mentre il Micron mantiene una progressione più lineare durante il test.

Scrittura del carico di lavoro CDN 2

Passando alle prestazioni di scrittura dual-thread, la larghezza di banda aumenta per tutte e tre le unità. Il Solidigm P5336 da 61.44 TB parte da 2,771 MB/s e mantiene un output relativamente stabile fino a QD32, con solo lievi fluttuazioni. Il Solidigm P5336 da 122.88 TB opera in un intervallo più ristretto, rimanendo tra 2,468 MB/s e 2,620 MB/s su tutte le profondità di coda. Il Micron 6550 mostra un ridimensionamento continuo, partendo da 2,035 MB/s e raggiungendo 6,743 MB/s fino a QD32. Le unità Solidigm mantengono un throughput costante, mentre il Micron mostra un profilo di ridimensionamento più ampio nello stesso intervallo.

Scrittura del carico di lavoro CDN 4

In condizioni di massima concorrenza, entrambi i modelli Solidigm P5336 mostrano una scalabilità stabile ma limitata. Il P5336 da 61.44 TB parte da circa 2,935 MB/s e raggiunge un picco di 3,062 MB/s, mentre il P5336 da 122.88 TB parte da 2,529 MB/s e termina leggermente più in basso a 2,562 MB/s. Ciò si traduce in una velocità di picco inferiore di circa il 16% per il modello da 122.88 TB rispetto alla versione da 61.44 TB. Il Micron 6550, d'altra parte, scala costantemente da 2,323 MB/s a 6,731 MB/s entro il QD32.

Prestazioni di ObjectStorage

Questo test sfrutta uno script FIO che approssima un carico di lavoro ObjectStorage, con il 65% delle richieste emesse a una dimensione di trasferimento di 64 KiB per rappresentare le comuni operazioni a blocchi di piccole dimensioni, il 15% a 8 MiB per carichi di lavoro di streaming di fascia media e un altro 15% a 64 MiB per mettere a dura prova la gestione di blocchi di grandi dimensioni da parte dell'unità. Il restante 5% a un payload di 1 GiB spinge la massima velocità sequenziale. Interlacciando queste quattro dimensioni di blocco nelle proporzioni specificate, simula un carico di lavoro misto che rivela sia l'agilità del controller in caso di I/O di piccole dimensioni sia le sue capacità di larghezza di banda grezza in caso di trasferimenti di grandi dimensioni.

Lettura casuale (1 thread, 40QD)

DRIVE	Larghezza di banda di lettura (MB/s)	Leggi IOPS	Latenza di lettura (ms)
Micron 6550 da 61 TB	13,444.10	3,165.10	12.5011
Solidigm P5336 61 TB	7,117.38	1,673.76	23.4513
Solidigm P5336 122 TB	7,101.97	1,674.78	23.4385

In questo test di lettura casuale single-thread ad alta profondità, Solidigm P5336 da 122.88 TB e P5336 da 61.44 TB offrono prestazioni pressoché identiche. Il modello da 122.88 TB raggiunge 7,101.97 MB/s e 1,674.78 IOPS con una latenza di 23.44 ms, mentre la variante da 61.44 TB misura 7,117.38 MB/s e 1,673.76 IOPS a 23.45 ms. La differenza di larghezza di banda tra le due capacità di Solidigm è inferiore allo 0.25%, evidenziando prestazioni costanti su tutta la linea P5336 per carichi di lavoro di lettura casuale.

Il Micron 6550 offre prestazioni significativamente più elevate, raggiungendo 13,444.10 MB/s e 3,165.10 IOPS con una latenza inferiore di 12.50 ms. Il suo vantaggio in questo scenario è influenzato dall'utilizzo di NAND TLC e di un'interfaccia PCIe Gen5, che contribuiscono a una maggiore velocità di lettura casuale e a una maggiore reattività rispetto alle unità Solidigm Gen4 basate su QLC.

Lettura sequenziale (1 thread, 40QD)

DRIVE	Larghezza di banda di lettura (MB/s)	Leggi IOPS	Latenza di lettura (ms)
Micron 6550 da 61 TB	13,955.46	223.32	174.723
Solidigm P5336 61 TB	7,098.64	114.12	341.727
Solidigm P5336 122 TB	7,103.98	114.60	340.322

Passando alle prestazioni di lettura sequenziale, Solidigm P5336 da 122.88 TB e P5336 da 61.44 TB mostrano risultati pressoché identici. Il modello da 122.88 TB raggiunge 7,103.98 MB/s con 114.60 IOPS e una latenza di 340.32 ms, mentre la versione da 61.44 TB arriva a 7,098.64 MB/s, 114.12 IOPS e 341.73 ms. La differenza di prestazioni tra i due è inferiore allo 0.1%, riflettendo un comportamento coerente su entrambe le capacità in carichi di lavoro di lettura sequenziale sostenuti. Il Micron 6550 ottiene risultati significativamente più elevati, con 13,955.46 MB/s e 223.32 IOPS con 174.72 ms di latenza, offrendo un throughput di circa il 96% superiore rispetto a entrambi i modelli Solidigm in questo test.

Lettura casuale (4 thread, 10QD)

DRIVE	Larghezza di banda di lettura (MB/s)	Leggi IOPS	Latenza di lettura (ms)
Micron 6550 da 61 TB	13,301.67	3,142.01	12.5619
Solidigm P5336 61 TB	7,131.65	1,686.98	22.9787
Solidigm P5336 122 TB	7,131.95	1,690.84	22.9315

Passando alla lettura a quattro thread e una profondità di coda di 10, il Solidigm P5336 da 122.88 TB registra 7,131.95 MB/s, 1,690.84 IOPS e 22.93 ms di latenza. Il Solidigm P5336 da 61.44 TB si posiziona subito dietro, con 7,131.65 MB/s e 1,686.98 IOPS, con una latenza di 22.98 ms. La differenza di larghezza di banda tra i due modelli è inferiore allo 0.005%. Il Micron 6550 raggiunge 13,301.67 MB/s e 3,142.01 IOPS con una latenza di 12.56 ms, offrendo circa l'86% di throughput in più rispetto a entrambe le unità Solidigm.

Lettura sequenziale (4 thread, 10QD)

DRIVE	Larghezza di banda di lettura (MB/s)	Leggi IOPS	Latenza di lettura (ms)
Micron 6550 da 61 TB	13,524.00	218.06	171.040
Solidigm P5336 61 TB	7,130.97	115.03	315.565
Solidigm P5336 122 TB	7,130.99	114.72	316.304

In questo test di lettura sequenziale a quattro thread con profondità di coda 10, il Solidigm P5336 da 122.88 TB raggiunge 7,130.99 MB/s con 114.72 IOPS e 316.30 ms di latenza. La latenza del Solidigm P5336 da 61.44 TB è molto simile: 7,130.97 MB/s, 115.03 IOPS e 315.57 ms. I due modelli mostrano prestazioni sequenziali pressoché identiche per tutte le capacità, con una differenza inferiore allo 0.01%. Il Micron 6550 raggiunge 13,524.00 MB/s e 218.06 IOPS con una latenza di 171.04 ms, offrendo un throughput di circa l'89% superiore rispetto a entrambe le unità Solidigm nelle stesse condizioni.

Benchmark di checkpointing DLIO

Per valutare le prestazioni reali degli SSD in ambienti di training AI, abbiamo utilizzato lo strumento di benchmark Data and Learning Input/Output (DLIO). Sviluppato dall'Argonne National Laboratory, DLIO è specificamente progettato per testare i pattern di I/O nei carichi di lavoro di deep learning. Fornisce informazioni su come i sistemi di storage gestiscono sfide come il checkpointing, l'ingestione dei dati e il training dei modelli. Il grafico seguente illustra come entrambe le unità gestiscano il processo su 99 checkpoint (198 per il modello da 122 TB). Durante il training di modelli di machine learning, i checkpoint sono essenziali per salvare periodicamente lo stato del modello, evitando la perdita di progressi durante interruzioni o interruzioni di corrente. Questa esigenza di storage richiede prestazioni elevate, soprattutto in caso di carichi di lavoro sostenuti o intensivi. Abbiamo utilizzato il benchmark DLIO versione 2.0, rilasciato il 13 agosto 2024.

Per garantire che il benchmarking riflettesse scenari reali, abbiamo basato i test sull'architettura del modello LLAMA 3.1 405B. Abbiamo implementato il checkpointing utilizzando torch.save() per acquisire parametri del modello, stati dell'ottimizzatore e stati dei layer. La nostra configurazione simulava un sistema a otto GPU, implementando una strategia di parallelismo ibrido con elaborazione parallela a tensore a 4 vie e elaborazione parallela a pipeline a 2 vie distribuita sulle otto GPU. Questa configurazione ha portato a dimensioni dei checkpoint di 1,636 GB, rappresentative dei moderni requisiti di addestramento di modelli linguistici di grandi dimensioni.

Confrontando le prestazioni di checkpoint del Solidigm P61 da 122 TB e 5336 TB, l'SSD da 122 TB registra tempi di checkpoint più lunghi una volta riempito il disco. Nel primo passaggio, il divario tra i due SSD è circa il 20% più veloce per la versione da 122 TB rispetto a quella da 61 TB, mentre nel secondo e terzo passaggio risulta rispettivamente del 16.4% e del 18.4%. Il Micron 61 da 6550 TB presenta un tempo di checkpoint medio di 585 secondi nel terzo passaggio, rispetto ai 640 secondi del P61 da 5336 TB e ai 757 secondi del P122 da 5336 TB.

Il Solidigm P122 da 5336 TB offre un vantaggio unico fin dall'inizio in termini di checkpoint: può contenerne molti. Mentre gli SSD da 61 TB raggiungono un massimo di 33 checkpoint per passaggio, il modello da 122 TB può contenerne 66 prima di raggiungere la capacità massima. Sebbene il grafico del tempo medio per passaggio riportato sopra offuschi in qualche modo i valori, la visualizzazione del tempo per checkpoint aiuta a illustrare il vantaggio in termini di capacità. Entrambi gli SSD Solidigm si stabilizzano dopo il completamento del primo passaggio di checkpoint, mentre il Micron 6550 è relativamente costante durante il test, con un andamento più rapido.

Benchmark delle prestazioni FIO

Per misurare le prestazioni di storage di ogni SSD in base a parametri di settore comuni, utilizziamo FIO. Ogni unità viene sottoposta allo stesso processo di test, che include una fase di precondizionamento con due riempimenti completi dell'unità con un carico di lavoro di scrittura sequenziale, seguita dalla misurazione delle prestazioni in stato stazionario. Man mano che il tipo di carico di lavoro misurato cambia, eseguiamo un altro riempimento di precondizionamento con la nuova dimensione di trasferimento.

In questa sezione ci concentreremo sui seguenti benchmark FIO:

• Sequenziale 128K
• 64K casuale
• 16K casuale
• 4K casuale

Con gli SSD QLC ad alta capacità progettati per grandi volumi di trasferimento, i nostri test di velocità in scrittura si fermano a 16K casuali. Per i 4K, sfruttiamo lo stato precompilato del carico di lavoro a 16K per misurare solo le prestazioni in lettura casuale a 4K.

Precondizione sequenziale 128K (IODepth 256 / NumJobs 1)

In questo test di precondizionamento con profondità di coda elevata, il Solidigm P5336 da 122.88 TB raggiunge 3,134 MB/s, mentre il P5336 da 61.44 TB raggiunge 2,500.9 MB/s. Ciò rappresenta un miglioramento del 25.3% nella larghezza di banda in scrittura per il modello a capacità più elevata. Il Micron 6550 è in cima alla classifica con 10,455.3 MB/s. Sebbene entrambi i modelli Solidigm siano inferiori al Micron in termini di throughput grezzo, il divario prestazionale tra i modelli da 122 TB e 61 TB evidenzia l'ottimizzazione su larga scala all'interno della stessa piattaforma P5336, con l'unità più grande che mostra chiari miglioramenti nella gestione della scrittura sequenziale sostenuta. Sebbene il Micron 6550 sembri avere una fase di precondizionamento molto più piccola, la sua maggiore velocità di scrittura gli ha permesso di completare il primo riempimento molto più velocemente.

Latenza precondizione sequenziale 128K (IODepth 256 / NumJobs 1)

 

In termini di latenza durante la scrittura sequenziale precondizionata a 128K, il Micron 6550 registra il valore più basso, pari a 3.06 ms. Il Solidigm P5336 da 122.88 TB segue con 10.21 ms, mentre il P5336 da 61.44 TB si ferma a 12.80 ms. Ciò rappresenta una riduzione del 20.2% della latenza per il modello da 122.88 TB rispetto a quello da 61.44 TB, a dimostrazione di una latenza più efficiente e costante e dei miglioramenti apportati alla serie Solidigm P5336.

Scrittura sequenziale 128K (IODepth 16 / NumJobs 1)

In questo test di scrittura sequenziale con una profondità di coda di 16 e un singolo job, il Solidigm P5336 da 122.88 TB raggiunge 3,152.5 MB/s con 25,220 IOPS. Il modello P5336 da 61.44 TB si posiziona dietro a 2,503.5 MB/s e 20,030 IOPS, con un miglioramento del 25.9% della velocità di trasmissione rispetto al modello da 122 TB. Il Micron 6550 raggiunge le prestazioni complessive più elevate con 10,456.4 MB/s e 83,650 IOPS, superando entrambe le unità Solidigm.

Latenza di scrittura sequenziale 128K (IODepth 16 / NumJobs 1)

In termini di latenza, il Micron 6550 registra la latenza più bassa, pari a 0.191 ms. Il Solidigm P5336 da 122.88 TB segue con 0.634 ms, dimostrando una migliore reattività rispetto al P5336 da 61.44 TB, che misura 0.798 ms. Ciò riflette una riduzione del 20.5% della latenza per il modello Solidigm a maggiore capacità, a indicare una maggiore efficienza nelle operazioni di scrittura sequenziale.

Lettura sequenziale 128K (IODepth 64 / NumJobs 1)

In questo test di lettura sequenziale con profondità di 64 code, il Solidigm P5336 da 61.44 TB raggiunge 7,132.3 MB/s e 57,060 IOPS, mentre il modello da 122.88 TB segue a ruota con 7,121.6 MB/s e 56,970 IOPS. La differenza tra i due è inferiore allo 0.2%, e non mostra alcun vantaggio misurabile in termini di throughput grazie alla maggiore capacità. Il Micron 6550 raggiunge 13,979.7 MB/s e 111,840 IOPS, offrendo una larghezza di banda in lettura di quasi il 96% in più rispetto a entrambi i modelli Solidigm in questo test.

Latenza di lettura sequenziale 128K (IODepth 64 / NumJobs 1)

In questo test di latenza in lettura sequenziale, il Micron 6550 raggiunge la latenza più bassa, pari a 0.572 ms. Il Solidigm P5336 da 122.88 TB misura 1.123 ms, un valore pressoché identico al P5336 da 61.44 TB, che si ferma a 1.121 ms. I risultati non mostrano un reale vantaggio in termini di latenza grazie alla maggiore capacità, con entrambe le unità Solidigm che si comportano in modo analogo in termini di reattività in lettura sequenziale.

Scrittura casuale 64K

Nel test di scrittura casuale a 64K con bassa concorrenza (1-1), tutte e tre le unità si comportano in modo simile. Il Micron 6550 raggiunge 2,485.97 MB/s e 39,780 IOPS. Il Solidigm P5336 da 122.88 TB segue con 2,429.93 MB/s e 38,880 IOPS, mentre il P5336 da 61.44 TB è leggermente indietro con 2,412.90 MB/s e 38,610 IOPS.

Man mano che il carico di lavoro aumenta la concorrenza (32-8), le differenze diventano più evidenti. Il modello da 122.88 TB raggiunge 3,121.54 MB/s e 49,950 IOPS, superando il modello da 61.44 TB, che raggiunge un massimo di 2,654.46 MB/s e 42,470 IOPS. Questo rappresenta un aumento del 17.6% della produttività per l'unità da 122 TB a maggiore capacità, dimostrando una scalabilità più efficace in presenza di una maggiore pressione di scrittura casuale. Il Micron 6550 si posiziona nettamente in vantaggio, raggiungendo 10,070.71 MB/s e 161,130 IOPS.

Latenza di scrittura casuale di 64K

A basso carico (1-1), tutte e tre le unità registrano una latenza identica di 0.025 ms. Con il carico di lavoro (32-8), il Solidigm P5336 da 122.88 TB registra 5.121 ms, rispetto ai 6.026 ms del P5336 da 61.44 TB. Ciò si traduce in una riduzione del 15% della latenza per il modello da 122 TB a maggiore capacità. Il Micron 6550 mantiene una latenza significativamente inferiore a 1.588 ms, dimostrando una maggiore reattività in caso di elevata concorrenza di scrittura casuale.

Lettura casuale 64K

Nel test di lettura casuale a 64K con carico minimo (1-1), il Micron 6550 raggiunge 482.09 MB/s e 7,710 IOPS. Il Solidigm P5336 da 61.44 TB segue con 299.40 MB/s e 4,790 IOPS, mentre il P5336 da 122.88 TB arriva a 274.04 MB/s e 4,390 IOPS, con un calo dell'8.5% delle prestazioni rispetto al modello da 61.44 TB a questa profondità.

In condizioni di elevata concorrenza (32-8), il P5336 da 122.88 TB offre 7,124.69 MB/s e 113,995 IOPS, mentre il modello da 61.44 TB si avvicina a questi valori con 7,125 MB/s e circa 114,000 IOPS. Non vi è alcuna differenza significativa in termini di prestazioni tra le due capacità a questo livello. Il Micron 6550 continua a scalare ulteriormente, raggiungendo 13,153.64 MB/s e 210,460 IOPS.

Latenza di lettura casuale di 64K

A profondità (1-1) e numero di processi, il Micron 6550 registra la latenza più bassa, pari a 0.129 ms. Il Solidigm P5336 da 61.44 TB segue con 0.208 ms, mentre il P5336 da 122.88 TB registra una latenza leggermente superiore, pari a 0.228 ms, con un aumento del 9.6% per la capacità maggiore. Sotto carichi più pesanti (32-8), entrambi i modelli Solidigm riportano una latenza identica, pari a 2.245 ms, senza alcun vantaggio derivante dall'aumento di capacità. Il Micron 6550 mantiene una latenza molto più bassa, pari a 1.217 ms, in questa prova.

Scrittura casuale 16K

A basso carico (1-1), il Solidigm P5336 da 122.88 TB offre 549.14 MB/s e 35,145 IOPS. Il P5336 da 61.44 TB offre prestazioni significativamente migliori, con 1,036.53 MB/s e 66,338 IOPS. Questo pone il modello da 122.88 TB a circa il 47% in meno sia in termini di larghezza di banda che di IOPS rispetto al modello da 61.44 TB. Il Micron 6550 si colloca tra i due Solidigm, raggiungendo 856.61 MB/s e 54,823 IOPS.

Con un'elevata concorrenza (32-8), il modello da 122.88 TB mantiene un throughput di 549.14 MB/s e 35,145 IOPS, senza alcuna riduzione rispetto alle prestazioni di 1:1. Allo stesso tempo, la versione da 61.44 TB raggiunge 2,542.36 MB/s e 162,711 IOPS, con un aumento del 363% del throughput rispetto all'unità da 122 TB. Il Micron 6550 è il migliore in assoluto, raggiungendo 10,295.66 MB/s e 658,922 IOPS.

Latenza di scrittura casuale di 16K

A (1-1), il Solidigm P5336 da 122.88 TB mostra una latenza di 0.028 ms, mentre il P5336 da 61.44 TB è più veloce a 0.015 ms. Il Micron 6550 si posiziona tra i due con 0.018 ms. Ciò si traduce in una latenza dell'86% superiore per il modello da 122 TB rispetto al Solidigm da 61 TB a carico minimo. Sotto carico pesante (32-8), il modello da 122.88 TB mantiene un tempo di risposta costante di 0.028 ms, indicando l'assenza di ridimensionamento. Il modello da 61.44 TB sale a 1.572 ms, riflettendo una maggiore pressione in caso di concorrenza ma anche un significativo aumento della produttività. Il Micron 6550 rimane efficiente a 0.388 ms, mostrando una maggiore reattività in condizioni di picco di scrittura casuale.

Lettura casuale 16K

Con carico minimo (1-1), il Micron 6550 raggiunge 188.80 MB/s e 12,083 IOPS. Il Solidigm P5336 da 61.44 TB segue con 126.55 MB/s e 8,100 IOPS, mentre il P5336 da 122.88 TB registra 125.87 MB/s e 8,060 IOPS. Le due unità Solidigm offrono prestazioni pressoché identiche, con una differenza inferiore allo 0.5%, il che indica che non vi è alcun vantaggio in termini di capacità a questa profondità.

Con una concorrenza più elevata (32-16), il Micron 6550 raggiunge 13,053.35 MB/s e 835,420 IOPS. Il Solidigm da 61.44 TB raggiunge 7,063.02 MB/s e 452,030 IOPS, leggermente al di sopra del modello da 122.88 TB, che si attesta su 6,855.59 MB/s e 438,760 IOPS. Ciò rappresenta un calo del 2.9% della velocità di trasmissione per l'unità Solidigm più grande con questo carico di lavoro.

Latenza di lettura casuale di 16K

Con (1-1), il Micron 6550 registra la latenza più bassa, pari a 0.082 ms. I due modelli Solidigm P5336 seguono rispettivamente con 0.123 ms e 0.124 ms, con una differenza inferiore all'1%. Sotto carico elevato (32-16), il Micron mantiene un ridimensionamento efficiente a 0.612 ms, mentre il Solidigm da 61.44 TB raggiunge 1.132 ms e il modello da 122.88 TB raggiunge 1.165 ms. Questo rappresenta un aumento del 2.9% della latenza per l'unità Solidigm a capacità maggiore rispetto al modello da 61 TB, indicando un lieve calo di efficienza in condizioni di massima concorrenza.

Lettura casuale 4K

Con carico minimo (1-1), il Micron 6550 offre 57.71 MB/s e 14,770 IOPS. Il Solidigm P5336 da 61.44 TB segue con 38.21 MB/s e 9,782 IOPS, mentre il P5336 da 122.88 TB segue leggermente, con 37.93 MB/s e 9,710 IOPS. La differenza tra i due modelli Solidigm è inferiore all'1%, senza alcun vantaggio derivante dall'aumento di capacità a bassa profondità.

Con una maggiore concorrenza (32-16), il Micron 6550 raggiunge 7,787.27 MB/s e 1.99 milioni di IOPS. Il Solidigm da 61.44 TB raggiunge 3,799.77 MB/s e 972,743 IOPS, leggermente superiore al modello da 122.88 TB, che si attesta a 3,643.64 MB/s e 932,770 IOPS. Ciò rappresenta un calo del 4.1% del throughput e del 4.1% degli IOPS per il modello di capacità maggiore in condizioni di picco di lettura casuale.

Latenza di lettura casuale di 4K

Con (1-1), il Micron 6550 registra la latenza più bassa, pari a 0.067 ms. Entrambi i modelli Solidigm P5336 misurano 0.102 ms, senza alcun miglioramento della latenza con l'aumento della capacità. Sotto carico elevato (32-16), il Micron mantiene un'elevata efficienza a 0.260 ms. Il P5336 da 61.44 TB registra 0.525 ms, mentre il modello da 122.88 TB aumenta leggermente a 0.546 ms, un aumento del 4% della latenza che riflette un calo minimo dell'efficienza per l'unità a capacità più elevata in condizioni di lettura casuale di picco.

Archiviazione diretta GPU

Uno dei test che abbiamo condotto su questo banco di prova è stato il test Magnum IO GPU Direct Storage (GDS). GDS è una funzionalità sviluppata da NVIDIA che consente alle GPU di bypassare la CPU quando accedono ai dati archiviati su unità NVMe o altri dispositivi di archiviazione ad alta velocità. Invece di instradare i dati attraverso la CPU e la memoria di sistema, GDS consente la comunicazione diretta tra la GPU e il dispositivo di archiviazione, riducendo significativamente la latenza e migliorando la velocità di elaborazione dei dati.

Come funziona l'archiviazione diretta GPU

Tradizionalmente, quando una GPU elabora dati archiviati su un'unità NVMe, i dati devono prima passare attraverso la CPU e la memoria di sistema prima di raggiungere la GPU. Questo processo introduce colli di bottiglia, poiché la CPU diventa un intermediario, aggiungendo latenza e consumando preziose risorse di sistema. GPU Direct Storage elimina questa inefficienza consentendo alla GPU di accedere ai dati direttamente dal dispositivo di archiviazione tramite il bus PCIe. Questo percorso diretto riduce il sovraccarico associato allo spostamento dei dati, consentendo trasferimenti di dati più rapidi ed efficienti.

I carichi di lavoro AI, in particolare quelli che coinvolgono il deep learning, sono altamente intensivi in ​​termini di dati. L'addestramento di grandi reti neurali richiede l'elaborazione di terabyte di dati e qualsiasi ritardo nel trasferimento dei dati può portare a GPU sottoutilizzate e tempi di addestramento più lunghi. GPU Direct Storage affronta questa sfida assicurando che i dati vengano consegnati alla GPU il più rapidamente possibile, riducendo al minimo i tempi di inattività e massimizzando l'efficienza computazionale.

Inoltre, GDS è particolarmente utile per carichi di lavoro che comportano lo streaming di grandi set di dati, come l'elaborazione video, l'elaborazione del linguaggio naturale o l'inferenza in tempo reale. Riducendo la dipendenza dalla CPU, GDS accelera lo spostamento dei dati e libera risorse della CPU per altre attività, migliorando ulteriormente le prestazioni complessive del sistema.

Per letture casuali da 16 TB a singolo thread, il Solidigm P5336 da 61.44 TB offre 526.40 MB/s, superando del 122.88% il modello da 187.21 TB (181 MB/s). Il Micron 6550 si posiziona tra i due con 169.15 MB/s. In questo caso, il modello Solidigm con capacità maggiore offre prestazioni inferiori rispetto alla sua controparte più piccola.

Passando a letture sequenziali da 128 milione di thread a 1 thread in condizioni di elevata concorrenza, il Solidigm P5336 da 61.44 TB è in testa con 4,391.68 MB/s, seguito a ruota dal modello da 122.88 TB con 4,193.56 MB/s. Il Micron 6550 si posiziona più in basso con 2,667.99 MB/s. L'unità da 122.88 TB è inferiore al suo fratello minore di circa il 4.5%, ma supera il Micron del 57%.

Il Solidigm P5336 da 61.44 TB offre la latenza più bassa, pari a 0.048 ms, seguito dal modello da 122.88 TB con 0.082 ms, circa il 70.8% in più rispetto al modello più piccolo. Il Micron 6550 segue entrambi, con la latenza più alta di 0.090 ms in questa configurazione.

Con un elevato numero di thread, la latenza del Solidigm da 61.44 TB è stata di 0.291 ms, seguita da quella del 122.88 TB a 0.305 ms, con un aumento del 4.8%. Il Micron 6550 si classifica ultimo con 0.479 ms, mostrando una latenza significativamente più elevata in caso di carichi di scrittura elevati.

Con un singolo thread e una dimensione del blocco di 16K, il Solidigm P5336 da 61.44 TB parte da 592.34 MB/s, seguito dal Micron 6550 a 502.97 MB/s. Il Solidigm P5336 da 122.88 TB segue leggermente a 496.59 MB/s, mostrando un divario prestazionale del 16.1% tra i due modelli Solidigm a questa impostazione di basso carico.

Con una concorrenza massima di 128 TB e una dimensione del blocco di 1 Mbyte, il Micron 6550 parte da 3,281.49 MB/s, appena davanti al Solidigm da 61.44 TB, che registra 3,134.03 MB/s. Il Solidigm da 122.88 TB arriva a 2,549.28 MB/s, risultando circa il 18.6% più lento del modello da 61 TB. Nonostante la maggiore capacità, la variante da 122 TB mostra una riduzione della scalabilità del throughput in presenza di questo pesante carico di scrittura.

Con 1T di scritture sequenziali da 16K, il Micron 6550 registra ancora una volta la latenza più bassa, pari a 0.030 ms, leggermente superiore a quella del Solidigm P5336 da 122.88 TB, che si ferma a 0.031 ms, una differenza trascurabile. Il Solidigm P5336, con 61.44 TB, è addirittura in testa alla classifica con 0.026 ms, superando di poco entrambe le unità.

In scritture sequenziali da 128T e 1M in condizioni di elevata concorrenza, il Micron 6550 raggiunge una latenza di 0.390 ms. Il Solidigm da 61.44 TB segue con 0.408 ms, mentre il modello da 122.88 TB segue con 0.502 ms, con un aumento del 23% della latenza rispetto al modello Solidigm da 61 TB.

Conclusione

L'SSD D5-P5336 da 122.88 TB di Solidigm offre una densità di storage senza pari, un'elevata efficienza energetica per TB e una scalabilità straordinaria, rispondendo alle esigenze aziendali critiche in termini di riduzione dello spazio, risparmio energetico e gestione semplificata dell'infrastruttura. Aumentando drasticamente la capacità per unità senza espandere l'ingombro fisico, Solidigm consente ai data center di consolidare significativamente i rack di storage, con un impatto diretto sui costi operativi e sulla sostenibilità ambientale, pur essendo pronti ad affrontare le crescenti esigenze dei carichi di lavoro emergenti, alimentati dall'impennata dell'intelligenza artificiale.

Nei test sui carichi di lavoro CDN, l'SSD ha offerto un throughput di lettura sequenziale costante, raggiungendo circa 7.5 GB/s a profondità di coda più elevate, mantenendo la stabilità anche in condizioni di maggiore concorrenza. Per le letture casuali all'interno di scenari CDN, ha eguagliato da vicino la sua controparte più piccola da 61.44 TB, dimostrando prestazioni pressoché identiche e mettendo in luce l'effettiva coerenza dell'architettura di Solidigm. Nei benchmark FIO, il D5-P5336 da 122.88 TB ha superato notevolmente il precedente modello da 61 TB nelle scritture sequenziali fino al 25%, raggiungendo 3,152.5 MB/s a una profondità di coda di 16, con un miglioramento della latenza di circa il 20% (0.634 ms contro 0.798 ms). Tuttavia, gli scenari di scrittura casuale hanno evidenziato alcuni compromessi, poiché l'unità più grande ha registrato un throughput inferiore a blocchi da 16K, riflettendo l'ottimizzazione del design per carichi di lavoro sequenziali e ad alta intensità di lettura.

In condizioni di GPU Direct Storage (GDSIO), l'unità ha mantenuto velocità di lettura sequenziale competitive di circa 4,193 MB/s con blocchi da 1 MB e alta concorrenza, solo leggermente inferiori del 4.5% rispetto alla variante più piccola. Nel complesso, l'SSD Solidigm D5-P5336 da 122.88 TB offre densità elevata, prestazioni prevedibili ed efficaci capacità di scalabilità, su misura per gli ambienti dati aziendali moderni ed esigenti.

Con l'incessante aumento della domanda di dati, le soluzioni di storage che massimizzano la densità e riducono al minimo il consumo energetico diventano sempre più essenziali. Unità come la D5-P5336 illustrano chiaramente come l'innovazione nella tecnologia NAND e nella progettazione intelligente possano aiutare i data center a gestire in modo sostenibile la crescita futura. Guardando al futuro, prevediamo che Solidigm spingerà ulteriormente i limiti di capacità ed efficienza, potenzialmente raddoppiando ulteriormente per offrire un rivoluzionario SSD da 245.76 TB entro la fine dell'anno.

Classifica: Il Solidigm D5-P5336 da 122.88 TB si aggiudica il primo posto nella classifica dei migliori SSD aziendali per rapporto capacità/efficienza.