Il Solidigm D7-PS1030 è il modello di fascia media della prima famiglia di SSD PCIe 5.0 per data center dell'azienda, che combina la piattaforma condivisa con il D7-PS1010 con un rating DWPD di 3 e un limite di scrittura casuale fino a 800 IOPS, il doppio dei 400 del modello di fascia standard. La famiglia offre capacità da 1.6 TB a 12.8 TB, con interfacce E3.S e U.2, utilizzando memorie NAND TLC a 176 strati, con prestazioni nominali fino a 14,500 MB/s in lettura sequenziale e 10,000 MB/s in scrittura sequenziale. Solidigm si rivolge a carichi di lavoro misti e incentrati sulla scrittura: OLTP, registrazione di metadati, HPC e pipeline di IA/ML, dove la pressione di scrittura è costante. L'unità in prova è il modello E3.S da 12.8 TB.
L'SSD Solidigm D7-PS1030 da 12.8 TB in un corpo E3.S da 7.5 mm.
Non è la prima volta che utilizziamo questa unità; tuttavia, è la prima volta che una singola unità viene sottoposta a benchmark. Otto di queste stesse unità da 12.8 TB hanno ospitato il livello flash nei nostri test di offload della cache KV sul Dell PowerEdge XE7740, dove l'array ha sostenuto 1.9 GB/s di scritture KV continue 24 ore su 24, un ciclo di lavoro che si traduce in circa 3.2 scritture al giorno per unità in mirroring, o circa 1.6 DWPD in RAID0. Questo è esattamente l'intervallo per cui è stato progettato il valore di 3 DWPD del PS1030: l'offload KV è un carico di lavoro in cui la resistenza, non la capacità o la velocità di picco, è il vincolo determinante del livello. La classe ad alta intensità di lettura che domina i titoli di Gen5 esaurirebbe rapidamente il suo budget di 1 DWPD con tale carico.
Il PS1030 posizionato davanti al Dell PowerEdge XE7740 che ha ospitato i nostri test di offload della cache KV.
Con una capacità di 12.8 TB, Solidigm dichiara per l'unità 2.75 milioni di IOPS in lettura casuale 4K e ben 800 IOPS in scrittura casuale, con il picco di 3.1 milioni di IOPS in lettura casuale della famiglia situato nella parte inferiore della pila di capacità. Il consumo energetico in modalità attiva è tipico di 23 W e in modalità inattiva di 5 W, in linea con la generazione Gen5, con cinque stati di alimentazione configurabili da 5 W a 25 W per gli operatori che lavorano con un budget rack fisso. Solidigm vanta inoltre due ulteriori caratteristiche degne di nota: un'efficienza energetica fino al 70% superiore rispetto alle unità comparabili e una consistenza degli IOPS fino al 90% per tutta la durata dell'unità. La durata utile può essere raggiunta più rapidamente su orizzonti temporali più brevi; lo stesso supporto supporta 4.98 DWPD in un periodo di tre anni e il modello da 12.8 TB è certificato per 70 PB scritti in entrambe le direzioni. Le specifiche di affidabilità sono in linea con la categoria: MTBF di 2.5 milioni di ore, una garanzia di cinque anni e un test UBER Solidigm a 1E-18. Le opzioni di sicurezza includono la certificazione TCG Opal 2.02 SED, hardware certificabile FIPS 140-3 Livello 2, avvio sicuro e firma del firmware conformi allo standard OCP, oltre all'attestazione del dispositivo e alla revoca della chiave.
Nel contenitore Dell E3.S.
Specifiche Solidigm D7-PS1030
| Specificazione | Solidigm D7-PS1030 (12.8 TB E3.S, intervallo della famiglia indicato) |
|---|---|
| Panoramica della piattaforma | |
| Capacità | 1.6TB 3.2TB 6.4TB 12.8 TB (come testato) |
| Fattori di forma | E3.S 7.5 mm (come testato) U.2 15mm |
| Interfaccia / Protocollo | PCIe 5.0x4, NVMe |
| NAND | Memoria NAND 3D TLC a 176 strati Solidigm |
| Prestazioni (fino a, valutate dal fornitore) | |
| Lettura sequenziale (128K) | 14,500 MB/s (famiglia) |
| Scrittura sequenziale (128K) | 10,000 MB/s (famiglia) |
| Lettura casuale (4K) | 2,750 IOPS (12.8 TB) Fino a 3,100 IOPS (picco della famiglia) |
| Scrittura casuale (4K) | 800K IOPS |
| Potenza e resistenza | |
| Potenza (attiva/inattiva) | 23 W tip. / 5 W tip. Cinque livelli di potenza configurabili, da 5W a 25W |
| Resistenza | 3.0 DWPD (su base triennale) 4.98 DWPD (su base triennale) 70 PBW a 12.8 TB |
| Affidabilità e sicurezza | |
| MTBF / UBER | 2,500,000 ore Testato secondo 1E-18 |
| Sicurezza | TCG Opal 2.02 (variante SED) Certificabile secondo lo standard FIPS 140-3 Livello 2 Avvio protetto e firma del firmware secondo lo standard OCP Attestazione del dispositivo, revoca della chiave |
| Garanzia | 5 anni |
Le unità PS1030 sono disponibili in E3.S; la famiglia è disponibile anche in U.2.
Solidigm D7-PS1030 Prestazioni
Il contesto dei grafici che seguono è che il PS1030 si posiziona nel nostro campo di confronto come controparte per uso misto rispetto alle unità a intensità di lettura che hanno dominato le recenti recensioni di Gen5. Rispetto al KIOXIA CD9P-R che abbiamo recensito a giugno, il PS1030 ha una velocità di lettura sequenziale inferiore (14,500 MB/s contro 14,800 MB/s), ma quasi raddoppia la velocità di scrittura casuale (800 IOPS contro 450 IOPS) e triplica il budget di scrittura (3 DWPD contro 1). Il suo rivale filosofico più vicino nel gruppo è il Micron 7600 MAX , l'altra unità a 3 DWPD del gruppo, mentre il Micron 9550 MAX porta la sfida di prestazioni per uso misto nella stessa capacità di 12.8 TB della nostra unità.
Piattaforma di test di guida
Per tutti i carichi di lavoro di questa recensione, utilizziamo un Dell PowerEdge R760 con Ubuntu 22.04.2 LTS come piattaforma di test. Dotato di un JBOF Serial Cables Gen5, offre un'ampia compatibilità con SSD U.2, E1.S, E3.S e M.2. La configurazione del nostro sistema è descritta di seguito:
- 2 x Intel Xeon Gold 6430 (32 core, 2.1 GHz)
- 16 x 64GB DDR5-4400
- SSD Dell BOSS da 480 GB
- Cavi seriali Gen5 JBOF
- Nvidia L4
Unità a confronto
- KIOXIA CD9P-R 7.68 TB (1 DWPD)
- KIOXIA CM9-R 15.36 TB (1 DWPD)
- SanDisk DC SN861 7.68 TB (1 DWPD)
- Solidigm PS1010 7.68 TB (1 DWPD)
- Micron 7600 MAX 6.4 TB (3 DWPD)
- Micron 9550 MAX 12.8 TB (3 DWPD)
- Micron 9550 Pro 7.68 TB (1 DWPD)
Benchmark di checkpointing DLIO
Per valutare le prestazioni reali degli SSD negli ambienti di addestramento dell'IA, abbiamo utilizzato lo strumento di benchmark Data and Learning Input/Output (DLIO). Sviluppato dall'Argonne National Laboratory, DLIO è specificamente progettato per testare i modelli di I/O nei carichi di lavoro di deep learning. Fornisce informazioni su come i sistemi di storage gestiscono problematiche quali il checkpointing, l'acquisizione dei dati e l'addestramento dei modelli.
La tabella seguente mostra il tempo medio di completamento del checkpoint per ciascuna unità su tre passaggi; un valore inferiore indica prestazioni migliori. Una nota su questi dati: il numero di checkpoint in un'esecuzione è proporzionale alla capacità di ciascuna unità, quindi le unità più grandi registrano più checkpoint e i risultati per checkpoint non sono allineati punto per punto tra unità di dimensioni diverse. Per questo motivo pubblichiamo le medie dei passaggi, che normalizzano l'esecuzione di ciascuna unità in un valore direttamente confrontabile. Durante l'addestramento di modelli di machine learning, i checkpoint sono essenziali per salvare periodicamente lo stato del modello, prevenendo la perdita di progressi durante interruzioni o blackout. Questa esigenza di archiviazione richiede prestazioni robuste, soprattutto in presenza di carichi di lavoro prolungati o intensivi. Abbiamo utilizzato il benchmark DLIO versione 2.0 della release del 13 agosto 2024.
Per garantire che i nostri benchmark rispecchiassero scenari reali, abbiamo basato i nostri test sull'architettura del modello LLAMA 3.1 405B. Abbiamo implementato il checkpointing utilizzando torch.save() per acquisire i parametri del modello, gli stati dell'ottimizzatore e gli stati dei layer. La nostra configurazione simulava un sistema a otto GPU, implementando una strategia di parallelismo ibrido con parallelismo tensoriale a 4 vie ed elaborazione parallela pipeline a 2 vie distribuita tra le otto GPU. Questa configurazione ha prodotto una dimensione del checkpoint di 1,636 GB, che rispecchia i requisiti per l'addestramento di moderni modelli linguistici di grandi dimensioni.
| DRIVE | Media del passaggio 1 (secondi) | Media del passaggio 2 (secondi) | Media del passaggio 3 (secondi) |
|---|---|---|---|
| SanDisk DC SN861 7.68 TB | 461.3 | 558.6 | 553.3 |
| Micron 9550 MAX 12.8 TB | 462.8 | 558.9 | 555.3 |
| Micron 9550 Pro 7.68 TB | 461.4 | 577.9 | 559.7 |
| Solidigm PS1010 7.68 TB | 458.8 | 561.1 | 564.6 |
| Micron 7600 MAX 6.4 TB | 464.2 | 581.5 | 567.3 |
| KIOXIA CD9P-R 7.68 TB | 464.7 | 575.6 | 570.6 |
| KIOXIA CM9-R 15.36 TB | 462.8 | 571.9 | 580.9 |
| Solidigm PS1030 12.8 TB | 462.3 | 578.0 | 599.2 |
Analizzando le medie dei passaggi, il Solidigm PS1030 si è posizionato subito nel gruppo con 462.3 secondi nel Passaggio 1, dove l'intero gruppo di confronto si è attestato entro una fascia di sette secondi, tra circa 459 e 465 secondi. La differenza è emersa in seguito. Nel Passaggio 2 il PS1030 è salito a 578.0 secondi, nella parte alta di un gruppo che spaziava dai 558.6 secondi del SanDisk SN861 ai 581.5 secondi del Micron 7600 MAX, e nel Passaggio 3 era salito a 599.2 secondi, la media più alta del gruppo di confronto, con il resto del gruppo che si attestava tra i 553.3 secondi dell'SN861 e i 580.9 secondi del KIOXIA CM9-R.
Il registro dei checkpoint del PS1030 mostra l'andamento di questa deriva. Il PS1030 ha iniziato a 465.3 secondi e si è mantenuto intorno ai 461 secondi fino al checkpoint 5, prima di aumentare. Una volta effettuato il passaggio, il valore è variato da circa 553 a 593 secondi, chiudendo il checkpoint 12 a 614.7 secondi, e i suoi checkpoint più recenti hanno raggiunto un massimo di 629.0 secondi. Il risultato è coerente con l'unica debolezza nota dell'unità, piuttosto che con una nuova: il checkpointing DLIO è esattamente il tipo di grande burst di scrittura sequenziale che il test FIO a singolo worker da 128K ha segnalato. Il divario è reale ma limitato, circa il 5% rispetto al KIOXIA CD9P-R nelle medie del Pass 3, e il PS1030 ha scalato in modo prevedibile tra i passaggi anziché oscillare.
Benchmark delle prestazioni FIO
Per misurare le prestazioni di storage di ogni SSD in base a parametri di settore comuni, utilizziamo FIO. Ogni unità viene sottoposta allo stesso processo di test, che include una fase di precondizionamento con due riempimenti completi dell'unità con un carico di lavoro di scrittura sequenziale, seguita dalla misurazione delle prestazioni in stato stazionario. Al variare del tipo di carico di lavoro misurato, eseguiamo un altro riempimento di precondizionamento con la nuova dimensione di trasferimento.
In questa sezione ci concentreremo sui seguenti benchmark FIO:
- Sequenziale 128K
- 64K casuale
- Sequenziale 16K
- 4K casuale
Scrittura sequenziale 128K (IODepth 16 / NumJobs 1)
Il test di scrittura sequenziale a 128K in condizioni stazionarie è l'unico ambito in cui il PS1030 mostra qualche debolezza rispetto agli altri SSD. L'unità ha registrato 6,370.3 MB/s a 313.7 µs, la larghezza di banda più bassa e la latenza più alta del gruppo, risultando persino inferiore al KIOXIA CD9P-R, più orientato alla lettura, che ha raggiunto i 6,912.4 MB/s. Il Micron 9550 MAX si è piazzato al primo posto con 10,957.9 MB/s, seguito dal 9550 Pro con 10,354.6 MB/s, mentre il KIOXIA CM9-R ha conquistato un netto terzo posto con 8,668.1 MB/s. Il modello gemello del PS1030, il PS1010 (7,126.5 MB/s), e il SanDisk DC SN861 (7,116.5 MB/s) si sono posizionati a metà classifica, con il Micron 7600 MAX a 6,960.6 MB/s.
È importante tenere presente che si tratta di un carico di lavoro a singolo processo e l'architettura di scrittura del PS1030 è progettata per distribuire il lavoro, non per prevalere su un singolo flusso. Le sezioni di scrittura casuale riportate di seguito mostrano che la stessa unità trasferisce molti più dati una volta introdotto il parallelismo, il che corrisponde al modello di accesso generato dai carichi di lavoro target.
Lettura sequenziale 128K (IODepth 64 / NumJobs 1)
Il lato lettura ha ribaltato la situazione. Il PS1030 ha erogato 14,156.4 MB/s a 564.8 µs, praticamente alla pari con il suo fratello PS1010 (14,163.3 MB/s) e entro lo 0.6% dal leader del gruppo CD9P-R (14,235.9 MB/s). Il Micron 9550 Pro (14,050.1 MB/s) e il 9550 MAX (14,047.5 MB/s) hanno completato il gruppo di cinque unità, saturando l'interfaccia Gen5 entro una banda di 200 MB/s. L'SN861 ha seguito con 12,631.2 MB/s, il 7600 MAX con 11,240.5 MB/s e il CM9-R, così forte nel test di scrittura, è arrivato ultimo qui con 9,974.6 MB/s in questa configurazione a singolo job. Per un'unità venduta in base al suo budget di scrittura, non rinunciare a nulla sulle letture di blocchi di grandi dimensioni è il vantaggio silenzioso in questo grafico.
Scrittura casuale 64K
Il test di scrittura casuale a 64K è dove emerge il vero potenziale del PS1030. L'unità ha raggiunto un picco di 7,224.0 MB/s, posizionandosi quarta nel gruppo dietro al Micron 9550 MAX (10,878.1 MB/s), al KIOXIA CM9-R (9,635.3 MB/s) e al Micron 9550 Pro (9,069.4 MB/s), e davanti al Micron 7600 MAX (6,960.5 MB/s) e al resto del gruppo. Ciò che distingue il PS1030 è il punto in cui si è verificato questo picco: con IODepth 2 / NumJobs 2, con una latenza di soli 34.3 µs, mentre la maggior parte dei concorrenti ha avuto bisogno di code di attesa profonde per raggiungere i propri valori migliori. L'unità si satura quasi immediatamente e poi rimane stabile per il resto del test, che è esattamente il profilo ideale per un livello di scrittura costante con concorrenza moderata 24 ore su 24. Il divario rispetto al modello gemello risiede anche nella resistenza che si fa valere in termini di prestazioni: il PS1010 ha raggiunto un picco di 5,873.9 MB/s, il 23% in meno rispetto al PS1030.
Per quanto riguarda la latenza, il PS1030 ha aperto a 21.1 µs con IODepth 1 / NumJobs 1, secondo solo ai 18.4 µs del CM9-R, e il suo punto peggiore nell'intero test è stato di 2,831 µs, meno della metà del picco di 5,987 µs del PS1010. Il 9550 MAX è rimasto il più controllato ad alta concorrenza, raggiungendo un massimo di 1,714 µs.
Lettura casuale 64K
Il PS1030 ha ottenuto il miglior picco di lettura casuale a 64K del gruppo con 14,162.9 MB/s (IODepth 32 / NumJobs 8), leggermente davanti al Micron 9550 Pro (14,049.9 MB/s), al 9550 MAX (14,049.7 MB/s) e al PS1010 (14,013.6 MB/s), mentre il CM9-R con 13,402.4 MB/s e il CD9P-R con 12,036.0 MB/s si sono piazzati più indietro. La storia della bassa profondità di coda appartiene alle unità KIOXIA, come già emerso nella nostra recensione del CD9P-R: il CM9-R ha aperto a 1,359.0 MB/s e il CD9P-R a 1,334.0 MB/s con IODepth 1 / NumJobs 1, ovvero con una latenza di circa 45 µs, mentre il PS1030 ha iniziato a 768.4 MB/s e 81.0 µs, posizionandosi a metà classifica. Il PS1030 si colloca al vertice di questa classifica per la scalabilità, non per la risposta a singolo flusso.
Scrittura sequenziale 16K
Una nota sul test stesso: a partire da questo gruppo di confronto, la nostra copertura di 16K è sequenziale anziché casuale, un carico di lavoro che abbiamo analizzato per la prima volta nella nostra recensione del Micron 9550 MAX . I flussi sequenziali di medie dimensioni rappresentano meglio ciò che queste unità fanno in produzione, soprattutto nelle pipeline di intelligenza artificiale, che elaborano i dati di training in modo ordinato, elaborano i risultati intermedi e alimentano i livelli di inferenza in cicli, anziché distribuire i dati in modo casuale sull'unità.
I risultati rimescolano le carte rispetto alle prove casuali. Il Micron 9550 MAX si è piazzato al primo posto con 10,970.8 MB/s (IODepth 32 / NumJobs 4), seguito a ruota dal KIOXIA CM9-R con 10,812.2 MB/s e dal 9550 Pro al terzo posto con 9,772.8 MB/s. Il PS1030 ha raggiunto un picco di 5,977.7 MB/s (IODepth 8 / NumJobs 4), settimo nel gruppo, davanti al SanDisk DC SN861 con 5,772.5 MB/s e appena sotto al suo "fratello" PS1010 con 6,271.7 MB/s. La forma della curva, tuttavia, è la stessa mostrata dai test casuali: il PS1030 ha già raggiunto 5,856.7 MB/s con IODepth 2 / NumJobs 4 con una latenza di 21.1 µs, per poi mantenere una banda piatta tra circa 4,700 e 6,000 MB/s sul resto della matrice. La sua latenza a singolo worker di 10.9 µs si è posizionata nel gruppo di testa con CM9-R (10.4 µs) e CD9P-R (11.0 µs), ben al di sotto dei Micron con valori compresi tra 15.1 e 17.8 µs. Il limite è modesto per un'unità progettata per la scrittura, ma viene raggiunto con una profondità di coda minima e una latenza di classe microsecondi, il punto operativo in cui si trova una cache o un livello di staging sostenuto, e lo stesso profilo che ha permesso a questa unità di superare settimane di flussi di scrittura sequenziali continui nella nostra implementazione di cache KV.
Lettura sequenziale 16K
Sul lato lettura, il KIOXIA CD9P-R ha primeggiato con 13,819.7 MB/s, seguito a ruota dal CM9-R con 13,393.2 MB/s e dal Micron 9550 Pro con 13,273.5 MB/s. Il PS1030 ha raggiunto un picco di 11,142.8 MB/s (IODepth 16 / NumJobs 8) in 179.1 µs, settimo nel gruppo, davanti solo all'SN861 con 10,995.0 MB/s e appena dietro al suo fratello minore con 11,656.3 MB/s, circa un quinto dal leader del gruppo. Il quadro a flusso singolo ribalta anche la situazione della lettura casuale: su letture ordinate da 16K, l'SN861 si è aperto a 12.5 µs e i Micron tra 13.9 e 21.3 µs, mentre la piattaforma Solidigm ha iniziato a circa 59 µs, la stessa caratteristica di lettura a bassa concorrenza mostrata da entrambe le unità della serie PS a 64K. Le letture di medie dimensioni rimangono l'angolo della matrice in cui questa piattaforma mostra i maggiori limiti; il lato di lettura in streaming di una pipeline AI è gestito meglio dalla classe ad alta intensità di lettura, che non è l'argomento per cui questa unità è stata progettata per vincere.
Scrittura casuale 4K
Il grafico principale per un'unità a 3 DWPD, e il PS1030 ha mantenuto le promesse. Il suo picco di 1,595.8K IOPS a IODepth 16 / NumJobs 8 è stato il secondo del gruppo, dietro solo al Micron 7600 MAX a 3 DWPD con 1,781.2K, e davanti al 9550 MAX (1,544.2K), PS1010 (1,504.7K), CM9-R (1,502.9K), 9550 Pro (1,467.6K), SN861 (1,438.3K) e CD9P-R (1,273.1K). Questo picco misurato è anche il doppio del valore nominale di 800K dell'unità, che Solidigm specifica a una profondità di coda fissa; le scansioni a stato stazionario mostrano valori superiori.
Il comportamento in termini di latenza conferma la tesi. Il PS1030 si è aperto a 8.8 µs con IODepth 1, nel cluster principale con CM9-R (8.2 µs) e PS1010 (8.3 µs), ha raggiunto il suo throughput massimo a soli 79.8 µs e non ha mai superato i 359.6 µs in nessun punto della scansione. Il PS1010, al contrario, ha richiesto IODepth 32 / NumJobs 16 per raggiungere un picco di 339.7 µs, con un valore massimo di 735.6 µs. Per i log OLTP e il traffico in stile cache KV per cui questa unità è progettata, le piccole scritture nell'ordine dei microsecondi, con un limite inferiore a 400 µs, rappresentano il profilo rilevante.
Lettura casuale 4K
Il PS1030 ha confermato le sue prestazioni in scrittura con il secondo miglior picco di lettura casuale 4K del gruppo: 2,255.8K IOPS a IODepth 16 / NumJobs 16 e 112.8 µs, dietro ai 2,555.6K IOPS del SanDisk SN861 e davanti al Micron 9550 MAX (2,217.6K IOPS) e al CD9P-R (2,165.0K IOPS). Con IODepth 1 / NumJobs 1, la firma a bassa latenza di KIOXIA si è confermata leader: il CM9-R a 29.3 µs e il CD9P-R a 30.4 µs, ma i 56.8 µs del PS1030 sono stati i migliori tra gli altri, superando il suo predecessore, entrambi i 9550 (circa 65 µs) e l'SN861 (67.8 µs). Un'unità a uso misto che si posiziona al secondo posto sia in lettura che in scrittura 4K raggiunge il suo apice in un settore così fortemente orientato alla lettura, coprendo entrambe le metà della sua descrizione del lavoro.
Archiviazione diretta GPU
Uno dei test che abbiamo condotto su questo banco di prova è stato il test Magnum IO GPU Direct Storage (GDS). GDS è una funzionalità sviluppata da NVIDIA che consente alle GPU di bypassare la CPU quando accedono ai dati archiviati su unità NVMe o altri dispositivi di archiviazione ad alta velocità. Invece di instradare i dati attraverso la CPU e la memoria di sistema, GDS consente la comunicazione diretta tra la GPU e il dispositivo di archiviazione, riducendo significativamente la latenza e migliorando la velocità di elaborazione dei dati.
Come funziona l'archiviazione diretta GPU
Tradizionalmente, quando una GPU elabora i dati memorizzati su un'unità NVMe, i dati devono prima passare attraverso la CPU e la memoria di sistema prima di raggiungere la GPU. Questo processo introduce colli di bottiglia, poiché la CPU funge da intermediario, aggiungendo latenza e consumando preziose risorse di sistema. GPU Direct Storage elimina questa inefficienza consentendo alla GPU di accedere ai dati direttamente dal dispositivo di archiviazione tramite il bus PCIe. Questo percorso diretto riduce il sovraccarico di trasferimento dei dati, consentendo trasferimenti più rapidi ed efficienti.
I carichi di lavoro AI, in particolare quelli che coinvolgono il deep learning, sono altamente intensivi in termini di dati. L'addestramento di grandi reti neurali richiede l'elaborazione di terabyte di dati e qualsiasi ritardo nel trasferimento dei dati può portare a GPU sottoutilizzate e tempi di addestramento più lunghi. GPU Direct Storage affronta questa sfida assicurando che i dati vengano consegnati alla GPU il più rapidamente possibile, riducendo al minimo i tempi di inattività e massimizzando l'efficienza computazionale.
Inoltre, GDS è particolarmente utile per carichi di lavoro che comportano lo streaming di grandi set di dati, come l'elaborazione video, l'elaborazione del linguaggio naturale o l'inferenza in tempo reale. Riducendo la dipendenza dalla CPU, GDS accelera lo spostamento dei dati e libera risorse della CPU per altre attività, migliorando ulteriormente le prestazioni complessive del sistema.
Velocità di lettura sequenziale GDSIO
Nel segmento con blocchi da 16K, la PS1030 ha aperto a circa 0.2 GiB/s su un singolo thread, il punto di ingresso più basso del gruppo, in linea con la sua latenza di lettura GDS su singolo thread di 71.6 µs (il suo modello gemello ha registrato 71.1 µs, la stessa caratteristica della piattaforma che abbiamo segnalato nella recensione della CD9P-R). Ha poi scalato costantemente nella fascia media, chiudendo il segmento intorno a 1.6 GiB/s a 16K/128, mentre la coppia KIOXIA ha mantenuto la leadership del segmento con circa 2.0 GiB/s. Il vantaggio di scalabilità multithread delle unità KIOXIA si è mantenuto anche nel segmento 128K, con i modelli CD9P-R e CM9-R che hanno preso il largo fino a 128K/16, mentre il PS1030 ha seguito il gruppo principale, raggiungendo circa 4.7 GiB/s a 128K/64 e 5.0 GiB/s a 128K/128.
Nel segmento 1M, il campo si è allineato. Il PS1030 ha raggiunto il suo picco di 5.95 GiB/s (1M/32), entro il 3.5% dal miglior risultato del gruppo di 6.16 GiB/s del CD9P-R, con il CM9-R a 6.06, il PS1010 e il 9550 MAX a 6.05 e il 9550 Pro a 5.97 GiB/s. Il 7600 MAX si è classificato ultimo con 5.59 GiB/s. Al picco di 16K IOPS, la coppia KIOXIA ha primeggiato (136.4K per il CM9-R, 134.2K per il CD9P-R), mentre i 101.2K del PS1030 sono stati i più bassi del gruppo; le letture dirette GPU a blocchi piccoli non sono semplicemente il punto di forza di questa piattaforma.
Velocità di scrittura sequenziale GDSIO
Il grafico relativo alla velocità di scrittura è quello che gli acquirenti del PS1030 dovrebbero studiare, perché contiene sia i punti di forza dell'unità che la sua unica vera anomalia. Nel segmento 16K, tutte e otto le unità si sono posizionate nella fascia da 0.5 a 1.5 GiB/s e la latenza di scrittura single-thread del PS1030 di 22.3 µs si è collocata nel gruppo di testa insieme alle due unità KIOXIA (21.4 µs ciascuna) e al suo modello gemello (21.9 µs). Nel segmento 128K, il PS1030 ha scalato in modo pulito fino a circa 3.95 GiB/s a 128K/32, per poi crollare bruscamente: circa 2.35 GiB/s a 128K/64 e 1.55 GiB/s a 128K/128, meno di un terzo delle prestazioni dei leader del segmento. Si tratta dello stesso collasso di scrittura con un elevato numero di thread che abbiamo documentato sul PS1010 nella recensione del CD9P-R, riprodotto quasi punto per punto sul PS1030 (il PS1010 è sceso a 2.5, poi a 1.65 GiB/s agli stessi valori). Qualunque sia la causa, risiede nella piattaforma, non nel livello di resistenza, e rimane il difetto più significativo nel set di dati.
Il segmento 1M si è ammorbidito ma non ha cancellato il pattern. Il PS1030 ha raggiunto un picco di 4.22 GiB/s (1M/8), davanti solo al suo fratello minore con 4.17 GiB/s, ed è sceso a circa 3.35 GiB/s a 1M/128 mentre il CM9-R ha mantenuto la linea più stabile del gruppo verso il suo picco di 5.51 GiB/s, e il 9550 MAX ha raggiunto il picco più alto a 5.69 GiB/s con la sua volatilità documentata, scendendo vicino a 2.2 GiB/s a 1M/64. Il 9550 Pro (5.54), il 7600 MAX (5.44), il CD9P-R (4.86) e l'SN861 (4.59 GiB/s) hanno completato l'ordine. Il vantaggio per l'acquirente ideale del PS1030: la cache KV e i livelli di log scrivono con un numero moderato di thread per unità, dove il PS1030 si comporta in modo impeccabile, non con gli oltre 64 thread di scrittura diretta sulla GPU dove si verifica il collasso. La nostra implementazione di cache KV ha utilizzato otto di queste unità per settimane senza che l'array si avvicinasse mai al collo di bottiglia. Tuttavia, chiunque preveda di eseguire streaming di scrittura GDS multi-thread intensivo su questa piattaforma dovrebbe prima eseguire dei benchmark con il proprio specifico schema di utilizzo.
Conclusione
Il Solidigm D7-PS1030 fa quello che ci si aspetta da un'unità Gen5 di fascia media, e i dati mostrano un'unità con un set di capacità ben definito. La sua caratteristica principale è l'elaborazione parallela di piccoli blocchi: secondo nel gruppo sia in scrittura casuale 4K (1,595.8K IOPS, dietro solo al Micron 7600 MAX da 3 DWPD) che in lettura casuale 4K (2,255.8K IOPS), il miglior risultato del gruppo in lettura casuale 64K a 14,162.9 MB/s e la velocità di linea Gen5 completa in lettura sequenziale 128K a 14,156.4 MB/s. Altrettanto interessante è il modo in cui raggiunge questi risultati: picchi a IODepth 2 o NumJobs 8 con latenza di decine di microsecondi, laddove i concorrenti necessitano di code profonde e ne pagano il prezzo in termini di latenza. L'unità si satura rapidamente, mantiene una velocità costante e, nel caso peggiore, la latenza di scrittura si attesta alla metà di quella del modello gemello PS1010.
Lo slot XE7740 che ospitava il livello PS1030 a otto unità nel nostro progetto di offload della cache KV.
Ci sono però dei compromessi. Le scritture sequenziali a 128K con un singolo worker si sono classificate ultime nel gruppo con 6,370.3 MB/s, e il checkpointing DLIO, che sollecita proprio questo schema, ha raggiunto la media più alta del gruppo nel Pass 3 con 599.2 secondi. Anche i test sequenziali a 16K sono rimasti indietro rispetto alla concorrenza in entrambi i casi, con un picco di scrittura di 5,977.7 MB/s e un picco di lettura di 11,142.8 MB/s, entrambi al settimo posto su otto. Il test di scrittura GDSIO ha riprodotto il calo a 128K con thread elevati del PS1010 quasi punto per punto, confermando che si tratta di un comportamento della piattaforma piuttosto che di un caso isolato, e le letture dirette GPU a blocchi piccoli favoriscono le unità KIOXIA con un ampio margine. Nulla di tutto ciò sminuisce il ruolo dell'unità, ma lo evidenzia: il PS1030 non è l'unità adatta per l'ingestione a flusso singolo.
Ciò per cui è stato progettato, lo ha già dimostrato in modo più approfondito rispetto a qualsiasi test di laboratorio. Otto di queste unità sono state utilizzate per settimane come livello di offload della cache KV nel nostro lavoro di inferenza XE7740 , assorbendo 1.9 GB/s di scritture continue 24 ore su 24 con un duty cycle che ha sfiorato il loro valore nominale di 3 DWPD, e il livello non è mai diventato il collo di bottiglia. I dati di laboratorio spiegano il perché di questo successo: un comportamento di scrittura a saturazione precoce, una latenza di scrittura 4K di pochi microsecondi a basse profondità di coda e un limite di latenza controllato sono esattamente le caratteristiche che una cache o un livello di log a scrittura continua premiano. Carichi di lavoro di scrittura con elevata resistenza, sensibili alla latenza e moderata concorrenza, offload della cache KV, logging OLTP e livelli di metadati sono il campo in cui il PS1030 trova la sua collocazione ideale, e dove il suo budget di 3 DWPD e l'opzione triennale di 4.98 DWPD gli consentono di operare con duty cycle che lo escluderebbero dalla classe ad alta intensità di lettura.
Amazon