Brian e il suo team sono atterrati di recente a Montreal per visitare il laboratorio Hypertec e scoprire alcune interessanti tendenze nel campo del raffreddamento a immersione, con l'azienda leader nel settore.
Dopo la visita al laboratorio e le dimostrazioni di prodotto, Brian incontra Scott Shadley, Direttore della Leadership Narrative di Solidigm. Scott e Brian hanno una discussione vivace e sincera, ripercorrendo l'evoluzione del raffreddamento, dello storage flash e dell'abbandono dei tradizionali formati di hard disk.
Tuttavia, non si tratta solo di tecnologia immersiva. Brian e Scott discutono le sfide dell'integrità del segnale in PCIe Gen5/6 e il compromesso tra prestazioni e affidabilità. Naturalmente, non può esserci un podcast senza un segmento dedicato all'intelligenza artificiale, quindi affrontiamo argomenti come la crescita dei dati basata sull'intelligenza artificiale, la resilienza RAID e la gestione del "raggio di esplosione" delle unità di grandi dimensioni.
Scott parla dell'attenzione di Solidigm nello sviluppo di prodotti che soddisfino le esigenze dei clienti, anziché indovinare le esigenze del settore. Questo funziona solo quando i fornitori collaborano a stretto contatto con i clienti per comprenderne i punti deboli. Scott parla della collaborazione con NVIDIA. È facile percepire l'entusiasmo nella sua voce. Naturalmente, trattandosi di un ambiente hardware di grandi dimensioni, Brian fa fatica a togliersi il sorriso dal volto.
Questo podcast copre tutto, dalle prime unità Fibre Channel alle memorie flash e NVMe, ed esplora anche le applicazioni di edge computing, l'offload dell'inferenza AI e gli sviluppi di SSD qualificati per l'immersione.
Questo podcast è un must per chiunque sia interessato all'evoluzione del raffreddamento a immersione e dello storage flash, e al motivo per cui un solido ecosistema di partner è fondamentale per il successo dei clienti. Se avete 35 minuti in più, ascoltatelo o guardatelo dall'inizio alla fine: ne vale la pena. Se desiderate approfondire argomenti specifici, lo abbiamo suddiviso in segmenti da cinque minuti.
0:00 – 5:00 | Raffreddamento a immersione e tendenze del settore
Punti chiave:
- Apertura da Montreal con Solidigm e Hypertec.
- Discussione di raffreddamento ad immersione, raffreddamento a liquido vs. ad ariae visitando la struttura di Hypertec.
- Menzione di OCP e di come gli ingegneri dei data center stiano "diventando idraulici" a causa della diffusione delle infrastrutture raffreddate a liquido.
- La collaborazione di Solidigm con i partner su soluzioni di raffreddamento a liquido diretto al chip è progettato in collaborazione con NVIDIA.
- Filosofia dell'innovazione aperta: Solidigm contribuisce con la proprietà intellettuale agli standard del settore tramite SNIA per garantire l'interoperabilità.
- Enfasi su innovazione guidata dal cliente piuttosto che inseguire la prossima generazione di PCIe o di interfaccia.
5:00 – 10:00 | Evoluzione dell'archiviazione flash e dei fattori di forma
Punti chiave:
- Riflessioni sui primi flash aziendali (Intel X25, SSD SAS/Fibre Channel).
- Passaggio dai dischi rigidi tradizionali agli SSD e il momento di "rompere gli schemi" con NVMe.
- Emersione di nuovi fattori di forma (EDSFF → E1.S, E1.L, E3).
- Discussione su come la standardizzazione si sta evolvendo oltre i tradizionali design da 2.5" e 3.5".
- Sfide di progettazione con ambienti immersivi e piattaforme flash ad alta densità.
- Importanza della stabilità termica: ambienti coerenti migliorano la resistenza e l'affidabilità.
- Le innovazioni nel raffreddamento sono direttamente collegate a una maggiore durata degli SSD e a una maggiore efficienza.
10:00 – 15:00 | Generazioni PCIe, integrità del segnale e progettazione del sistema
Punti chiave:
- Parlare progettazione del connettore sfide negli ambienti cold-plate e PCIe Gen 5 e 6 di nuova generazione.
- I problemi di integrità del segnale aumentano con PCIe 3→5→6: Ogni generazione aumenta la suscettibilità al rumore.
- Analogia: evoluzione PCIe da 3G a 5G: più nodi, distanze più brevi, tolleranze più strette.
- La visione di Solidigm: ottimizzare architettura e densità del sistema invece di inseguire la velocità pura e semplice del disco.
- Molti clienti aziendali continuano a utilizzare Gen4 perché è "abbastanza veloce" per i carichi di lavoro distribuiti.
- Passare dalla pura performance all'olismo produttività, affidabilità ed efficienza.
15:00 – 20:00 | Affidabilità, capacità e fiducia del cliente
Punti chiave:
- Le prestazioni sono bilanciate con qualità, longevità e coerenza.
- Gli SSD raggiungono "l'affidabilità di un DIMM". Molti clienti smettono di sostituire le unità; i guasti sono "eloquenti".
- La soddisfazione e la fiducia del cliente sono le massime priorità; Solidigm ottiene punteggi elevati nelle valutazioni dei fornitori.
- Ascesa di unità ultra-dense come Modelli da 122 TB (Famiglia D5‑P5336) e discussione sull'adozione.
- Le capacità maggiori non sono più prodotti Halo.
- Sfida produttiva: unità più piccole sono più difficili da produrre con l'aumentare della densità NAND.
- Unità dimensionate per costo totale di proprietà (TCO) ottimizzazione; approccio per “sostituire i dischi rotanti”.
20:00 – 25:00 | Crescita dei dati, intelligenza artificiale e preoccupazioni relative al raggio di esplosione
Punti chiave:
- Il passaggio del settore dall'eliminazione dei dati a mantenendo tutto, alimentato by Addestramento e inferenza dell'intelligenza artificiale esigenze.
- Tendenza alla “sovranità dei dati”: i set di dati di formazione regionali comportano requisiti di capacità più localizzati.
- La crescente domanda di enorme spazio di archiviazione locale per adattare modelli globali come GPT.
- Discussione sul “raggio di esplosione” e sul rischio di perdere 100 Unità TB.
- È tornato il RAID hardware per NVMe; le ricostruzioni di parità accelerate dalla GPU stanno guadagnando terreno.
- La ricostruzione degli SSD è rapida. La vera preoccupazione è il tempo di inattività, non la perdita permanente dei dati.
- Molti operatori ora progettazione per architetture failure-in-place invece di scambi manuali.
25:00 – 30:00 | Direzioni future, AI Edge e opportunità di innovazione
Punti chiave:
- Riflessione sulla carenza di scorte nell'intero settore causata dal boom dell'intelligenza artificiale e dai ritardi nella fornitura di NAND.
- Un'opportunità unica per ripensare le architetture e le possibili nuovi fattori di forma o flash integrato + networking.
- Innovazione all'avanguardia: NVIDIA Spark e Jetson i prodotti confondono i confini tra data center e desktop.
- Esplorazione di Scarico NVMe per inferenza e generazione aumentata del recupero (RAG).
- Speranza per un futuro in cui le innovazioni in ambito storage saranno al centro dell'attenzione al GTC, insieme a elaborazione e DRAM.
- Enfasi su collaborazione intersettoriale. SNIA i nuovi gruppi di lavoro “Storage.AI” integrano gli sforzi di allineamento tra storage, networking e intelligenza artificiale.
30:00 – 34:00 | Considerazioni conclusive e test in loco
Punti chiave:
- Ritorno ai server immersivi di Hypertec per test reali con unità Solidigm.
- Discussione di vantaggi della stabilità termica: temperature costanti equivalgono a nessuna limitazione.
- Solidigm sta lavorando per SSD completamente qualificati per liquidi di immersione a base di idrocarburi.
- Conversazione conclusiva: entusiasmo reciproco per la sperimentazione pratica, la coerenza delle prestazioni e l'innovazione hardware.
- Conclusioni e saluti da Montreal.
Amazon