Brian en zijn team zijn onlangs in Montreal geland om het laboratorium van Hypertec te bezichtigen en samen met de leider op dit gebied een aantal interessante trends op het gebied van immersiekoeling te aanschouwen.
Na de rondleiding door het lab en de productdemonstraties spreekt Brian met Scott Shadley, Director of Leadership Narrative bij Solidigm. Scott en Brian voeren een levendig en openhartig gesprek over de evolutie van koeling, flashopslag en het loslaten van traditionele harde schijven.
Het draait echter niet alleen om immersietechnologie. Brian en Scott bespreken de uitdagingen op het gebied van signaalintegriteit in PCIe Gen5/6 en de afweging tussen prestaties en betrouwbaarheid. Natuurlijk kan een podcast niet zonder een AI-segment, dus behandelen we onderwerpen zoals AI-gestuurde datagroei, RAID-veerkracht en "blast radius"-beheer van grote schijven.
Scott bespreekt Solidigms focus op het ontwikkelen van producten die klanten willen, in plaats van te gissen wat de industrie nodig heeft. Dit werkt alleen als leveranciers nauw samenwerken met klanten om hun pijnpunten te begrijpen. Scott verdiept zich in de samenwerking met NVIDIA. Je hoort de opwinding in Scotts stem. Omdat het een enorme hardwareomgeving is, kan Brian de glimlach natuurlijk nauwelijks van zijn gezicht krijgen.
In deze podcast komen alle aspecten aan bod, van de eerste Fibre Channel-schijven tot flash en NVMe. Ook edge computing-toepassingen, AI-inferentie-offload en immersiegekwalificeerde SSD-ontwikkelingen komen aan bod.
Deze podcast is een must voor iedereen die geïnteresseerd is in de evolutie van immersiekoeling en flashopslag, en waarom een sterk partnerecosysteem cruciaal is voor klantensucces. Als je 35 minuten extra hebt, luister of bekijk hem dan van begin tot eind; het is de moeite waard. Als je specifieke onderwerpen wilt verkennen, hebben we hem opgedeeld in segmenten van vijf minuten.
0:00 – 5:00 | Immersiekoeling en industriële trends
Hoogtepunten:
- Opening vanuit Montreal met Solidigm en Hypertec.
- Discussie over onderdompeling koeling, vloeistof- versus luchtkoelingen een rondleiding door de fabriek van Hypertec.
- Vermelding van OCP en hoe datacentertechnici 'loodgieters' worden dankzij de wijdverbreide vloeistofgekoelde infrastructuur.
- De samenwerking van Solidigm met partners op oplossingen voor vloeistofkoeling direct op chip is mede ontworpen met NVIDIA.
- Filosofie van open innovatie: Solidigm draagt via SNIA IP bij aan industriële standaarden om interoperabiliteit te garanderen.
- Nadruk op klantgedreven innovatie boven het najagen van de volgende PCIe- of interfacegeneratie.
5:00 – 10:00 | Evolutie van flash-opslag en vormfactoren
Hoogtepunten:
- Terugblik op de eerste enterprise flash-toepassingen (Intel X25, SAS/Fibre Channel SSD's).
- De overstap van traditionele harde schijven naar SSD's en het 'breek de doos'-moment met NVMe.
- Opkomst van nieuwe vormfactoren (EDSFF → E1.S, E1.L, E3).
- Discussie over hoe standaardisatie evolueert verder dan traditionele 2.5" en 3.5" schijfontwerpen.
- Ontwerpuitdagingen met immersieomgevingen en flashplatforms met een hoge dichtheid.
- Het belang van thermische stabiliteit: consistente omgevingen verbeteren de duurzaamheid en betrouwbaarheid.
- Innovaties op het gebied van koeling zorgen direct voor een langere levensduur van SSD's en een hogere efficiëntie.
10:00 – 15:00 | PCIe-generaties, signaalintegriteit en systeemontwerp
Hoogtepunten:
- Over gesproken connectorontwerp uitdagingen in next‑gen cold‑plate- en PCIe Gen 5- en 6-omgevingen.
- Problemen met signaalintegriteit nemen toe door PCIe 3→5→6: Elke generatie is gevoeliger voor lawaai.
- Analogie: PCIe-evolutie van 3G naar 5G: meer knooppunten, kortere afstand, nauwere toleranties.
- Solidigm's visie: optimaliseren systeemarchitectuur en dichtheid in plaats van het najagen van pure rijsnelheid.
- Veel zakelijke klanten blijven op Gen4 omdat het 'snel genoeg' is voor gedistribueerde workloads.
- Verschuiving van pure prestatie naar holistisch doorvoer, betrouwbaarheid en efficiëntie.
15:00 – 20:00 | Betrouwbaarheid, capaciteit en klantvertrouwen
Hoogtepunten:
- Prestaties zijn in evenwicht met kwaliteit, levensduur en consistentie.
- SSD's bereiken de "betrouwbaarheid van een DIMM". Veel klanten stoppen met het verwisselen van schijven; ze falen "op een welsprekende manier".
- Klanttevredenheid en vertrouwen staan bij ons voorop; Solidigm scoort hoog in leveranciersbeoordelingen.
- De opkomst van ultra-dichte schijven zoals 122TB-modellen (D5‑P5336-familie) en discussie over adoptie.
- Grotere capaciteiten zijn geen haloproducten meer.
- Uitdaging voor de productie: Kleinere schijven zijn moeilijker te produceren naarmate de NAND-dichtheid toeneemt.
- Schijven op maat voor totale eigendomskosten (TCO) optimalisatie; aanpak om “draaiende schijven te vervangen.”
20:00 – 25:00 | Datagroei, AI en zorgen over explosieradius
Hoogtepunten:
- De industrie verschuift van het verwijderen van gegevens naar alles op peil houden, van brandstof voorzien by AI-training en -inferentie behoeften.
- Trend op het gebied van ‘datasoevereiniteit’: regionale trainingsdatasets leiden tot meer gelokaliseerde capaciteitsvereisten.
- Groeiende vraag naar enorme lokale opslag om wereldwijde modellen zoals GPT aan te passen.
- Discussie over de ‘explosieradius’ en het risico om een 100 te verliezen TB-schijf.
- Hardware-RAID voor NVMe is terug; GPU-versnelde pariteitsrebuilds worden steeds populairder.
- SSD-reconstructies gaan snel. Downtime is belangrijker dan permanent gegevensverlies.
- Veel operators nu ontwerp voor 'failure-in-place'-architecturen in plaats van handmatige omwisselingen.
25:00 – 30:00 | Toekomstige richtingen, AI-voorsprong en innovatiemogelijkheden
Hoogtepunten:
- Reflectie op voorraadtekorten in de hele sector als gevolg van de AI-hausse en achterblijvende leveringen van NAND.
- Unieke kans om heroverweeg architecturen en mogelijke nieuwe vormfactoren of geïntegreerde flash + netwerkmogelijkheden.
- Edge-innovatie: NVIDIA's Spark en Jetson producten vervagen de grenzen tussen datacenters en desktops.
- Verkenning van NVMe-offload voor inferentie en ophaalversterkte generatie (RAG).
- Hoop op een toekomst waarin innovaties op het gebied van opslag centraal staan bij GTC, naast computing en DRAM.
- Nadruk op samenwerking tussen sectoren. SNIA's Nieuwe werkgroepen “Storage.AI” integreren opslag-, netwerk- en AI-afstemmingsinspanningen.
30:00 – 34:00 | Slotgedachten en testen op locatie
Hoogtepunten:
- Terug naar de immersieservers van Hypertec voor praktijktests met Solidigm-schijven.
- Discussie over thermische stabiliteitsvoordelen: constante temperaturen, dus geen vertragingen.
- Solidigm werkt aan volledig gekwalificeerde SSD's voor op koolwaterstoffen gebaseerde immersievloeistoffen.
- Slotgesprek: Gemeenschappelijk enthousiasme over praktische experimenten, consistente prestaties en hardware-innovatie.
- Samenvatting en afscheid uit Montreal.
Amazon