KIOXIAs Maulik Sompura deltar med Brian i en djupgående och informativ diskussion om allt som rör flash och andra branschhändelser. Ämnet är aktuellt och relevant med tanke på den massiva expansionen av AI och moderna arbetsbelastningar.
Maulik Sompura är Senior Staff Director – Produktplanering och Management på KIOXIA, med över 13 års erfarenhet av NAND, minne och SSD-diskar, inklusive de senaste sex åren på KIOXIA. Dessutom har han arbetat på Intel och Toshiba.
Samtalet sträcker sig bortom lagring och minne, övergången till vätskekylning, hyperskalare och formfaktorer. De diskuterar också programvara med öppen källkod, nya fabriker, oro kring skalning och rädsla för ytterligare en "Covid-boom-and-bust"-händelse.
Det är ett informativt samtal som kommer att få dig att tänka på något långsiktigt. Vi har delat upp podden i fem minuter långa segment, så att du kan hoppa till det avsnitt som är mest relevant för dig och din omgivning. Det är dock väl värt att ta sig tid att titta på den i sin helhet.
Brian och Maulik inleder diskussionen med hur radikalt SSD-diskar och flashlagring har utvecklats, särskilt under trycket från AI och hyperskaliga datacenter.
0:00–5:00: Hyperskalare styr showen i tysthet
- SSD-portföljer har exploderat i komplexitet: många formfaktorer, uthållighetsnivåer och prestandanivåer.
- AI-boomen har flyttat lagring direkt efter GPU:er/HBM som en högsta prioritet.
- Hyperskalare (Meta, Google, Amazon, etc.) dikterar detaljerade krav på enheter, och dessa anpassade designer formar i slutändan vad företag får.
- OCP-specifikationer hjälper till att förena och förenkla kaoset genom att ge alla ett gemensamt mål ovanpå NVMe.
- Branschen försöker aktivt minska antalet SKU:er och konvergera mot moderna formfaktorer som E3, även om äldre formfaktorer finns kvar.
5:00–10:00: E3-, E2- och Petabyte-klass-diskar
- E3 blir den föredragna företagsformfaktorn för Gen6+ på grund av dess bättre kraft- och temperaturegenskaper.
- 2.5-tumshårddiskar kommer att hålla i åratal på grund av långa produktlivscykler, men nya designer går över till EDSFF.
- E2 är en större, kapacitetsförstärkande SSD-formfaktor, ses som en riktig hårddiskersättning vid extrem kapacitet.
- Med avancerad NAND-stacking skulle en enda E2-enhet så småningom kunna nå 1 PB.
- Hyperskalare minskar riskerna med gigantiska hårddiskar med hjälp av sharding, raderingskodning och prediktiv analys; återuppbyggnadstiderna för enorma SSD-diskar är fortfarande mycket bättre än för stora hårddiskar.
10:00–15:00: Vätskekylning även för SSD-diskar
- AI-träningssystem driver ett brett införande av vätskekylning, och det sträcker sig nu även till lagring.
- SSD-diskar i E3-formfaktorer omdesignas för direkt kontakt med kalla plattor (ytans planhet, material och kontaktdetaljer).
- Vätskekylda Gen5 SSD-diskar kommer att bana väg för Gen6, där kraft och värme blir ännu högre.
- Företag är försiktiga med att ta in vatten i datacentret, men stigande elkostnader och GPU-täthet kommer att göra det svårare att undvika vätskekylning.
15:00–20:00: AI-lagring: Kapacitet, prestanda och tygstress
- AI driver lagring längs två axlar: massiv kapacitet och mycket hög prestanda.
- KIOXIAs hårddisk i 245 TB-klassen (med 32 QLC-stackar på hög nivå) riktar sig mot datasjöar och stora databaser, inte bara generiska arbetsbelastningar.
- Inuti en modern låda kan lagringskapaciteten nå 250–280 GB/s; flaskhalsen blir alltmer nätverksstrukturen, inte hårddiskarna.
- Hyperskalare tävlar mot 400/800 GbE och smartare nätverkskort/DPU:er, medan medelstora kunder kämpar för att hålla jämna steg med den nivån av investeringar i strukturer.
- Traditionella databaser och Fibre Channel finns kvar, men vektordatabaser och AI-centrerade datalager ansluter sig till mixen.
20:00–25:00: Smartare programvara och en riktig flash-supercykel
- KIOXIA levererar inte bara hårddiskar, de investerar i programvara (t.ex. ISAAC) för att minska HBM/DRAM-behovet samtidigt som AI-prestanda bibehålls.
- Strategin är holistisk: förbättra kostnader och effektivitet på systemnivå, inte bara genom snabbare NAND.
- Nya fabriker som Kitakami (K2) ökar i omlopp, men leverantörer är försiktiga efter covid-erans hög- och lågkonjunkturcykler som kostat branschen ~30 miljarder dollar.
- Att skala upp NAND (fler lager, finare litografi) blir dyrare och sker snabbare, så utbudet kommer att öka, men på ett kontrollerat sätt.
- Många ser detta som en flerårig ”supercykel” driven av AI och datatillväxt, inte bara en normal 1–2-årig snabb uppgång.
25:00–Slut: AI överallt, Flash vs. hårddisk och lärande från HPC
- Data fortsätter att växa och raderas sällan; AI flyttar till varhelst dessa data finns, inklusive edge-nivåer, säkerhetskopior och sekundära nivåer.
- SSD-diskar med hög kapacitet kan leverera ~100 PB per rack, jämfört med flera rack med hårddiskar för samma kapacitet, med betydligt bättre prestanda och effektivitet.
- Hårddiskprestanda skalas inte med kapaciteten; SSD-diskar levererar avsevärt bättre IOPS/GB och dataflöde, vilket förbättrar den totala ägandekostnaden och gynnar flashminne i stor skala.
- Det är på mässor som OCP och Supercomputing (SC) som framtiden först syns: breda rack, 800V-skenor, exotisk kylning och kraftdesign.
- Innovationer inom hyperskalning och HPC formar stadigt hur "normala" företagsservrar och datacenter kommer att se ut, med motståndskraft och effektivitet.
Amazon