Maulik Sompura z KIOXIA se připojí k Brianovi v hloubkové a informativní diskusi o všem, co se týká flashe a dalších akcí v oboru. Toto téma je aktuální a relevantní vzhledem k masivnímu rozšíření umělé inteligence a moderních pracovních úloh.
Maulik Sompura je vedoucím pracovníkem pro plánování a management produktů ve společnosti KIOXIA s více než 13 lety zkušeností v oblasti NAND, pamětí a SSD disků, včetně posledních šesti let ve společnosti KIOXIA. Kromě toho pracoval pro společnosti Intel a Toshiba.
Konverzace se neomezuje jen na úložiště a paměti, ale přechází k kapalinovému chlazení, hyperscalerům a tvarovým faktorům. Diskutují také o open-source softwaru, nových továrnách, obavách ze škálování a obavách z dalšího „covidového boomu a krachu“.
Je to informativní konverzace, která vás přiměje k dlouhodobým úvahám. Podcast jsme rozdělili na pětiminutové segmenty, abyste mohli přeskočit na sekci, která je pro vás a vaše okolí nejrelevantnější. Nicméně stojí za to si ho pustit celý.
Brian a Maulik zahajují diskusi o tom, jak radikálně se vyvinuly SSD disky a flash úložiště, zejména pod tlakem umělé inteligence a hyperscale datových center.
0:00–5:00: Hyperscalery tiše řídí hru
- Portfolia SSD disků explodovala co do složitosti: nabízí mnoho tvarových faktorů, úrovní odolnosti a výkonnostních úrovní.
- Boom umělé inteligence posunul úložiště hned za GPU/HBM jako prioritu první třídy.
- Hyperškálové společnosti (Meta, Google, Amazon atd.) diktují detailní požadavky na disky a tyto vlastní návrhy nakonec formují to, co podniky dostanou.
- Specifikace OCP pomáhají sjednotit a zjednodušit chaos tím, že všem poskytují společný cíl nad rámec NVMe.
- Toto odvětví se aktivně snaží zmenšit počet skladových jednotek (SKU) a přejít na moderní provedení, jako je E3, a to i přesto, že starší provedení přetrvávají.
5:00–10:00: Disky třídy E3, E2 a Petabajt
- Díky lepším energetickým a tepelným charakteristikám se E3 stává preferovaným podnikovým formátem pro Gen6+.
- 2.5″ disky se kvůli dlouhé životní cykly produktů budou používat ještě roky, ale nové designy přecházejí na EDSFF.
- E2 je větší SSD disk s důrazem na kapacitu, který je považován za skutečnou náhradu pevných disků s extrémní kapacitou.
- Díky pokročilému stohování NAND by jeden disk E2 mohl nakonec dosáhnout kapacity 1 PB.
- Hyperškálovač disků zmírňuje rizika spojená s obřími disky pomocí shardingu, erasure codingu a prediktivní analýzy; doby obnovy u obrovských SSD disků jsou stále mnohem lepší než u velkých HDD disků.
10:00–15:00: Kapalinové chlazení se dodává i pro SSD disky
- Tréninkové systémy s využitím umělé inteligence vedou k širokému zavádění kapalinového chlazení, a to se nyní rozšiřuje i na úložiště dat.
- SSD disky ve form faktoru E3 jsou nově navrženy pro přímý kontakt se studenými deskami (plochost povrchu, materiály a detaily konektorů).
- Kapalinou chlazené SSD disky Gen5 připraví cestu pro Gen6, kde je spotřeba energie a teplo ještě vyšší.
- Podniky jsou opatrné, pokud jde o zavádění vody do datových center, ale rostoucí náklady na energii a hustota grafických karet ztěžují vyhnutí se kapalinovému chlazení.
15:00–20:00: Úložiště s umělou inteligencí: Kapacita, výkon a namáhání sítě
- Umělá inteligence posouvá úložiště ve dvou směrech: masivní kapacita a velmi vysoký výkon.
- Disk KIOXIA třídy 245 TB (s 32 QLC zásobníky) je určen pro datová jezera a rozsáhlá úložiště, nejen pro generické úlohy.
- V moderním úložišti může úložiště dosáhnout rychlosti 250–280 GB/s; úzkým hrdlem se stále častěji stává síťová struktura, nikoli disky.
- Hyperscalery se předhánějí v 400/800 GbE a inteligentnějších síťových karet/procesorových jednotkách (NIC/DPU), zatímco středně velcí zákazníci se s takovou úrovní investic do fabric potýkají jen s obtížemi.
- Tradiční databáze a Fibre Channel zůstávají, ale přidávají se k nim vektorové databáze a datová úložiště zaměřená na umělou inteligenci.
20:00–25:00: Chytřejší software a skutečný supercyklus flash paměti
- KIOXIA nejen dodává disky, ale investuje do softwaru (např. ISAAC), aby snížila nároky na HBM/DRAM a zároveň zachovala výkon umělé inteligence.
- Strategie je holistická: zlepšit náklady a efektivitu na úrovni systému, nejen prostřednictvím rychlejší NAND paměti.
- Nové továrny jako Kitakami (K2) se rozjíždějí, ale dodavatelé jsou opatrní po cyklech boomu a krachu v době covidu, které stály toto odvětví přibližně 30 miliard dolarů.
- Škálování NAND (více vrstev, jemnější litografie) je stále dražší a rychlejší, takže nabídka poroste, ale kontrolovaným způsobem.
- Mnozí to vnímají jako několikaletý „supercyklus“ poháněný umělou inteligencí a růstem dat, nikoli jen jako běžný jedno- až dvouletý záblesk vzestupu.
25:00–Konec: Umělá inteligence všude, Flash vs. HDD a učení se z HPC
- Data neustále rostou a jen zřídka se mažou; umělá inteligence se přesouvá tam, kde se tato data nacházejí, včetně edge computingu, záloh a sekundárních vrstev.
- Vysokokapacitní SSD disky mohou poskytnout přibližně 100 PB na rack, oproti více rackům s pevnými disky stejné kapacity, a to s mnohem lepším výkonem a efektivitou.
- Výkon pevných disků se neškáluje s kapacitou; SSD disky poskytují řádově lepší IOPS/GB a propustnost, čímž zlepšují celkové náklady na vlastnictví (TCO) a ve velkém měřítku upřednostňují flash disky.
- Veletrhy jako OCP a superpočítače (SC) jsou místy, kde je budoucnost viditelná jako první: široké rozvaděče, 800V sběrnice, exotické chlazení a návrhy napájení.
- Inovace v oblasti hyperškálování a HPC neustále utvářejí, jak budou vypadat „běžné“ podnikové servery a datová centra, a to z hlediska odolnosti a efektivity.
Amazon