Podcast #142: Co bude dál s úložištěm v éře umělé inteligence?

Brian a jeho tým nedávno přistáli v Montrealu, aby si prohlédli laboratoř společnosti Hypertec a byli svědky zajímavých trendů v imerzním chlazení s lídrem v oboru.

Po prohlídce laboratoře a ukázkách produktů se Brian setkává se Scottem Shadleym, ředitelem pro narativ v oblasti vedení společnosti Solidigm. Scott a Brian vedou živou a otevřenou diskusi, při níž sledují vývoj chlazení, flash úložišť a odklonu od starších pevných disků.

Nejde však jen o imerzní technologii. Brian a Scott diskutují o problémech s integritou signálu v PCIe Gen5/6 a o kompromisu mezi výkonem a spolehlivostí. Podcast samozřejmě nemůže existovat bez segmentu o umělé inteligenci, takže se zabýváme tématy, jako je růst dat řízený umělou inteligencí, odolnost RAID a správa „poloměru výbuchu“ velkých disků.

Scott hovoří o zaměření společnosti Solidigm na vývoj produktů, které zákazníci chtějí, spíše než na hádání potřeb daného odvětví. To funguje pouze tehdy, když dodavatelé úzce spolupracují se zákazníky, aby pochopili jejich problematická místa. Scott se pouští do spolupráce se společností NVIDIA. V Scottově hlase je snadno slyšet nadšení. Samozřejmě, protože se jedná o masivní hardwarové prostředí, Brian má jen těžko setřást úsměv z tváře.

Tento podcast se zabývá všemi aspekty od raných disků Fibre Channel až po flash paměti a NVMe a také se zabývá aplikacemi edge computingu, odlehčením zátěže pomocí umělé inteligence a vývojem SSD disků vhodných pro imerzní použití.

Tento pod je nutností pro každého, kdo se zajímá o vývoj imerzního chlazení a flash úložišť a také o to, proč je silný partnerský ekosystém klíčový pro úspěch zákazníků. Pokud máte 35 minut navíc, poslechněte si to nebo se na to podívejte od začátku do konce; stojí to za to. Pokud byste se chtěli věnovat konkrétním tématům, rozdělili jsme to do pětiminutových segmentů.

0:00 – 5:00 | Imerzní chlazení a trendy v oboru

<strong>Highlights:</strong>

• Zahájení z Montrealu se společnostmi Solidigm a Hypertec.
• Diskuse o ponorné chlazení, kapalinové vs. vzduchové chlazenía prohlídku závodu společnosti Hypertec.
• Zmínka o OCP a o tom, jak se z inženýrů datových center „stávají instalatéři“ kvůli rozšířené infrastruktuře kapalinového chlazení.
• Spolupráce společnosti Solidigm s partnery na Řešení kapalinového chlazení přímo na čip je navržen ve spolupráci s NVIDIA.
• Filozofie otevřených inovací: Solidigm přispívá k duševnímu vlastnictví průmyslových standardů prostřednictvím SNIA, aby byla zajištěna interoperabilita.
• Důraz na inovace zaměřené na zákazníka nad honbou za další generací PCIe nebo rozhraní.

5:00 – 10:00 | Vývoj flash úložišť a tvarových faktorů

<strong>Highlights:</strong>

• Úvahy o raných podnikových flashových diskech (Intel X25, SAS/Fibre Channel SSD).
• Přechod ze starších pevných disků na SSD disky a moment „rozbití krabice“ s NVMe.
• Vznik nových tvarových faktorů (EDSFF) → E1.S, E1.L, E3).
• Diskuse o tom, jak Standardizace se vyvíjí nad rámec tradičních 2.5” a 3.5” diskových jednotek.
• Návrhářské výzvy s imerzními prostředími a platformami s vysokou hustotou flashových procesorů.
• Důležitost tepelná stabilita: Konzistentní prostředí zlepšují odolnost a spolehlivost.
• Inovace v chlazení přímo souvisí s delší životností SSD disků a vyšší účinností.

10:00 – 15:00 | Generace PCIe, integrita signálu a návrh systémů

<strong>Highlights:</strong>

• Mluvit o design konektoru výzvy v prostředích nové generace chladicích desek a PCIe Gen 5 a 6.
• Problémy s integritou signálu narůstají od PCIe 3→5→6: S každou generací se zvyšuje náchylnost k hluku.
• Analogie: Vývoj PCIe z 3G na 5G: více uzlů, kratší vzdálenost, přísnější tolerance.
• Solidigmův pohled: optimalizace architektura a hustota systému místo honu za hrubou rychlostí jízdy.
• Mnoho podnikových zákazníků zůstává u 4. generace, protože je „dostatečně rychlá“ pro distribuované úlohy.
• Posun od čistého výkonu k holistickému propustnost, spolehlivost a efektivita.

15:00 – 20:00 | Spolehlivost, kapacita a důvěra zákazníků

<strong>Highlights:</strong>

• Výkon je vyvážený s kvalita, dlouhověkost a konzistence.
• SSD disky dosahují „spolehlivosti DIMM disků“. Mnoho zákazníků přestává disky vyměňovat; selhávají „výmluvně“.
• Spokojenost a důvěra zákazníků jsou nejvyšší prioritou; Solidigm se v hodnocení dodavatelů umístil na vysokých příčkách.
• Vzestup ultrahustých disků, jako je Modely s kapacitou 122 TB (Řada D5‑P5336) a diskuse o adopci.
• Větší kapacity již nejsou produkty typu halo.
• Výzva ve výrobě: Menší disky se s rostoucí hustotou NAND hůře vyrábějí.
• Pohony dimenzované pro celkové náklady na vlastnictví (TCO) optimalizace; přístup k „výměně rotujících disků“.

20:00 – 25:00 | Růst dat, umělá inteligence a obavy z dosahu výbuchu

<strong>Highlights:</strong>

• Přechod odvětví od mazání dat k udržovat vše poháněné by Trénování a inference umělé inteligence potřeby.
• Trend „datové suverenity“: Regionální tréninkové datové sady vedou k lokalizovanějším požadavkům na kapacitu.
• Rostoucí poptávka po masivní lokální úložiště přizpůsobit globální modely, jako je GPT.
• Diskuse o „poloměru výbuchu“ a riziku ztráty 100 Pohon TB.
• Hardwarový RAID pro NVMe je zpět; GPU akcelerované přestavby parity získávají na popularitě.
• Repase SSD disků jsou rychlé. Skutečným problémem jsou spíše výpadky než trvalá ztráta dat.
• Mnoho operátorů nyní návrh pro architektury typu failure-in-place místo ručních výměn.

25:00 – 30:00 | Budoucí směřování, výhoda umělé inteligence a inovační příležitosti

<strong>Highlights:</strong>

• Úvahy o nedostatku zásob v celém odvětví způsobeném boomem umělé inteligence a zpožděním dodávek NAND pamětí.
• Jedinečná příležitost k přehodnotit architektury a možné nové tvarové faktory nebo integrovaná flash paměť + síť.
• Inovace na hraně: NVIDIA Spark a Jetson Produkty stírají hranice mezi datovými centry a stolními počítači.
• Průzkum Odlehčení zátěže NVMe pro inferenci a generování rozšířené o vyhledávání (RAG).
• Naděje v budoucnost, kde se inovace v oblasti ukládání dat dostanou do centra pozornosti na veletrhu GTC vedle výpočetní techniky a paměti DRAM.
• Důraz na mezioborová spolupráce. SNIA Nové pracovní skupiny „Storage.AI“ integrují úsilí o sladění úložišť, sítí a umělé inteligence.

30:00 – 34:00 | Závěrečné myšlenky a testování na místě

<strong>Highlights:</strong>

• Návrat k imerzním serverům Hypertec pro reálné testy s disky Solidigm.
• Diskuse o výhody tepelné stabilityKonzistentní teploty znamenají žádné škrcení.
• Solidigm pracuje na plně kvalifikované SSD pro imerzní kapaliny na bázi uhlovodíků.
• Závěrečný rozhovor: Vzájemné nadšení z praktického experimentování, konzistence výkonu a hardwarových inovací.
• Shrnutí a rozloučení z Montrealu.