Maulik Sompura z KIOXIA dołącza do Briana, aby przeprowadzić dogłębną i pouczającą dyskusję na temat technologii flash i innych wydarzeń branżowych. Temat jest aktualny i istotny, biorąc pod uwagę masowy rozwój sztucznej inteligencji i nowoczesnych obciążeń.
Maulik Sompura jest starszym dyrektorem ds. planowania i zarządzania produktami w firmie KIOXIA. Ma ponad 13 lat doświadczenia w dziedzinie pamięci NAND, pamięci RAM i dysków SSD, w tym ostatnie sześć lat w firmie KIOXIA. Ponadto, w swojej karierze pracował w firmach Intel i Toshiba.
Rozmowa wykracza poza kwestie pamięci masowej i operacyjnej, obejmując przejście na chłodzenie cieczą, hiperskalery i formaty. Uczestnicy poruszają również temat oprogramowania open source, nowych fabryk, obaw o skalowalność i obaw przed kolejnym „boomem i kryzysem COVID-19”.
To pouczająca rozmowa, która skłoni Cię do przemyślenia czegoś w dłuższej perspektywie. Podzieliliśmy podcast na pięciominutowe fragmenty, dzięki czemu możesz od razu przejść do sekcji, która jest dla Ciebie i Twojego otoczenia najistotniejsza. Warto jednak obejrzeć go w całości.
Brian i Maulik rozpoczynają dyskusję od omówienia, jak radykalnie rozwinęły się dyski SSD i pamięci flash, zwłaszcza pod presją sztucznej inteligencji i centrów danych o ogromnej skali.
0:00–5:00: Hiperskalery po cichu rządzą
- Oferta dysków SSD znacznie wzrosła pod względem złożoności: występują w nich różne formaty, poziomy wytrzymałości i poziomy wydajności.
- Rozwój sztucznej inteligencji sprawił, że pamięć masowa stała się priorytetem numer jeden zaraz za procesorami graficznymi i pamięciami HBM.
- Firmy o dużym potencjale (Meta, Google, Amazon itp.) dyktują szczegółowe wymagania dotyczące dysków, a te niestandardowe projekty ostatecznie kształtują to, co otrzymują przedsiębiorstwa.
- Specyfikacje OCP pomagają ujednolicić i uprościć chaos, zapewniając wszystkim wspólny cel na bazie NVMe.
- Branża aktywnie stara się ograniczyć liczbę jednostek magazynowych (SKU) i stosować nowoczesne formaty, takie jak E3, nawet jeśli tradycyjne formaty nadal pozostają w użyciu.
5:00–10:00: Dyski klasy E3, E2 i petabajtowej
- Format E3 staje się preferowanym formatem korporacyjnym dla Gen6+ ze względu na lepsze parametry zasilania i chłodzenia.
- Napędy 2.5″ pozostaną na rynku przez wiele lat ze względu na długi cykl życia produktu, jednak nowe konstrukcje przechodzą na dyski EDSFF.
- E2 to większy, pojemniejszy dysk SSD, który w przypadku ekstremalnych pojemności jest postrzegany jako prawdziwy zamiennik dysku twardego.
- Dzięki zaawansowanemu łączeniu pamięci NAND pojedynczy dysk E2 mógłby osiągnąć pojemność 1 PB.
- Rozwiązania hiperskalerowe ograniczają ryzyko związane z gigantycznymi dyskami, wykorzystując partycjonowanie, kodowanie wymazywania i analitykę predykcyjną; czasy odbudowy ogromnych dysków SSD są nadal znacznie krótsze niż w przypadku dużych dysków HDD.
10:00–15:00: Chłodzenie cieczą dostępne również dla dysków SSD
- Systemy szkoleniowe AI przyczyniają się do upowszechnienia chłodzenia cieczą, co obecnie dotyczy również magazynowania.
- Dyski SSD w formacie E3 są przeprojektowywane w celu umożliwienia bezpośredniego kontaktu z płytkami chłodzącymi (płaskość powierzchni, materiały i szczegóły złączy).
- Chłodzone cieczą dyski SSD Gen5 utorują drogę Gen6, w której pobór mocy i wydzielanie ciepła będą jeszcze większe.
- Przedsiębiorstwa ostrożnie podchodzą do kwestii wprowadzania wody do centrów danych, ale rosnące koszty energii i gęstość procesorów graficznych sprawią, że unikanie chłodzenia cieczą będzie coraz trudniejsze.
15:00–20:00: Pamięć masowa AI: pojemność, wydajność i obciążenie sieci
- Sztuczna inteligencja rozwija pamięć masową w dwóch kierunkach: ogromna pojemność i bardzo wysoka wydajność.
- Dysk KIOXIA o pojemności 245 TB (z 32-warstwowymi stosami QLC) jest przeznaczony do obsługi jezior danych i dużych repozytoriów, a nie tylko ogólnych obciążeń.
- W nowoczesnych urządzeniach pamięć masowa może osiągać prędkość 250–280 GB/s; wąskim gardłem staje się coraz częściej struktura sieciowa, a nie dyski.
- Firmy o dużej przepustowości dążą do osiągnięcia przepustowości 400/800 GbE i inteligentniejszych kart sieciowych/jednostek przetwarzania danych (DPU), podczas gdy klienci średniej wielkości mają trudności z nadążaniem za tak wysokim poziomem inwestycji w infrastrukturę.
- Tradycyjne bazy danych i Fibre Channel pozostają, ale do gry wchodzą także bazy wektorowe i magazyny danych skoncentrowane na sztucznej inteligencji.
20:00–25:00: Inteligentniejsze oprogramowanie i prawdziwy supercykl Flash
- KIOXIA nie ogranicza się do dostawy dysków, ale inwestuje również w oprogramowanie (np. ISAAC), aby zmniejszyć zapotrzebowanie na pamięć HBM/DRAM, a jednocześnie zachować wydajność sztucznej inteligencji.
- Strategia jest holistyczna: obniżanie kosztów i zwiększanie wydajności na poziomie systemowym, a nie tylko poprzez szybszą pamięć NAND.
- Nowe fabryki, takie jak Kitakami (K2), zaczynają działać, ale dostawcy zachowują ostrożność po cyklach rozkwitu i kryzysu w erze COVID-19, które kosztowały branżę około 30 mld dolarów.
- Skalowanie pamięci NAND (więcej warstw, dokładniejsza litografia) staje się coraz droższe i szybsze, więc jej podaż będzie rosła, ale w sposób kontrolowany.
- Wielu postrzega to jako wieloletni „supercykl” napędzany przez sztuczną inteligencję i wzrost danych, a nie po prostu normalny 1–2-letni okres błyskawicznego ożywienia.
25:00–Koniec: Sztuczna inteligencja wszędzie, dysk flash kontra dysk twardy i nauka z HPC
- Ilość danych stale rośnie i rzadko są one usuwane; sztuczna inteligencja przemieszcza się tam, gdzie znajdują się te dane, w tym na krawędź sieci, do kopii zapasowych i warstw wtórnych.
- Dyski SSD o dużej pojemności mogą zapewnić około 100 PB na szafę, w porównaniu z wieloma szafami dysków twardych o tej samej pojemności, przy znacznie lepszej wydajności i efektywności.
- Wydajność dysków twardych nie zmienia się wraz z pojemnością; dyski SSD zapewniają o rzędy wielkości lepszy wskaźnik IOPS/GB i przepustowość, co przekłada się na niższy całkowity koszt posiadania i większą elastyczność w korzystaniu z pamięci flash na dużą skalę.
- Targi takie jak OCP i Supercomputing (SC) to miejsca, w których przyszłość można zobaczyć po raz pierwszy: szerokie szafy, szyny zbiorcze 800 V, nietypowe chłodzenie i projekty zasilania.
- Innowacje w zakresie hiperskalerów i obliczeń o wysokiej wydajności (HPC) stopniowo kształtują wygląd „normalnych” serwerów korporacyjnych i centrów danych, zapewniając odporność i wydajność.
Amazon