Sandisk wyprodukował pierwszą matrycę pamięci flash o wysokiej przepustowości. Firma zaprezentowała ją na slajdzie podczas Dnia Inwestora 2026 , 13 sierpnia, pod nagłówkiem „Mapa drogowa HBF”, obok zdjęcia samej matrycy. Druga część slajdu przedstawia pierwsze próbki produktów do wnioskowania HBF: już wkrótce, w 2027 roku.
Wyjście z taśmy to ważny kamień milowy w przypadku każdego nowego układu scalonego. Oznacza to, że projekt jest ukończony i zatwierdzony do zestawu masek, czyli momentu, w którym architektura przestaje być jedynie slajdem, a zaczyna być układem scalonym. Jest to również kilka kroków od produktu. Płytki muszą wrócić z fabryki, układ scalony musi osiągnąć docelowe parametry, wydajność musi osiągnąć poziom ekonomiczny, a układ scalony musi przetrwać układanie w układy 8- i 16-poziomowe z działającym układem logicznym i kontrolerem pod spodem. Następnie następuje kwalifikacja termiczna i wytrzymałościowa, praca nad oprogramowaniem akceleratora w celu faktycznego rozwiązania problemu z pamięcią oraz cykle kwalifikacji klientów, które trwają kwartały. Sandisk informuje inwestorów, że pierwszy z tych kroków został już wykonany.
Co według Sandiska oferuje HBF
Technologia HBF wykorzystuje pamięć NAND zamiast DRAM i umieszcza ją w obudowie typu HBM obok akceleratora. Zgodnie z kartą informacyjną HBF firmy Sandisk , pierwsza generacja ma pojemność 512 GB na stos, zbudowaną z szesnastu 256-gigabajtowych rdzeni, przy przepustowości odczytu 1.6 TB/s. Sandisk twierdzi, że zapewnia ona od 8 do 16 razy większą pojemność niż HBM przy podobnym koszcie, w obudowie, która pod względem rozmiaru, wysokości stosu i profilu poboru mocy jest zbliżona do HBM4. Ponieważ jest to pamięć NAND, jest ona nieulotna i nie pobiera energii podczas odświeżania.
Mapa drogowa przedstawiona w karcie informacyjnej sięga dalej. Druga generacja ma na celu przepustowość ponad 2 TB/s i do 1 TB na stos przy 0.8-krotności mocy pierwszej generacji, a trzecia przekracza 3.2 TB/s i do 1.5 TB na stos przy 0.64-krotności mocy. Prezentacja Investor Day jasno przedstawia docelowe obciążenia: mieszankę ekspertów LLM, długie długości kontekstu i duże pamięci podręczne KV, a architektura została opracowana w oparciu o informacje od głównych klientów z branży chmury i sztucznej inteligencji.
Deck przedstawia również trzy warianty wdrożenia. HBF może uzupełniać HBM, wypełniając niektóre pozycje stosu wokół xPU, podczas gdy HBM zachowuje resztę. Może całkowicie zastąpić stosy HBM, zajmując podobną przestrzeń. Może też działać w trybie rozproszonym, przechowując wagi dekodowania i pamięć podręczną KV, podczas gdy mniejsza warstwa HBM pełni funkcję pamięci podręcznej. Ta elastyczność ma większe znaczenie, niż się wydaje, ponieważ pozwala HBF na wejście do gniazda bez konieczności rezygnacji z HBM przez dostawcę akceleratora.
Wewnętrzne numery wyświetlane na ekranie przez Sandisk
Firma Sandisk zaprezentowała porównanie wyników tokenów wnioskowania, obejmujące jeden procesor graficzny HBF, cztery procesory graficzne HBF i osiem procesorów graficznych HBM. Na tej podstawie firma wyciągnęła dwa wnioski, oba oznaczone jako oparte na testach wewnętrznych. Pierwszy z nich to ośmiokrotna efektywność nakładów inwestycyjnych (CAPEX), zdefiniowana jako minimalna konfiguracja wymagana do uruchomienia modelu: jeden procesor graficzny HBF w porównaniu z ośmioma procesorami graficznymi HBM. Drugi to dwukrotna efektywność GPU: cztery procesory graficzne HBF generują takie same wyniki tokenów, jak osiem procesorów graficznych HBM. W arkuszu danych dodano powiązany wynik symulacji: HBF osiąga wartość w granicach 2.2% HBM o nieograniczonej pojemności podczas odczytu wstępnie wytrenowanych wag dla Llama 3.1 405B.
Są to liczby dostawców dla nieopublikowanego układu scalonego, a omawiany wykres nie zawiera wartości osi dla tokenów na sekundę. Opisują one jednak koncepcję: jeśli model mieści się w pamięci od ośmiu do szesnastu razy większej przy tej samej przepustowości i mniej więcej tej samej mocy, potrzeba mniej akceleratorów, aby go utrzymać, a te, które już posiadasz, spędzają mniej czasu na czekaniu.
Gdzie znajduje się oś czasu
Dla celów planowania, harmonogram został ujęty w dwa oświadczenia firmy Sandisk. W sierpniu 2025 r . firma poinformowała, że pierwsze próbki HBF mają zostać dostarczone w drugiej połowie roku kalendarzowego 2026, a urządzenia wnioskowania AI wykorzystujące HBF spodziewane są na początku 2027 r. Zgodnie z Dniem Inwestora w sierpniu 2026 r., pierwsze próbki produktów wnioskowania HBF mają pojawić się wkrótce, w 2027 r. Harmonogramy dla nowych klas pamięci są krystalizowane w miarę jak projekty stają się krzemowe, a platformy pierwszej generacji w tym cyklu przesunęły się w prawo, wraz z pojawieniem się realiów kwalifikacyjnych. Jednakże, wyniki testów są dowodem na postępy HBF.
Część ekosystemu jest bardziej zaawansowana niż krzem
Prace nad standardami postępują szybciej niż sam produkt. 3 sierpnia Sandisk i SK Hynix opublikowały pierwszą specyfikację techniczną HBF w ramach projektu Open Compute, sześć miesięcy po utworzeniu konsorcjum, a wśród współautorów znalazły się Google i Tenstorrent. Omówiliśmy tę specyfikację i jej definicję w momencie jej publikacji. Jim Keller z Tensorrent został powołany na członka rady doradców technicznych podczas wydarzenia.
Firma SK Hynix, która jest współautorem specyfikacji i zaprezentowała własną ofertę pamięci warstwowej na targach FMS 2026 , jest drugą połówką w procesie decyzyjnym, decydującym o tym, czy stanie się ona standardem, czy produktem jednego dostawcy. Na razie Sandisk ma gotowy układ scalony, specyfikację widoczną na zdjęciach i datę premiery próbek na rok 2027. Kolejnym prawdziwym punktem kontrolnym jest krzem, który spełni wymagania, a to zostanie potwierdzone raportem z produkcji, o którym Sandisk, miejmy nadzieję, opowie więcej w najbliższej przyszłości.
Amazon