Společnost Sandisk nalepila páskou první čip flash paměti s vysokou propustností. Společnost jej prezentovala na slajdu na svém Investor Day 2026 13. srpna pod hlavičkou „Plán HBF“, vedle obrázku skutečného čipu. Druhá polovina snímku se zabývá prvními vzorky inferenčních produktů HBF: brzy v roce 2027.
Odlepení čipu od pásky je u každého nového křemíku zásadním milníkem. Znamená to, že návrh je dokončen a slíbený k maskovací sadě, což je bod, kdy architektura přestává být skluzavkou a začíná být křemíková. K dosažení produktu chybí také několik kroků. Wafery se musí vrátit z továrny, čip musí dosáhnout cílových specifikací, výtěžnost se musí vyšplhat na něco ekonomického a čip pak musí přežít stohování do konfigurací s výškou 8 a 16 čipů s funkčním logickým čipem a řadičem pod ním. Poté následuje tepelná a výdržná kvalifikace, akcelerační software pracuje na skutečném řešení paměti a kvalifikační cykly pro zákazníky, které probíhají po čtvrtletích. Sandisk investorům sděluje, že první z těchto kroků je hotový.
Co říká Sandisk o tom, že HBF nabízí
HBF používá paměť NAND místo DRAM a umisťuje ji do pouzdra podobného HBM vedle akcelerátoru. Podle informačního listu společnosti Sandisk o HBF cílí první generace na 512 GB na vrstvu, sestavenou ze šestnácti 256GB čipů, s rychlostí čtení 1.6 TB/s. Sandisk tvrdí, že dosahuje až 8 až 16násobné kapacity oproti HBM za podobnou cenu, v pouzdře, které se co do rozměrů, výšky vrstvení a energetického profilu blíží HBM4. Protože se jedná o NAND, je energeticky nezávislá a nespotřebovává žádnou energii na obnovování.
Plán v informačním listu sahá ještě dále. Druhá generace se zaměřuje na více než 2 TB/s a až 1 TB na stack s 0.8násobkem výkonu první generace a třetí generace posouvá hranici 3.2 TB/s a až 1.5 TB na stack s 0.64násobkem výkonu. Balíček Investor Day jasně vymezuje cílové úlohy: LLM se smíšeným počtem expertů, dlouhé délky kontextů a velké KV mezipaměti, přičemž architektura byla vyvinuta s využitím vstupů od hlavních zákazníků v oblasti cloudu a umělé inteligence.
Balíček také nabízí tři možnosti nasazení. HBF může rozšířit HBM a zaplnit některé pozice v zásobníku kolem xPU, zatímco HBM si zbytek ponechá. Může stack HBM zcela nahradit v podobném provedení. Nebo může být oddělený a obsahovat dekódovací váhy a KV cache, zatímco menší vrstva HBM funguje jako cache. Tato flexibilita je důležitější, než se zdá, protože umožňuje HBF vložit do socketu, aniž by musel dodavatel akcelerátoru opustit HBM.
Interní čísla, která Sandisk ukázal na obrazovce
Společnost Sandisk ukázala srovnání výstupu inferenčních tokenů zahrnující jednu grafickou kartu HBF, čtyři grafické karty HBF a osm grafických karet HBM. Z něj společnost vyvozuje dvě tvrzení, obě označená jako založená na interním testování. Prvním je údaj o 8násobné efektivitě kapitálových výdajů, definovaný jako minimální konfigurace potřebná ke spuštění modelu: jedna grafická karta HBF proti osmi grafickým kartám HBM. Druhým je údaj o 2násobné efektivitě GPU: čtyři grafické karty HBF poskytují stejný výstup tokenů jako osm grafických karet HBM. Informační list dodává související výsledek simulace: HBF se při čtení předtrénovaných vah pro Llama 3.1 405B pohybuje v rozmezí 2.2 % od neomezené kapacity HBM.
Toto jsou čísla dodavatelů pro nevydané křemíkové čipy a daný graf neobsahuje žádné hodnoty osy pro tokeny za sekundu. Popisují však daný koncept: pokud se model vejde do paměti, která je osm až šestnáctkrát větší při stejné šířce pásma a zhruba stejném výkonu, potřebujete k jeho udržení méně akcelerátorů a ty, které máte, stráví kratší dobu čekáním.
Kde stojí časová osa
Pro účely plánování jsou harmonogram ohraničena dvěma prohlášeními společnosti Sandisk. V srpnu 2025 společnost uvedla, že první vzorky HBF jsou plánovány na druhou polovinu roku 2026, přičemž zařízení pro inferenci umělé inteligence využívající HBF se očekávají začátkem roku 2027. Na Investor Day v srpnu 2026 jsou první vzorky produktů pro inferenci HBF uvedeny jako brzy v roce 2027. Harmonogramy pro nové třídy pamětí se s tím, jak se návrhy stávají křemíkovými, upevňují a platformy první generace v tomto cyklu se posunuly doprava s tím, jak se nastolila realita kvalifikace. Ukončení výroby je však důkazem toho, že HBF postupuje.
Část ekosystému je dále než křemík
Práce na standardech postupuje rychleji než samotný produkt. 3. srpna, šest měsíců po vzniku konsorcia, společnosti Sandisk a SK hynix vydaly první technickou specifikaci HBF prostřednictvím projektu Open Compute Project, přičemž mezi přispěvateli byly i společnosti Google a Tenstorrent. Tuto specifikaci a její definice jsme probrali hned po jejím zveřejnění. Jim Keller ze společnosti Tensorent byl na akci jmenován členem technického poradního sboru.
Společnost SK hynix, která je spoluautorem specifikace a na veletrhu FMS 2026 představila svou vlastní vrstvenou nabídku pamětí , hraje druhou polovinu v rozhodování o tom, zda se z ní stane standardní produkt, nebo produkt od jediného dodavatele. Prozatím má Sandisk vylepený čip, veřejně známou specifikaci a vzorky s datem výroby do roku 2027. Dalším skutečným kontrolním bodem je křemík, který splňuje požadavky, a to vzejde ze zprávy výrobce, o které Sandisk doufejme v blízké budoucnosti více poví.
Amazon