閃迪已完成首款高頻寬快閃記憶體晶片的流片。該公司在8月13日舉行的2026年投資者日活動上,在題為「HBF路線圖」的幻燈片中展示了該晶片,旁邊還附有一張晶片實體圖。投影片的後半部介紹了第一批HBF推理產品樣品:即將於2027年推出。
對於任何新的矽晶片而言,流片都是一個重要的里程碑。它意味著設計已經完成並最終確定到掩模版上,這標誌著架構從紙面設計轉變為矽片實體。但這距離產品問世還有很長的路要走。晶圓需要從晶圓廠返回,晶片必須達到目標規格,良率必須提升到經濟可行的水平,然後晶片還必須能夠承受堆疊成8層和16層結構,並在其下方放置一個工作邏輯晶片和控制器。之後還有熱性能和耐久性認證、用於實際處理記憶體的加速器軟體開發,以及以季度為單位的客戶認證週期。閃迪告訴投資者,這些步驟中的第一步已經完成。
Sandisk 表示 HBF 的效能如何
HBF採用NAND快閃記憶體而非DRAM,並將其封裝在類似HBM的封裝中,與加速器並排排列。根據SanDisk官方發布的HBF產品介紹,第一代產品每個堆疊容量為512GB,由1.6個256Gb的晶片組成,讀取頻寬為16TB/s。 SanDisk聲稱,在成本相近的情況下,HBF的容量可達HBM的8到16倍,且封裝尺寸、堆疊高度和功耗均與HBM4非常接近。由於採用NAND閃存,因此它是非易失性的,無需進行刷新操作。
產品概況介紹中的路線圖更進一步。第二代產品的目標是吞吐量超過 2TB/s,單堆疊容量高達 1TB,功耗僅為第一代的 0.8 倍;第三代產品則將吞吐量提升至 3.2TB/s 以上,單堆疊容量高達 1.5TB,功耗僅為第一代的 0.64 倍。投資者日簡報清晰地闡述了目標工作負載:混合專家級 LLM、長上下文長度和大型鍵值緩存,其架構開發過程中充分考慮了主要雲端和人工智慧客戶的回饋。
該文件還列出了三種部署方案。 HBF 可以增強 HBM,填充 xPU 周圍的部分堆疊位置,而 HBM 則保留其餘位置。它也可以完全取代 HBM 堆疊,佔用空間相近。或者,它可以以分離的方式部署,儲存解碼權重和鍵值緩存,而較小的 HBM 層則用作緩存。這種靈活性比聽起來更重要,因為它允許 HBF 接入插槽,而無需加速器廠商放棄 HBM。
閃迪螢幕上顯示的內部數字
閃迪展示了一張推理令牌輸出比較圖,分別涵蓋了單顆 HBF GPU、四顆 HBF GPU 和八顆 HBM GPU。基於此,該公司提出了兩項聲明,均標明基於內部測試。第一項是資本支出效率提升 8 倍,指的是運行該車型所需的最低配置:單顆 HBF GPU 即可達到八顆 HBM GPU 的水平。第二項是 GPU 效率提升 2 倍:四顆 HBF GPU 即可達到八顆 HBM GPU 的相同代幣輸出。產品資料也補充了一個相關的模擬結果:在讀取 Llama 3.1 405B 的預訓練權重時,HBF 的表現與無限容量的 HBM 相比,差距僅為 2.2%。
這些數據來自廠商提供的未發布晶片,而且相關圖表中並沒有每秒令牌數的座標軸數值。不過,它們仍然能說明問題:如果一個模型在相同頻寬和大致相同功耗下,能夠加載到比現有模型大 8 到 16 倍的記憶體中,那麼你需要的加速器數量就會減少,而且現有加速器的等待時間也會縮短。
時間軸現狀
為了便於規劃,閃迪的兩份聲明大致確定了時間表。2025年8月,該公司表示,首批HBF樣品計畫於2026年下半年推出,採用HBF的AI推理設備預計將於2027年初上市。截至2026年8月的投資者日,首批HBF推理產品樣品預計將於2027年推出。隨著設計轉化為晶片,新型記憶體的時間表逐漸確定,而本週期內的第一代平台由於認證方面的實際情況而有所調整。流片顯示HBF正在穩步推進。
生態系方面比矽谷方面進展更快。
標準制定工作進度比產品開發更快。 8月3日,SanDisk和SK海力士透過開放運算專案(OCP)發布了首個HBF技術規範,此時距離該聯盟成立僅六個月,Google和Tensorent等公司也參與了貢獻。我們當時報導了該規範及其定義。 Tensorent的Jim Keller在記者會上被任命為技術顧問委員會成員。
SK海力士是該規範的共同製定者之一,並在2026年FMS展會上展示了其分層記憶體方案。 SK海力士在決定該方案最終是成為業界標準還是單一廠商產品方面也扮演著重要角色。目前,閃迪已經完成了晶片流片,公開了規範,並計劃在2027年提供樣品。下一個真正的考驗是晶片能否達到標準,而這將取決於晶圓廠的報告,希望閃迪能在不久的將來就此發表更多評論。




Amazon