샌디스크는 최초의 고대역폭 플래시 메모리(HBF) 칩을 제작 완료했습니다. 회사는 2026월 13일 투자자의 날 행사 에서 'HBF 로드맵'이라는 제목 아래 실제 칩 사진과 함께 이 내용을 슬라이드에 공개했습니다. 슬라이드의 후반부에는 최초의 HBF 추론 제품 샘플이 2027년 출시될 예정이라는 내용이 담겨 있습니다.
테이프아웃은 새로운 실리콘 칩 개발에 있어 매우 중요한 이정표입니다. 이는 설계가 완료되어 마스크 세트에 적용되었음을 의미하며, 아키텍처가 슬라이드에서 실리콘으로 구현되기 시작하는 시점입니다. 하지만 제품 출시까지는 아직 여러 단계가 남아 있습니다. 웨이퍼가 제조 공장에서 돌아와야 하고, 다이가 목표 사양을 충족해야 하며, 수율이 경제적인 수준에 도달해야 합니다. 또한, 작동하는 로직 다이와 컨트롤러를 아래에 두고 8단 및 16단 구성으로 적층하는 과정에서 다이가 제대로 작동하는지 확인해야 합니다. 그 후에는 열 및 내구성 검증, 메모리 어드레싱을 위한 가속기 소프트웨어 개발, 그리고 분기별로 진행되는 고객 인증 주기 등이 이어집니다. 샌디스크는 투자자들에게 이러한 단계 중 첫 번째 단계는 완료되었다고 밝혔습니다.
샌디스크가 말하는 HBF의 장점
HBF는 DRAM 대신 NAND를 쌓아 HBM 스타일 패키지에 담아 가속기 옆에 배치합니다. 샌디스크의 HBF 제품 설명서 에 따르면 , 1세대 HBF는 256Gb 다이 1.6개로 구성된 스택당 512GB 용량을 목표로 하며, 읽기 대역폭은 16TB/s입니다. 샌디스크는 HBM과 비슷한 가격으로 최대 8~16배의 용량을 제공하며, 패키지 크기, 스택 높이, 전력 소비량은 HBM4와 거의 동일하다고 주장합니다. NAND 메모리이기 때문에 비휘발성이며, 데이터 갱신 시 전력을 소모하지 않습니다.
팩트 시트에 제시된 로드맵은 더욱 확장되어 있습니다. 2세대 제품은 1세대 대비 0.8배의 전력 소비로 2TB/s 이상의 속도와 스택당 최대 1TB의 처리량을 목표로 하며, 3세대 제품은 0.64배의 전력 소비로 3.2TB/s 이상의 속도와 스택당 최대 1.5TB의 처리량을 달성합니다. 투자자 설명회 자료는 주요 클라우드 및 AI 고객의 의견을 반영하여 개발된 아키텍처를 바탕으로, 다양한 전문가가 참여하는 LLM(Long Logic Matrix), 긴 컨텍스트 길이, 대용량 KV 캐시와 같은 목표 워크로드를 명확하게 제시합니다.
이 자료에는 세 가지 배포 방식이 제시되어 있습니다. HBF는 HBM을 보완하여 xPU 주변의 스택 위치 일부를 채우고 나머지는 HBM이 유지할 수 있습니다. 또는 비슷한 크기로 HBM 스택을 완전히 대체할 수도 있습니다. 아니면 분리된 형태로 배치하여 디코딩 가중치와 키-값 캐시를 담당하고 더 작은 HBM 계층을 캐시로 사용할 수도 있습니다. 이러한 유연성은 생각보다 중요한데, 가속기 공급업체가 HBM을 포기하지 않고도 HBF를 사용할 수 있게 해주기 때문입니다.
샌디스크가 화면에 공개한 내부 수치
샌디스크는 HBF GPU 1개, HBF GPU 4개, HBM GPU 8개를 사용한 추론 토큰 출력 비교 결과를 제시했습니다. 이를 바탕으로 샌디스크는 내부 테스트 결과를 토대로 두 가지 주장을 내놓았습니다. 첫 번째는 최소 구성(HBF GPU 1개 대 HBM GPU 8개)에서 HBF GPU 1개가 HBM GPU 8개보다 자본 지출 대비 효율성이 8배 높다는 것입니다. 두 번째는 GPU 효율성이 2배 높다는 것으로, HBF GPU 4개가 HBM GPU 8개와 동일한 토큰 출력을 제공한다는 것입니다. 관련 시뮬레이션 결과도 함께 제시했는데, Llama 3.1 405B 사전 학습 가중치를 읽을 때 HBF가 무제한 용량의 HBM과 2.2% 이내의 성능 차이를 보였다는 내용입니다.
이 수치들은 아직 출시되지 않은 실리콘에 대한 벤더 번호이며, 해당 차트에는 초당 토큰 처리량에 대한 축 값이 없습니다. 하지만 이 차트는 다음과 같은 개념을 설명합니다. 동일한 대역폭과 거의 동일한 전력 소비를 유지하면서 모델이 8~16배 더 큰 메모리에 저장될 수 있다면, 모델을 저장하는 데 필요한 가속기 수가 줄어들고, 기존 가속기의 대기 시간도 단축됩니다.
현재 타임라인은 어디에 있나요?
계획 수립을 위해 샌디스크의 두 가지 발표를 기준으로 일정을 가늠해 볼 수 있습니다. 2025년 8월 , 샌디스크는 최초의 HBF 샘플을 2026년 하반기에 출시하고, HBF를 사용하는 AI 추론 장치는 2027년 초에 출시할 예정이라고 밝혔습니다. 2026년 8월 투자자의 날 행사 당시에는 최초의 HBF 추론 제품 샘플이 2027년 출시 예정으로 명시되어 있었습니다. 새로운 메모리 클래스의 출시 일정은 설계가 실제 칩으로 구현됨에 따라 확정되며, 이번 개발 주기 전반에 걸쳐 1세대 플랫폼은 인증 현실이 반영됨에 따라 출시 시기가 앞당겨졌습니다. 하지만 테이프아웃(tapeout)은 HBF 개발이 순조롭게 진행되고 있음을 보여주는 증거입니다.
생태계 부분은 실리콘보다 더 발전되어 있습니다.
표준화 작업이 제품 개발보다 빠르게 진행되고 있습니다. 8월 3일, 샌디스크와 SK하이닉스는 컨소시엄 결성 6개월 만에 구글과 텐서런트 등이 참여한 오픈 컴퓨트 프로젝트(Open Compute Project)를 통해 최초의 HBF 기술 사양을 발표했습니다. 저희는 해당 사양 발표 당시 그 내용을 다뤘으며 , 텐서런트의 짐 켈러가 기술 자문 위원(Technical Advisory Board)으로 임명되었습니다.
SK하이닉스는 FMS 2026에서 자체적인 계층형 메모리 피치를 선보이고 사양을 공동으로 작성한 회사로 , 이것이 표준이 될지 아니면 특정 업체만의 제품이 될지를 결정하는 데 중요한 역할을 하고 있습니다. 현재 샌디스크는 테이프아웃된 다이와 공개된 사양을 가지고 있으며, 2027년에 샘플을 출시할 예정입니다. 다음 단계는 실제 성능을 입증하는 실리콘을 확보하는 것이며, 이는 팹 보고서를 통해 확인할 수 있을 것입니다. 샌디스크는 조만간 이 보고서에 대해 더 자세히 언급할 것으로 예상됩니다.
아마존