오늘 삼성전자는 인공지능(AI) 처리 능력이 통합된 업계 최초의 고대역폭 메모리(HBM)인 Samsung HBM-PIM을 개발했다고 발표했습니다. PIM 부분은 고성능 메모리 내부에 AI 기능을 제공하는 아키텍처인 메모리 내 처리(processing-in-memory)를 의미합니다. 회사는 이것이 에너지 소비를 70% 감소시키면서 시스템 성능을 두 배로 향상시킬 것이라고 주장합니다. HBM-PIM은 데이터 센터, 고성능 컴퓨팅(HPC) 시스템 및 AI 지원 모바일 애플리케이션에서 대규모 처리를 가속화하는 것을 목표로 합니다.
대부분의 컴퓨팅 시스템은 von Neumann 아키텍처(처리 장치, 제어 장치, 메모리, 외부 저장소, 입력 및 출력 메커니즘)를 기반으로 합니다. 폰 노이만 아키텍처는 지난 75년 동안 꽤 잘 작동했습니다. 그러나 잘못이 없는 것은 아닙니다. 실제로 CPU와 메모리 간의 처리량이 제한되는 von Neuman 병목 현상이 있습니다. 이제 데이터에서 그 어느 때보다 많은 양을 볼 수 있으며 이를 신속하게 이동할 필요가 있습니다. 삼성은 이 병목 현상을 피하려고 합니다.
Samsung HBM-PIM은 DRAM에 최적화된 AI 엔진을 통해 데이터가 저장되는 처리 능력을 각 메모리 뱅크 내부에 배치하여 병목 현상을 제거하려고 합니다. 이러한 스토리지 하위 단위는 병렬 처리를 가능하게 하고 데이터 이동을 최소화합니다. 삼성은 기존 HBM70 Aquabolt 솔루션에 HBM-PIM을 적용할 때 에너지 소비를 2% 줄이면서 위의 이중 시스템 성능을 달성할 수 있다고 말합니다. 하드웨어 또는 소프트웨어 변경이 필요하지 않으므로 기존 시스템에 Samsung HBM-PIM을 놓을 수 있습니다. HBM-PIM은 HPC, 교육 및 추론과 같은 AI 기반 워크로드의 병목 현상을 완화하는 것을 목표로 합니다.
이용 가능 여부 (Availability)
삼성 HBM-PIM은 현재 선도적인 AI 솔루션 파트너에 의해 AI 가속기 내부에서 테스트되고 있으며 모든 검증은 올해 상반기 내에 완료될 것으로 예상됩니다.
아마존