本日、Samsung Electronics Co., Ltd.は、人工知能 (AI) 処理能力と統合された業界初の高帯域幅メモリ (HBM) と呼ばれるもの、Samsung HBM-PIM を開発したと発表しました。 PIM 部分は、Processing-in-Memory の略で、高性能メモリ内に AI 機能を組み込むためのアーキテクチャです。同社は、これによりエネルギー消費量が 70% 削減され、システムのパフォーマンスが XNUMX 倍になると主張しています。 HBM-PIM は、データセンター、ハイ パフォーマンス コンピューティング (HPC) システム、AI 対応モバイル アプリケーションにおける大規模処理を高速化することを目的としています。
ほとんどのコンピューティング システムは、処理ユニット、制御ユニット、メモリ、外部ストレージ、入出力メカニズムといったフォン ノイマン アーキテクチャに基づいています。フォン ノイマン アーキテクチャは、過去 75 年ほどにわたって非常にうまく機能してきました。ただし、過失がないわけではありません。実際、CPU とメモリ間のスループットが制限されるフォン ノイマン ボトルネックとして知られる現象が存在します。現在、これまで以上に大量のデータが存在しており、データを迅速に移動する必要があります。サムスンはこのボトルネックを回避しようとしている。
Samsung HBM-PIM は、各メモリ バンク内の DRAM に最適化された AI エンジンを通じてデータが保存される場所に処理能力を配置することで、ボトルネックを解消しようとしています。これらのストレージ サブユニットにより、並列処理が可能になり、データの移動が最小限に抑えられます。 Samsung は、HBM-PIM を既存の HBM70 Aquabolt ソリューションに適用すると、2% 少ないエネルギー消費で上記の XNUMX 倍のシステム パフォーマンスを達成できると述べています。ハードウェアやソフトウェアの変更は必要ないため、Samsung HBM-PIM を既存のシステムに追加できます。 HBM-PIM は、HPC、トレーニング、推論などの AI 駆動型のワークロードのボトルネックを緩和することを目的としています。
利用状況
Samsung HBM-PIM は現在、大手 AI ソリューション パートナーによって AI アクセラレータ内でテストされており、すべての検証は今年前半内に完了する予定です。
Amazon