Firma Samsung Electronics Co., Ltd. ogłosiła dzisiaj, że opracowała pierwszą w branży pamięć o dużej przepustowości (HBM) zintegrowaną z mocą obliczeniową sztucznej inteligencji (AI) – Samsung HBM-PIM. Skrót PIM oznacza przetwarzanie w pamięci (ang. processing-in-memory), czyli architekturę, która pozwala na integrację funkcji AI z pamięcią o wysokiej wydajności. Firma twierdzi, że przełoży się to na dwukrotny wzrost wydajności systemu przy 70-procentowej redukcji zużycia energii. HBM-PIM ma na celu przyspieszenie przetwarzania na dużą skalę w centrach danych, systemach obliczeniowych o wysokiej wydajności (HPC) oraz aplikacjach mobilnych z obsługą AI.
Większość systemów komputerowych opiera się na architekturze von Neumanna: jednostka obliczeniowa, jednostka sterująca, pamięć, pamięć zewnętrzna oraz mechanizmy wejścia i wyjścia. Architektura von Neumanna sprawdzała się całkiem dobrze przez ostatnie 75 lat. Nie jest jednak bez wad. W rzeczywistości istnieje zjawisko znane jako wąskie gardło von Neumanna, które polega na ograniczeniu przepustowości między procesorem a pamięcią. Obecnie obserwuje się większą niż kiedykolwiek ilość danych i konieczność ich szybkiego przesyłania. Samsung stara się ominąć to wąskie gardło.
Rozwiązanie Samsung HBM-PIM ma na celu wyeliminowanie wąskiego gardła, umieszczając moc obliczeniową w miejscu, gdzie dane są przechowywane za pośrednictwem silnika AI zoptymalizowanego pod kątem pamięci DRAM, w każdym banku pamięci. Te podjednostki pamięci umożliwiają przetwarzanie równoległe i minimalizują przenoszenie danych. Samsung twierdzi, że może osiągnąć dwukrotnie wyższą wydajność systemu przy 70% mniejszym zużyciu energii, stosując rozwiązanie HBM-PIM w swoim istniejącym rozwiązaniu HBM2 Aquabolt. Nie są wymagane żadne zmiany sprzętowe ani programowe, dlatego rozwiązanie Samsung HBM-PIM można usunąć z istniejących systemów. Celem rozwiązania HBM-PIM jest złagodzenie wąskiego gardła w obciążeniach opartych na sztucznej inteligencji, takich jak obliczenia o wysokiej wydajności (HPC), uczenie i wnioskowanie.
Dostępność:
Platforma Samsung HBM-PIM jest obecnie testowana w akceleratorach sztucznej inteligencji przez wiodących partnerów rozwiązań AI. Zakończenie wszystkich walidacji planowane jest na pierwszą połowę bieżącego roku.
Amazon