Společnost Samsung Electronics Co., Ltd. dnes oznámila, že vyvinula systém, který označuje jako první paměť s vysokou šířkou pásma (HBM) v oboru s integrovaným výpočetním výkonem umělé inteligence (AI), a to Samsung HBM-PIM. Zkratka PIM je zkratka pro processing-in-memory (processing-in-memory), což je architektura, která vnáší funkce umělé inteligence do vysoce výkonné paměti. Společnost tvrdí, že to povede k dvojnásobnému zvýšení výkonu systému při 70% snížení spotřeby energie. HBM-PIM je zaměřen na urychlení velkoobjemového zpracování v datových centrech, vysoce výkonných výpočetních systémech (HPC) a mobilních aplikacích s podporou umělé inteligence.
Většina výpočetních systémů je založena na von Neumannově architektuře: procesorová jednotka, řídicí jednotka, paměť, externí úložiště a vstupní a výstupní mechanismy. Von Neumannova architektura fungovala v posledních zhruba 75 letech docela dobře. Není však bezchybná. Ve skutečnosti existuje jev známý jako von Neumanovo úzké hrdlo, kdy je propustnost mezi CPU a pamětí omezená. V současné době je objem dat větší než kdy dříve a je třeba je rychle přesouvat. Společnost Samsung se snaží toto úzké hrdlo obejít.
Samsung HBM-PIM se snaží odstranit úzké hrdlo tím, že umisťuje výpočetní výkon tam, kde jsou data ukládána, a to prostřednictvím enginu umělé inteligence optimalizovaného pro DRAM v každé paměťové bance. Tyto úložné podjednotky umožňují paralelní zpracování a minimalizují pohyb dat. Společnost Samsung uvádí, že výše uvedeného dvojnásobného výkonu systému může dosáhnout se 70% nižší spotřebou energie, pokud HBM-PIM aplikuje na své stávající řešení HBM2 Aquabolt. Nejsou nutné žádné hardwarové ani softwarové změny, takže Samsung HBM-PIM lze ze stávajících systémů vynechat. HBM-PIM je zaměřen na zmírnění úzkého hrdla v úlohách řízených umělou inteligencí, jako je HPC, školení a inference.
dostupnost
Samsung HBM-PIM je nyní testován v akcelerátorech umělé inteligence předními partnery v oblasti řešení umělé inteligence a očekává se, že veškeré validace budou dokončeny v první polovině letošního roku.
Amazon