Společnost Amazon Web Services, Inc. (AWS) dnes oznámila všeobecnou dostupnost nové instance Amazon Elastic Compute Cloud (Amazon EC2) s grafickým procesorem, instance G4. Tato nová instance je navržena tak, aby urychlila inferenci strojového učení (ML) a zároveň poskytovala cenově nejvýhodnější inferenci ML v oboru pro aplikace. Nové instance se také skvěle hodí pro graficky náročné úlohy nákladově efektivním způsobem a byly by ideální pro vytváření a provozování graficky náročných aplikací, jako jsou vzdálené grafické pracovní stanice, překódování videa, fotorealistický design a streamování her v cloudu.
AWS uvádí, že strojové učení (ML) zahrnuje dva procesy, které vyžadují výpočetní výkon – trénování a inferenci. Trénování zahrnuje použití označených dat k vytvoření modelu, který je schopen vytvářet predikce, což je výpočetně náročný úkol, který vyžaduje výkonné procesory a vysokorychlostní síť. Inference je proces použití trénovaného modelu strojového učení k vytváření predikcí, což obvykle vyžaduje zpracování velkého množství malých výpočetních úloh současně. Tato úloha je ideální pro výkonné grafické procesory NVIDIA. AWS není v oblasti instancí pro ML žádným nováčkem, poprvé spustila instanci P3 před dvěma lety. I když se jednalo o velký krok, inference zabírá většinu provozních nákladů na úlohy ML.
Aby se tento problém vyřešil, společnost AWS vydala nové instance G4, které využívají nejnovější generaci grafických procesorů NVIDIA T4, vlastní procesory Intel Xeon Scalable (Cascade Lake) 2. generace, síťovou propustnost až 100 Gb/s a až 1.8 TB lokálního úložiště NVMe, aby poskytovaly cenově nejvýhodnější instance grafických procesorů pro inferenci strojového učení. Nové instance G4 dokáží poskytovat až 65 TFLOPs výkonu se smíšenou přesností, což je skvělé pro inferenci. Instance G4 lze také cenově efektivně použít pro malé a základní úlohy školení strojového učení, které jsou méně citlivé na dobu trénování. Pro graficky náročné úlohy nabízejí nové instance až 1.8násobné zvýšení grafického výkonu a až 2násobné možnosti překódování videa oproti instancím předchozí generace G3.
dostupnost
Instance G4 lze zakoupit jako instance na vyžádání, rezervované instance nebo spotové instance.
Amazon