Během úvodního projevu AWS re:Invent společnosti AWS a NVIDIA oznámily významný pokrok v oblasti umělé inteligence (AI). Generální ředitel AWS Adam Selipsky pozval na pódium generálního ředitele společnosti NVIDIA Jensena Huanga, aby podrobněji hovořil o strategické spolupráci obou společností. Toto partnerství má za cíl poskytnout nejpokročilejší infrastrukturu, software a služby, které podnítí generativní inovace v oblasti umělé inteligence. Spolupráce je kombinací špičkové technologie NVIDIA a robustní cloudové infrastruktury AWS a představuje novou éru ve vývoji umělé inteligence.
Revoluce v cloudové umělé inteligenci se superčipy NVIDIA GH200 Grace Hopper
Základním kamenem této spolupráce je zavedení superčipů NVIDIA GH200 Grace Hopper Superchips společností AWS do cloudu, což je první krok mezi poskytovateli cloudových služeb. Tyto superčipy představují významný skok v oblasti cloudových výpočtů s využitím umělé inteligence. Víceuzlová platforma GH200 NVL32, která propojuje 32 superčipů Grace Hopper pomocí technologií NVIDIA NVLink a NVSwitch, bude integrována do instancí Amazon EC2. Tyto nové instance Amazon EC2 uspokojí různé úlohy v oblasti umělé inteligence, HPC a grafiky.
Každý superčip GH200 kombinuje procesor Grace založený na technologii Arm s grafickým procesorem NVIDIA Hopper na stejném modulu, což umožňuje jedné instanci EC2 poskytnout až 20 TB sdílené paměti pro zvládání terabajtových úloh. Toto nastavení umožňuje společným zákazníkům škálovat až na tisíce superčipů GH200, což nabízí bezprecedentní výpočetní výkon pro výzkum a aplikace umělé inteligence.
Posilování generativní umělé inteligence, HPC, designu a simulace
Společnost AWS představuje tři nové instance EC2: instance P5e, poháněné grafickými procesory NVIDIA H200 Tensor Core , jsou navrženy pro rozsáhlé a špičkové generativní úlohy s umělou inteligencí a HPC. Instance G6 a G6e, poháněné grafickými procesory NVIDIA L4 a L40S, jsou vhodné pro úlohy s jemným doladěním umělé inteligence, inferencí, grafikou a videem. Instance G6e jsou obzvláště vhodné pro vývoj 3D pracovních postupů, digitálních dvojčat a aplikací s využitím NVIDIA Omniverse, platformy pro vytváření generativních 3D aplikací s podporou umělé inteligence.
Instance EC2 s procesorem NVIDIA GH200 budou disponovat 4.5 TB paměti HBM3e. To je 7.2násobný nárůst ve srovnání se současnými instancemi EC2 P5d s procesorem H100. Propojení paměti mezi CPU a GPU poskytne až 7násobně vyšší šířku pásma než PCIe, což umožní komunikaci mezi čipy, která rozšiřuje celkovou paměť dostupnou pro aplikace.
Instance AWS s GH200 NVL32 budou první infrastrukturou umělé inteligence na AWS s kapalinovým chlazením. To pomůže zajistit, aby hustě rozmístěné serverové racky fungovaly efektivně s maximálním výkonem. Instance EC2 s GH200 NVL32 budou také těžit ze systému AWS Nitro, základní platformy pro instance EC2 nové generace. Nitro přesouvá I/O operace z hostitelského CPU/GPU na specializovaný hardware, čímž poskytuje konzistentnější výkon se zvýšeným zabezpečením pro ochranu kódu a dat zákazníka během zpracování.
Software NVIDIA na AWS podporuje vývoj generativní umělé inteligence
Dalším převratným oznámením je, že software NVIDIA běžící na AWS podpoří generativní vývoj umělé inteligence. Mikroslužba NVIDIA NeMo Retriever nabídne nástroje pro vytváření přesných chatbotů a sumarizačních nástrojů s využitím zrychleného sémantického vyhledávání.
Farmaceutické společnosti mohou urychlit objevování léků s technologií NVIDIA BioNeMo, která je k dispozici na platformě Amazon SageMaker a brzy bude k dispozici i v DGX Cloud.
S využitím frameworku NVIDIA NeMo bude AWS školit vybrané absolventy LLM nové generace pro Amazon Titan. Amazon Robotics používá NVIDIA Omniverse Isaac k vytváření digitálních dvojčat pro automatizaci, optimalizaci a plánování autonomních skladů ve virtuálních prostředích před nasazením v reálném světě.
NVIDIA DGX Cloud hostovaný na AWS: Demokratizace školení v oblasti umělé inteligence
Dalším klíčovým aspektem tohoto partnerství je hostování NVIDIA DGX Cloud na AWS. Tato služba pro školení umělé inteligence jako služba bude první, která bude obsahovat GH200 NVL32 a vývojářům poskytne největší sdílenou paměť v jedné instanci. DGX Cloud na AWS výrazně urychlí školení špičkové generativní umělé inteligence a modelů velkých jazyků (LLM) s potenciálem dosáhnout více než 1 bilionu parametrů. Tato služba demokratizuje přístup k špičkovým zdrojům pro školení umělé inteligence, které byly dříve dostupné pouze těm, kteří měli rozsáhlou výpočetní infrastrukturu.
Projekt Ceiba: Stavba nejrychlejšího superpočítače s umělou inteligencí na světě poháněného grafickým procesorem
Společnosti AWS a NVIDIA spolupracují na projektu Ceiba s cílem vybudovat nejrychlejší superpočítač s umělou inteligencí na světě poháněný grafickými procesory (GPU). Tento systém, který bude obsahovat 16 384 superčipů NVIDIA GH200 a bude schopen zpracovat 65 exaflopů umělé inteligence, bude hostován společností AWS pro výzkumný a vývojový tým společnosti NVIDIA. Superpočítač bude pohánět generativní inovace společnosti NVIDIA v oblasti umělé inteligence a ovlivní oblasti, jako je digitální biologie, robotika, autonomní vozidla a klimatické predikce.
Nová éra vývoje umělé inteligence na AWS
Tato rozšířená spolupráce mezi společnostmi AWS a NVIDIA je více než jen technologickým pokrokem; je to zásadní změna v oblasti cloudových výpočtů s využitím umělé inteligence. Kombinací pokročilé infrastruktury umělé inteligence NVIDIA a cloudových možností AWS má toto partnerství přinést revoluci ve způsobu vývoje a nasazování generativní umělé inteligence v různých odvětvích. Od farmaceutického průmyslu až po autonomní vozidla jsou důsledky této spolupráce rozsáhlé a dalekosáhlé a slibují odemknutí nových možností v oblasti umělé inteligence i mimo ni.
Amazon