Společnosti Amazon Web Services a NVIDIA oznámily významné rozšíření svých společných infrastrukturních iniciativ a nastínily plány na nasazení dalších 2 milionů grafických procesorů NVIDIA v datových centrech AWS v letech 2027 až 2028. Rozšířená spolupráce, která staví na 16leté inženýrské spolupráci, se zaměřuje na komplexní škálování infrastruktury umělé inteligence, zahrnující kapacitu akcelerátorů, architektury hostitelských CPU, propojení s vysokou šířkou pásma, nasazení v rámci státní správy a zrychlené datové kanály.
„Zákazníci chtějí svobodu výběru nejlepších nástrojů pro své úlohy s umělou inteligencí a chtějí mít jistotu, že vše bude fungovat bez problémů,“ řekl Matt Garman, generální ředitel AWS. Jensen Huang, zakladatel a generální ředitel společnosti NVIDIA, uvedl, že obě společnosti „vybudovaly jeden z největších motorů růstu v éře umělé inteligence a poptávka předbíhá všechny prognózy“, poukazujíc na expanzi, která zahrnuje GPU, CPU, sítě, otevřené modely a software, aby agentní i fyzická umělá inteligence fungovala ve velkém měřítku.
Škálované nasazení GPU a instance EC2 G7
V rámci několikaletého zavádění budou do globální infrastruktury AWS integrovány 2 miliony grafických procesorů NVIDIA Blackwell Ultra, Rubin a Rubin Ultra. Tato infrastruktura je speciálně navržena pro velké továrny umělé inteligence, které se zabývají distribuovaným školením, vědeckými simulacemi, podnikovou automatizací a agentními pracovními postupy.
Společnost AWS také rozšiřuje svou flotilu stávajících serverů Blackwell zavedením grafických karet NVIDIA RTX PRO 4500 Blackwell Server Edition v instancích Amazon EC2 G7. AWS je prvním významným poskytovatelem cloudových služeb, který nabízí instance akcelerované grafickou kartou RTX PRO 4500, která ve srovnání s instancemi EC2 G6 předchozí generace poskytuje až 4.6krát vyšší výkon inference umělé inteligence a 2.1krát vyšší grafickou propustnost. Aby se udržela propustnost v celém clusteru a nízká latence napříč těmito uzly s vysokou hustotou, společnosti spolupracují na síťových optimalizacích NVIDIA Spectrum, které jsou přizpůsobeny velkým clusterům pro trénování grafických karet.
Procesory NVIDIA Vera a NVLink Fusion s vlastním HBM
Aby se splnily výpočetní požadavky vícestupňových agentních úloh s umělou inteligencí, společnosti AWS a NVIDIA spolupracují na zavedení infrastruktury založené na procesorech NVIDIA Vera do AWS. NVIDIA popisuje Veru jako technologii vytvořenou pro novou generaci umělé inteligence, která zákazníkům AWS poskytuje vysoce výkonné procesory spolu s akcelerovanou infrastrukturou a doplňuje strategii AWS nabízet co nejširší výběr výpočetních možností, od vlastních čipů na míru až po partnerské procesory a akcelerátory.
V oblasti propojení a pamětí rozšiřují společnosti NVIDIA a Annapurna Labs společnosti Amazon své partnerství v oblasti NVIDIA NVLink Fusion. NVLink Fusion, původně představený pro procesory AWS Trainium nové generace, je nyní ve spolupráci s dodavateli pamětí spárován s technologií NVIDIA NVHBM (High-Bandwidth Memory) pro zakázku. NVIDIA uvádí, že tato kombinace by společnosti Trainium poskytla přístup k rychlejší a energeticky úspornější paměti, což by společnosti Annapurna Labs umožnilo kombinovat křemíkové procesory Trainium a grafické karty NVIDIA v rámci sdílené, škálovatelné rackové architektury.
Vyhrazené továrny umělé inteligence pro úlohy federální a národní bezpečnosti
Pro potřeby vládního sektoru společnosti AWS a NVIDIA společně vyvíjejí specializované továrny umělé inteligence vybavené 100 000 grafickými procesory (GPU), které jsou nasazeny v izolované a zabezpečené infrastruktuře AWS. Prostředí je navrženo tak, aby podporovalo citlivé úlohy federálních agentur a obrany a zajišťovalo dodržování předpisů a provozní bezpečnost pro klasifikace na úrovni dopadu 6 (IL6) a vyšší.
Integrace klíčových platforem: Nitro, zpracování dat a robotika
Rozšířená aliance i nadále využívá stávající klíčové technické integrace napříč platformami AWS:
- Systém AWS Nitro a EFA: Všechny instance EC2 založené na grafických procesorech NVIDIA a platformě Trainium se spoléhají na systém AWS Nitro pro virtualizaci s odlehčenou zátěží a hardwarové zabezpečení, který je ve spojení se sítí Elastic Fabric Adapter (EFA) pro zajištění horizontálního horizontálního propojení s nízkou latencí a nízkou rychlostí linky.
- Spravované otevřené modely: Rodina otevřených modelů NVIDIA Nemotron zůstává nativně integrována do AWS a je nabízena jako plně spravované bezserverové koncové body na platformě Amazon Bedrock a jako přizpůsobitelné základní modely na platformě Amazon SageMaker.
- Hardwarově akcelerovaná analýza a vyhledávání: Amazon EMR využívá instance Amazon EC2 G7 a knihovnu NVIDIA cuDF k zajištění až 3.7krát rychlejší propustnosti zpracování dat a 30% zlepšení poměru ceny a výkonu oproti standardním konfiguracím CPU. Služba Amazon OpenSearch navíc využívá dedikované grafické procesory prostřednictvím knihoven NVIDIA CUDA-X cuVS pro vektorové indexování, čímž dosahuje až 9krát kratší doby sestavování indexů při přibližně čtvrtinových nákladech na infrastrukturu v rámci spravovaných a bezserverových nasazení.
- Fyzická umělá inteligence a automatizace robotiky: Společnost Amazon Robotics začleňuje portfolio fyzických produktů NVIDIA pro umělou inteligenci, které zahrnuje moduly NVIDIA Jetson pro edge compute, simulační knihovny Omniverse a robotickou platformu Isaac. Tento produkt, běžící na instancích EC2 akcelerovaných GPU, podporuje generování syntetických dat ve velkém měřítku, simulaci, trénování robotů, optimalizaci tras, funkční bezpečnost a validaci reálných dat pro automatizované skladové systémy.
Amazon