Amazon Web Services i NVIDIA ogłosiły znaczącą ekspansję wspólnych inicjatyw infrastrukturalnych, przedstawiając plany wdrożenia dodatkowych 2 milionów procesorów graficznych NVIDIA w centrach danych AWS w latach 2027–2028. Opierając się na 16-letniej współpracy inżynieryjnej, rozszerzona współpraca ma na celu kompleksowe skalowanie infrastruktury AI, obejmującej moc akceleratorów, architekturę procesorów hosta, połączenia o dużej przepustowości, wdrożenia w ramach suwerennych instytucji rządowych oraz przyspieszone potoki przetwarzania danych.
„Klienci chcą mieć swobodę wyboru najlepszych narzędzi do swoich zadań związanych ze sztuczną inteligencją i chcą mieć pewność, że wszystko działa bezproblemowo” – powiedział Matt Garman, dyrektor generalny AWS. Jensen Huang, założyciel i dyrektor generalny NVIDIA, powiedział, że obie firmy „zbudowały jeden z największych motorów wzrostu ery sztucznej inteligencji, a popyt przewyższa wszelkie prognozy”, wskazując na ekspansję obejmującą procesory graficzne, procesory, sieci, modele otwarte i oprogramowanie, aby umożliwić agentowej i fizycznej sztucznej inteligencji działanie na dużą skalę.
Skalowane wdrożenia GPU i instancje EC2 G7
Wieloletnie wdrożenie obejmie integrację 2 milionów kart graficznych NVIDIA Blackwell Ultra, Rubin i Rubin Ultra z globalną infrastrukturą AWS, zaprojektowaną specjalnie z myślą o zasilaniu dużych fabryk AI zajmujących się rozproszonym szkoleniem, symulacją naukową, automatyzacją przedsiębiorstw i przepływami pracy agentów.
AWS rozszerza również swoją flotę urządzeń Blackwell obecnej generacji, wprowadzając procesory graficzne NVIDIA RTX PRO 4500 Blackwell Server Edition w instancjach Amazon EC2 G7. AWS jest pierwszym dużym dostawcą usług w chmurze, który oferuje instancje akcelerowane przez RTX PRO 4500, co zapewnia do 4.6 razy wyższą wydajność wnioskowania AI i 2.1 razy wyższą przepustowość graficzną w porównaniu z instancjami EC2 G6 poprzedniej generacji. Aby utrzymać przepustowość w całym klastrze i niskie opóźnienia w tych węzłach o wysokiej gęstości, firmy współpracują nad optymalizacją sieciową NVIDIA Spectrum dostosowaną do dużych klastrów szkoleniowych GPU.
Procesory NVIDIA Vera i połączenie NVLink z niestandardową pamięcią HBM
Aby sprostać wymaganiom obliczeniowym wieloetapowych zadań sztucznej inteligencji opartych na agentach, AWS i NVIDIA współpracują nad wprowadzeniem do AWS infrastruktury opartej na procesorach NVIDIA Vera . NVIDIA opisuje Vera jako platformę stworzoną specjalnie z myślą o nowej generacji sztucznej inteligencji, oferującą klientom AWS wysokowydajne opcje procesorów wraz z akcelerowaną infrastrukturą i uzupełniającą strategię AWS polegającą na oferowaniu najszerszego możliwego wyboru mocy obliczeniowej, od własnych, niestandardowych układów scalonych po procesory i akceleratory partnerskie.
W obszarze połączeń i pamięci, NVIDIA i Annapurna Labs firmy Amazon rozszerzają współpracę wokół technologii NVIDIA NVLink Fusion. Technologia NVLink Fusion, pierwotnie wprowadzona dla procesorów AWS Trainium nowej generacji, jest obecnie łączona z technologią pamięci o wysokiej przepustowości (NVHBM) firmy NVIDIA we współpracy z dostawcami pamięci. NVIDIA twierdzi, że połączenie to zapewni Trainium dostęp do szybszej i bardziej energooszczędnej pamięci, umożliwiając Annapurna Labs łączenie układów scalonych Trainium i procesorów graficznych NVIDIA w ramach współdzielonej, skalowalnej architektury rack.
Dedykowane fabryki AI do zadań związanych z bezpieczeństwem federalnym i narodowym
Na potrzeby sektora rządowego, AWS i NVIDIA wspólnie opracowują dedykowane fabryki AI wyposażone w 100 000 procesorów GPU, rozmieszczonych w odizolowanej, bezpiecznej infrastrukturze AWS. Środowisko zostało zaprojektowane z myślą o obsłudze wrażliwych obciążeń agencji federalnych i obronnych, zapewniając zgodność z przepisami i bezpieczeństwo operacyjne dla klasyfikacji na poziomie Impact Level 6 (IL6) i wyższym.
Integracje głównych platform: Nitro, przetwarzanie danych i robotyka
Rozszerzony sojusz nadal wykorzystuje istniejące podstawowe integracje techniczne w całym stosie AWS:
- System AWS Nitro i EFA: Wszystkie instancje EC2 oparte na procesorach graficznych NVIDIA i platformie Trainium korzystają z systemu AWS Nitro w celu zapewnienia odciążonej wirtualizacji i bezpieczeństwa sprzętowego, w połączeniu z siecią Elastic Fabric Adapter (EFA) w celu zapewnienia skalowalnej łączności o dużej przepustowości i niskim opóźnieniu.
- Zarządzane otwarte modele: Rodzina otwartych modeli NVIDIA Nemotron pozostaje natywnie zintegrowana z AWS i oferowana jako w pełni zarządzane, bezserwerowe punkty końcowe w Amazon Bedrock oraz jako konfigurowalne modele podstawowe w Amazon SageMaker.
- Analityka i wyszukiwanie wspomagane sprzętowo: Amazon EMR wykorzystuje instancje Amazon EC2 G7 i bibliotekę NVIDIA cuDF, aby zapewnić do 3.7 razy szybszą przepustowość przetwarzania danych i 30-procentowy wzrost stosunku ceny do wydajności w porównaniu ze standardowymi konfiguracjami CPU. Dodatkowo, usługa Amazon OpenSearch Service wykorzystuje dedykowane procesory GPU za pośrednictwem bibliotek NVIDIA CUDA-X cuVS do indeksowania wektorowego, osiągając do 9 razy krótszy czas budowy indeksów przy około 1/4 kosztów infrastruktury we wdrożeniach zarządzanych i bezserwerowych.
- Fizyczna sztuczna inteligencja i automatyzacja robotyki: Amazon Robotics korzysta z portfolio rozwiązań NVIDIA w zakresie fizycznej sztucznej inteligencji, obejmującego moduły obliczeniowe NVIDIA Jetson Edge, biblioteki symulacyjne Omniverse oraz platformę robotyczną Isaac. Działając na instancjach EC2 z akceleracją GPU, ten potok danych obsługuje generowanie syntetycznych danych na dużą skalę, symulację, szkolenie robotów, optymalizację tras, bezpieczeństwo funkcjonalne oraz walidację symulacji rzeczywistych dla zautomatyzowanych systemów magazynowych.
Amazon