Podczas konferencji AWS re:Invent, AWS i NVIDIA ogłosiły znaczący postęp w dziedzinie sztucznej inteligencji (AI). Prezes AWS, Adam Selipsky, zaprosił na scenę prezesa NVIDIA, Jensena Huanga, aby opowiedział o strategicznej współpracy obu firm. Partnerstwo to ma na celu dostarczenie najnowocześniejszej infrastruktury, oprogramowania i usług, napędzając generatywne innowacje w dziedzinie AI. Współpraca ta łączy najnowocześniejszą technologię firmy NVIDIA z solidną infrastrukturą chmurową AWS, otwierając nową erę w rozwoju AI.
Rewolucjonizujemy chmurową sztuczną inteligencję dzięki superchipom NVIDIA GH200 Grace Hopper
Kamieniem węgielnym tej współpracy jest wprowadzenie przez AWS do chmury superchipów GH200 Grace Hopper firmy NVIDIA , co jest pierwszym tego typu rozwiązaniem wśród dostawców chmury. Te superchipy stanowią znaczący krok naprzód w dziedzinie obliczeń AI w chmurze. Platforma wielowęzłowa GH200 NVL32, która łączy 32 superchipów Grace Hopper za pomocą technologii NVIDIA NVLink i NVSwitch, zostanie zintegrowana z instancjami Amazon EC2. Te nowe instancje Amazon EC2 obsługują różnorodne obciążenia AI, HPC i graficzne.
Każdy superchip GH200 łączy w jednym module procesor Grace oparty na architekturze ARM z procesorem graficznym NVIDIA Hopper, umożliwiając pojedynczej instancji EC2 zapewnienie do 20 TB pamięci współdzielonej, co pozwala na obsługę obciążeń o wielkości terabajtów. Taka konfiguracja umożliwia wspólnym klientom skalowanie do tysięcy superchipów GH200, oferując niespotykaną dotąd moc obliczeniową w badaniach i aplikacjach AI.
Doładowanie generatywnej sztucznej inteligencji, obliczeń o wysokiej wydajności, projektowania i symulacji
AWS wprowadza trzy nowe instancje EC2: instancje P5e, oparte na procesorach graficznych NVIDIA H200 Tensor Core , zostały zaprojektowane z myślą o generatywnych obciążeniach AI i HPC na dużą skalę i przy użyciu najnowocześniejszych technologii. Instancje G6 i G6e, oparte odpowiednio na procesorach graficznych NVIDIA L4 i L40S, są przeznaczone do precyzyjnego dostrajania AI, wnioskowania, grafiki i przetwarzania wideo. Instancje G6e są szczególnie przydatne do tworzenia przepływów pracy 3D, cyfrowych bliźniaków i aplikacji z wykorzystaniem NVIDIA Omniverse, platformy do tworzenia generatywnych aplikacji 3D z obsługą AI.
Instancje EC2 z procesorem NVIDIA GH200 będą wyposażone w 4.5 TB pamięci HBM3e. To 7.2-krotny wzrost w porównaniu z obecnymi instancjami EC2 P5d z procesorem H100. Połączenie pamięci między procesorem a kartą graficzną zapewni do 7 razy większą przepustowość niż PCIe, umożliwiając komunikację między układami, zwiększając całkowitą pamięć dostępną dla aplikacji.
Instancje AWS z GH200 NVL32 będą pierwszą infrastrukturą AI w AWS z chłodzeniem cieczowym. Pomoże to zapewnić wydajną pracę gęsto upakowanych szaf serwerowych z maksymalną wydajnością. Instancje EC2 z GH200 NVL32 będą również korzystać z systemu AWS Nitro, platformy bazowej dla instancji EC2 nowej generacji. Nitro przenosi operacje wejścia/wyjścia z procesora/karty graficznej hosta na wyspecjalizowany sprzęt, zapewniając bardziej spójną wydajność i lepsze zabezpieczenia, chroniąc kod i dane klienta podczas przetwarzania.
Oprogramowanie NVIDIA na platformie AWS przyspiesza rozwój generatywnej sztucznej inteligencji
W kolejnym przełomowym ogłoszeniu, oprogramowanie NVIDIA działające na platformie AWS przyspieszy rozwój generatywnej sztucznej inteligencji. Mikrousługa NVIDIA NeMo Retriever zaoferuje narzędzia do tworzenia precyzyjnych chatbotów i narzędzi do podsumowań z wykorzystaniem przyspieszonego wyszukiwania semantycznego.
Firmy farmaceutyczne mogą przyspieszyć odkrywanie nowych leków dzięki rozwiązaniu NVIDIA BioNeMo, które jest dostępne w systemie Amazon SageMaker i wkrótce trafi do platformy DGX Cloud.
Wykorzystując platformę NVIDIA NeMo, AWS będzie szkolić wybrane systemy LLM nowej generacji Amazon Titan. Amazon Robotics wykorzystuje platformę NVIDIA Omniverse Isaac do tworzenia cyfrowych bliźniaków w celu automatyzacji, optymalizacji i planowania autonomicznych magazynów w środowiskach wirtualnych przed ich wdrożeniem w świecie rzeczywistym.
NVIDIA DGX Cloud hostowana na platformie AWS: demokratyzacja szkoleń AI
Kolejnym kluczowym aspektem tej współpracy jest hosting NVIDIA DGX Cloud na platformie AWS. Ta usługa szkolenia AI jako usługa będzie pierwszą, która będzie oferować układ GH200 NVL32, zapewniając programistom największą pamięć współdzieloną w ramach jednej instancji. DGX Cloud na platformie AWS znacznie przyspieszy szkolenie najnowocześniejszych generatywnych rozwiązań AI i modeli LLM, potencjalnie przekraczając bilion parametrów. Usługa ta demokratyzuje dostęp do zaawansowanych zasobów do szkolenia AI, które wcześniej były dostępne tylko dla użytkowników dysponujących rozbudowaną infrastrukturą obliczeniową.
Projekt Ceiba: Budowa najszybszego na świecie superkomputera AI zasilanego przez GPU
W ramach ambitnego projektu, AWS i NVIDIA współpracują przy projekcie Ceiba, aby zbudować najszybszy na świecie superkomputer AI zasilany procesorami graficznymi. System ten, wyposażony w 16 384 superchipów NVIDIA GH200 i zdolny do przetwarzania 65 eksaflopów AI, będzie hostowany przez AWS dla zespołu badawczo-rozwojowego firmy NVIDIA. Superkomputer będzie napędzał generatywne innowacje firmy NVIDIA w dziedzinie sztucznej inteligencji, wpływając na takie obszary jak biologia cyfrowa, robotyka, pojazdy autonomiczne i prognozowanie klimatu.
Nowa era rozwoju sztucznej inteligencji w AWS
Ta rozszerzona współpraca między AWS i NVIDIA to coś więcej niż tylko postęp technologiczny; to zmiana paradygmatu w dziedzinie obliczeń AI w chmurze. Łącząc zaawansowaną infrastrukturę AI firmy NVIDIA z możliwościami chmury obliczeniowej AWS, partnerstwo to ma zrewolucjonizować sposób rozwoju i wdrażania generatywnej AI w różnych branżach. Od przemysłu farmaceutycznego po pojazdy autonomiczne, implikacje tej współpracy są ogromne i dalekosiężne, obiecując otwarcie nowych możliwości w dziedzinie AI i nie tylko.
Amazon