Zapowiedziane na targach GTC i dostępne jako AIC na targach ISC , procesory graficzne NVIDIA A100 trafiają teraz do Google Cloud. Biorąc pod uwagę, że minął zaledwie miesiąc od pierwszej zapowiedzi, jest to naprawdę szybki krok w kierunku wprowadzenia procesora graficznego do dużej chmury publicznej. Google jest pierwszą dużą chmurą publiczną, która wprowadziła procesory graficzne A100, czyli Ampere, w ramach swojej rodziny instancji Accelerator-Optimized VM (A2).
Jak wspomnieliśmy w początkowej zapowiedzi, pierwszym 7-nanometrowym procesorem graficznym firmy NVIDIA jest NVIDIA A100. A100 opiera się na architekturze Ampere firmy NVIDIA i zawiera 54 miliardy tranzystorów. Podobnie jak poprzednie procesory graficzne NVIDIA dla centrów danych, A100 zawiera rdzenie Tensor. Rdzenie Tensor to wyspecjalizowane elementy procesora graficznego zaprojektowane specjalnie do szybkiego wykonywania obliczeń mnożenia i dodawania macierzy, powszechnie stosowanych we wnioskowaniu. Wraz z nowymi, wydajniejszymi procesorami graficznymi pojawiają się nowe, wydajniejsze rdzenie Tensor. Wcześniej rdzenie Tensor firmy NVIDIA obsługiwały maksymalnie 32-bitowe liczby zmiennoprzecinkowe. A100 obsługuje 64-bitowe operacje zmiennoprzecinkowe, co zapewnia znacznie większą precyzję.
Wiele zastosowań w chmurze wymaga mocy obliczeniowej, jaką zapewniają procesory graficzne (GPU), w szczególności w takich dziedzinach jak szkolenie i wnioskowanie sztucznej inteligencji (AI), analiza danych, obliczenia naukowe, genomika, analiza wideo na brzegu sieci, usługi 5G i wiele innych. Nowe procesory graficzne NVIDIA A100 mogą zwiększyć wydajność szkolenia i wnioskowania nawet 20-krotnie w porównaniu z poprzednimi modelami, co czyni je idealnymi do tych zastosowań.
Google Compute Engine będzie wykorzystywać A100 do wielu zastosowań, od skalowania szkolenia AI i obliczeń naukowych, przez skalowanie aplikacji wnioskowania, po umożliwienie konwersacyjnej AI w czasie rzeczywistym. Nowa instancja, A2 VM, może pracować w obciążeniach o różnych rozmiarach. Instancja będzie działać w zakresie szkolenia i wnioskowania uczenia maszynowego z obsługą CUDA, analizy danych, a także obliczeń o wysokiej wydajności. Do dużych obciążeń Google oferuje instancję a2-megagpu-16g, która zawiera 16 procesorów GPU A100, oferując łącznie 640 GB pamięci GPU i 1.3 TB pamięci systemowej, wszystkie połączone przez NVSwitch z łączną przepustowością do 9.6 TB/s. Dla klientów, którzy nie potrzebują aż tak dużej mocy, będą również dostępne mniejsze maszyny wirtualne A2.
W niedalekiej przyszłości Google Cloud wprowadzi obsługę A100 dla Google Kubernetes Engine, Cloud AI Platform i innych usług Google Cloud.
Amazon