Podczas konferencji SC20 firma NVIDIA ogłosiła, że jej popularny procesor graficzny A100 zostanie podwojony pod względem pamięci o wysokiej przepustowości dzięki premierze procesora graficznego NVIDIA A100 o pojemności 80 GB. Ten nowy procesor graficzny będzie innowacją napędzającą nową platformę superkomputerów AI NVIDIA HGX. Dzięki dwukrotnie większej pamięci nowy procesor graficzny ma pomóc badaczom i inżynierom osiągnąć niespotykaną dotąd prędkość i wydajność, aby umożliwić im osiągnięcie kolejnej fali przełomów w dziedzinie sztucznej inteligencji i nauki.
Na początku tego roku, podczas targów GTC, firma NVICIA ogłosiła premierę swojego 7-nanometrowego procesora graficznego NVIDIA A100 . Jak pisaliśmy wówczas, A100 bazuje na architekturze Ampere firmy NVIDIA i zawiera 54 miliardy tranzystorów. Podobnie jak poprzednie procesory graficzne NVIDIA dla centrów danych, A100 zawiera rdzenie Tensor. Rdzenie Tensor to wyspecjalizowane elementy procesora graficznego zaprojektowane specjalnie do szybkiego wykonywania obliczeń mnożenia i dodawania macierzy, powszechnie stosowanych we wnioskowaniu. Wraz z nowymi, wydajniejszymi procesorami graficznymi pojawiają się nowe, wydajniejsze rdzenie Tensor. Wcześniej rdzenie Tensor firmy NVIDIA obsługiwały maksymalnie 32-bitowe liczby zmiennoprzecinkowe. A100 obsługuje 64-bitowe operacje zmiennoprzecinkowe, co zapewnia znacznie większą precyzję.
Zwiększenie pamięci o dużej przepustowości (HBM2e) do 80 GB ma zapewnić przepustowość pamięci na poziomie 2 terabajtów na sekundę. To nowe rozwiązanie jest pomocne w przypadku nowych aplikacji HPC, które wymagają ogromnej ilości pamięci na dane, takich jak szkolenie sztucznej inteligencji (AI), przetwarzanie języka naturalnego i analiza dużych zbiorów danych (Big Data), żeby wymienić tylko kilka.
Główne cechy A100 80GB
W płycie A100 80GB zastosowano wiele przełomowych funkcji architektury NVIDIA Ampere:
- Rdzenie tensorowe trzeciej generacji: zapewniają do 20 razy większą przepustowość AI niż poprzednia generacja Volta dzięki nowemu formatowi TF32, a także 2.5 razy większą przepustowość FP64 dla obliczeń HPC, 20 razy większą przepustowość INT8 dla wnioskowania AI i obsługę formatu danych BF16.
- Większa, szybsza pamięć GPU HBM2e: podwaja pojemność pamięci i jako pierwszy układ w branży oferuje przepustowość pamięci przekraczającą 2 TB na sekundę.
- Technologia MIG: Podwaja ilość pamięci na każdą izolowaną instancję, zapewniając maksymalnie siedem MIG-ów, każdy o pojemności 10 GB.
- Rzadkość strukturalna: Zapewnia nawet dwukrotnie szybsze wnioskowanie w przypadku modeli rzadkich.
- NVLink i NVSwitch trzeciej generacji: zapewniają dwukrotnie większą przepustowość między procesorami GPU i GPU w porównaniu z poprzednią generacją technologii połączeń, przyspieszając transfer danych do procesora GPU w przypadku obciążeń wymagających dużej ilości danych do 600 gigabajtów na sekundę.
Dostępność:
Oczekuje się, że dostawcy systemów adingowych: Atos, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Quanta i Supermicro zaczną oferować systemy zbudowane na zintegrowanych płytach bazowych HGX A100 z procesorami graficznymi A100 80 GB w pierwszej połowie przyszłego roku.
Amazon