Aujourd'hui, lors du SC20, NVIDIA a annoncé que son populaire GPU A100 verra un doublement de la mémoire à bande passante élevée avec le dévoilement du GPU NVIDIA A100 80 Go. Ce nouveau GPU sera l'innovation qui alimentera la nouvelle plate-forme de supercalcul NVIDIA HGX AI. Avec deux fois plus de mémoire, le nouveau GPU espère aider les chercheurs et les ingénieurs à atteindre une vitesse et des performances sans précédent pour débloquer la prochaine vague d'intelligence artificielle et de percées scientifiques.
Plus tôt cette année, lors de la GTC, NVIDIA a annoncé la sortie de son GPU 7 nm, le NVIDIA A100 . Comme nous l'avions indiqué à l'époque, l'A100 est basé sur l'architecture Ampere de NVIDIA et intègre 54 milliards de transistors. À l'instar des précédents GPU pour centres de données de NVIDIA, l'A100 est doté de cœurs Tensor. Ces cœurs sont des composants spécialisés du GPU, conçus spécifiquement pour effectuer rapidement des multiplications et des additions matricielles, opérations couramment utilisées en inférence. Qui dit nouveaux GPU plus puissants dit nouveaux cœurs Tensor encore plus performants. Auparavant, les cœurs Tensor de NVIDIA ne prenaient en charge que les nombres à virgule flottante 32 bits. L'A100, quant à lui, prend en charge les opérations à virgule flottante 64 bits, offrant ainsi une précision bien supérieure.
L'augmentation de la mémoire à bande passante élevée (HBM2e) à 80 Go serait capable de fournir 2 téraoctets par seconde de bande passante mémoire. Ce nouvel élan aide les applications émergentes du HPC qui ont d'énormes besoins en mémoire de données, telles que la formation à l'IA, le traitement du langage naturel et l'analyse de données volumineuses, pour n'en nommer que quelques-unes.
Principales caractéristiques du A100 80 Go
L'A100 80 Go inclut les nombreuses fonctionnalités révolutionnaires de l'architecture NVIDIA Ampere :
- Cœurs Tensor de troisième génération : Fournit jusqu'à 20 x le débit d'IA de la génération Volta précédente avec un nouveau format TF32, ainsi que 2.5 x FP64 pour HPC, 20 x INT8 pour l'inférence AI et la prise en charge du format de données BF16.
- Mémoire GPU HBM2e plus grande et plus rapide : double la capacité de mémoire et est la première du secteur à offrir plus de 2 To par seconde de bande passante mémoire.
- Technologie MIG : double la mémoire par instance isolée, fournissant jusqu'à sept MIG de 10 Go chacun.
- Sparsité structurelle : Fournit jusqu'à 2 fois plus d'accélération pour inférer des modèles clairsemés.
- NVLink et NVSwitch de troisième génération : Fournit deux fois la bande passante GPU à GPU de la technologie d'interconnexion de génération précédente, accélérant les transferts de données vers le GPU pour les charges de travail gourmandes en données jusqu'à 600 gigaoctets par seconde.
Disponibilité
Les fournisseurs de systèmes Atos, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Quanta et Supermicro devraient commencer à proposer des systèmes construits à l'aide de cartes de base intégrées HGX A100 dotées de GPU A100 80 Go au cours du premier semestre de l'année prochaine.
Amazon