Au Computex 2024, ASRock Rack a dévoilé une gamme de serveurs évolutifs tirant parti de la robuste architecture NVIDIA Blackwell. ASRock Rack a présenté plusieurs systèmes de pointe conçus pour répondre aux exigences des charges de travail de l'IA, du HPC et des centres de données.
Au Computex 2024, ASRock Rack a dévoilé une gamme de serveurs évolutifs tirant parti de la robuste architecture NVIDIA Blackwell. ASRock Rack a présenté plusieurs systèmes de pointe conçus pour répondre aux exigences des charges de travail de l'IA, du HPC et des centres de données.
Au centre de l'annonce d'ASRock Rack se trouvait l'ORV3 NVIDIA GB200 NVL72, une solution de rack refroidi par liquide. Ce système est construit autour du système évolutif NVIDIA GB200 NVL72 récemment annoncé, qui intègre 36 processeurs NVIDIA Grace et 72 GPU NVIDIA Blackwell Tensor Core utilisant la technologie NVIDIA NVLink. Cette configuration forme une unité GPU massive capable d'inférencer plus rapidement un grand modèle de langage (LLM) en temps réel tout en réduisant le coût total de possession (TCO).
En plus du système ORV3, ASRock Rack a présenté les modèles de serveurs avancés 6U8X-EGS2 NVIDIA HGX B100 et 6U8X-GNR2/DLC NVIDIA HGX B200. Ces serveurs sont équipés respectivement des systèmes NVIDIA HGX B100 et B200 8-GPU.
Le NVIDIA HGX B100 remplace directement les infrastructures NVIDIA HGX H100 existantes, facilitant une transition facile. Le 6U8X-GNR2/DLC NVIDIA HGX B200 est doté d'une technologie de refroidissement liquide directement sur puce, permettant au système de gérer efficacement la puissance de conception thermique (TDP) des GPU NVIDIA Blackwell dans une conception de montage en rack 6U. Pour ceux qui ne disposent pas d'infrastructure de refroidissement liquide, ASRock Rack prévoit d'introduire le NVIDIA HGX B8 8U2X-GNR200 refroidi par air, également équipé du système NVIDIA HGX B200 8-GPU pour une inférence en temps réel hautes performances sur des modèles comportant des milliards de paramètres.
Connectivité améliorée
Tous les serveurs ASRock Rack NVIDIA HGX prennent en charge jusqu'à huit SuperNIC NVIDIA BlueField-3, exploitant la plateforme NVIDIA Spectrum-X, une solution Ethernet de bout en bout optimisée pour l'IA. Ces systèmes seront également certifiés pour la pile complète NVIDIA AI et la plate-forme informatique accélérée, y compris les microservices d'inférence NVIDIA NIM, dans le cadre de la suite logicielle NVIDIA AI Enterprise pour l'IA générative.
Weishi Sa, président d'ASRock Rack, a souligné l'engagement de l'entreprise à fournir des solutions de centre de données de premier plan alimentées par l'architecture NVIDIA Blackwell. « Nous présentons des solutions de centres de données pour les charges de travail les plus exigeantes en matière de formation LLM et d'inférence d'IA générative. Nous continuerons d'élargir notre portefeuille pour apporter les avantages de l'architecture NVIDIA Blackwell à l'inférence LLM et au traitement des données », a déclaré Sa.
ASRock Rack développe de nouveaux produits basés sur NVIDIA GB200 NVL2 pour étendre les avantages de l'architecture NVIDIA Blackwell aux configurations évolutives, garantissant une intégration transparente avec les infrastructures de centres de données existantes.
Kaustubh Sanghani, vice-président de la gestion des produits GPU chez NVIDIA, a souligné la collaboration avec ASRock Rack. Il a déclaré : « En travaillant avec ASRock Rack, nous offrons aux entreprises un puissant écosystème d'IA qui intègre de manière transparente le matériel et les logiciels pour offrir des performances et une évolutivité révolutionnaires, contribuant ainsi à repousser les limites de l'IA et du calcul haute performance.
Architecture de référence modulaire NVIDIA MGX
En plus des nouveaux produits, ASRock Rack a présenté le 4UMGX-GNR2, un serveur GPU double socket compatible avec l'architecture NVIDIA MGX 4U. Ce serveur prend en charge jusqu'à huit GPU FHFL à double emplacement, tels que le GPU NVIDIA H200 NVL Tensor Core, ce qui le rend adapté aux serveurs d'entreprise grand public. Il comprend cinq emplacements FHHL PCIe 5.0 x16 et un emplacement HHHL PCIe 5.0 x16, prenant en charge les DPU NVIDIA BlueField-3 et les cartes réseau NVIDIA ConnectX®-7 pour plusieurs connexions réseau à 200 Gb/s ou 400 Gb/s. Le serveur dispose également de 16 baies de disques remplaçables à chaud pour les SSD E1.S (PCIe 5.0 x4).
L'un des aspects les plus intéressants de la plateforme ASRock Rack MGX est l'implémentation de la solution de stockage E1.S. La moitié des 16 disques E1.S sont directement connectés au processeur, mais plus intéressant encore, les 8 autres sont connectés au commutateur PCI-e auquel le fond de panier GPU est également connecté. Cela présente plusieurs cas d’utilisation intéressants et très fascinants pour le stockage GPU Direct.
Le stand ASRock Rack devrait présenter des systèmes de serveur plus avancés, notamment le serveur MECAI-NVIDIA GH200 Grace Hopper Superchip, lancé par ASRock Rack plus tôt dans l'année. Le nouveau portefeuille de serveurs d'ASRock Rack, alimenté par l'architecture Blackwell de NVIDIA, représente une avancée significative dans les technologies de centre de données et d'IA. Ces systèmes offrent des performances, une flexibilité et une évolutivité exceptionnelles, répondant aux besoins des entreprises qui cherchent à repousser les limites de l'IA et du calcul haute performance.
S'engager avec StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Flux RSS
