Podczas targów Computex 2024 firma ASRock Rack zaprezentowała gamę serwerów skalowalnych, wykorzystujących solidną architekturę NVIDIA Blackwell. ASRock Rack zaprezentował kilka najnowocześniejszych systemów zaprojektowanych z myślą o wymaganiach związanych z AI, HPC i obciążeniami centrów danych.
Centralnym punktem ogłoszenia ASRock Rack był model ORV3 NVIDIA GB200 NVL72, chłodzony cieczą system rack. System ten został zbudowany na bazie niedawno zapowiedzianego, skalowalnego systemu NVIDIA GB200 NVL72, który integruje 36 procesorów NVIDIA Grace i 72 procesory graficzne NVIDIA Blackwell Tensor Core z wykorzystaniem technologii NVIDIA NVLink. Ta konfiguracja tworzy potężną jednostkę GPU, która umożliwia szybsze wnioskowanie w czasie rzeczywistym w oparciu o duże modele językowe (LLM), jednocześnie obniżając całkowity koszt posiadania (TCO).
Oprócz systemu ORV3, ASRock Rack wprowadził zaawansowane modele serwerowe 6U8X-EGS2 NVIDIA HGX B100 i 6U8X-GNR2/DLC NVIDIA HGX B200. Serwery te są wyposażone odpowiednio w układy NVIDIA HGX B100 i B200 z 8 procesorami graficznymi.
NVIDIA HGX B100 to bezpośredni zamiennik istniejącej infrastruktury NVIDIA HGX H100, ułatwiający migrację. Model 6U8X-GNR2/DLC NVIDIA HGX B200 wykorzystuje technologię chłodzenia cieczą bezpośrednio na chipie, co pozwala systemowi efektywnie obsługiwać moc obliczeniową (TDP) procesorów graficznych NVIDIA Blackwell w obudowie rack 6U. Dla użytkowników nieposiadających infrastruktury chłodzenia cieczą, ASRock Rack planuje wprowadzić chłodzony powietrzem model 8U8X-GNR2 NVIDIA HGX B200, również wyposażony w system 8 procesorów graficznych NVIDIA HGX B200, umożliwiający wydajne wnioskowanie w czasie rzeczywistym w modelach o bilionach parametrów.
Ulepszona łączność
Wszystkie serwery ASRock Rack NVIDIA HGX obsługują do ośmiu kart sieciowych NVIDIA BlueField-3 SuperNIC, wykorzystując platformę NVIDIA Spectrum-X – kompleksowe rozwiązanie Ethernet zoptymalizowane pod kątem sztucznej inteligencji. Systemy te będą również certyfikowane dla platformy NVIDIA AI i akcelerowanych obliczeń full-stack, w tym mikrousług inferencyjnych NVIDIA NIM, w ramach pakietu oprogramowania NVIDIA AI Enterprise dla generatywnej sztucznej inteligencji.
Weishi Sa, prezes ASRock Rack, podkreślił zaangażowanie firmy w dostarczanie najwyższej klasy rozwiązań dla centrów danych opartych na architekturze NVIDIA Blackwell. „Prezentujemy rozwiązania dla centrów danych przeznaczone do najbardziej wymagających obciążeń w zakresie szkoleń LLM i generatywnego wnioskowania AI. Będziemy nadal poszerzać nasze portfolio, aby w pełni wykorzystać zalety architektury NVIDIA Blackwell w wnioskowaniu LLM i przetwarzaniu danych” – powiedział Sa.
ASRock Rack opracowuje nowe produkty oparte na układzie NVIDIA GB200 NVL2, które mają rozszerzyć zalety architektury NVIDIA Blackwell na konfiguracje skalowalne, zapewniając bezproblemową integrację z istniejącą infrastrukturą centrów danych.
Kaustubh Sanghani, wiceprezes ds. zarządzania produktami GPU w firmie NVIDIA, podkreślił współpracę z ASRock Rack. Powiedział: „Współpracując z ASRock Rack, oferujemy przedsiębiorstwom potężny ekosystem AI, który płynnie integruje sprzęt i oprogramowanie, zapewniając przełomową wydajność i skalowalność, pomagając przesuwać granice sztucznej inteligencji i obliczeń o wysokiej wydajności”.
Modułowa architektura referencyjna NVIDIA MGX
Oprócz nowych produktów, ASRock Rack zaprezentował 4UMGX-GNR2, serwer z dwoma gniazdami GPU, zgodny z architekturą NVIDIA MGX 4U. Serwer ten obsługuje do ośmiu dwuslotowych układów GPU FHFL, takich jak NVIDIA H200 NVL Tensor Core, dzięki czemu nadaje się do serwerów klasy enterprise. Posiada pięć gniazd FHHL PCIe 5.0 x16 i jedno gniazdo HHHL PCIe 5.0 x16, obsługując układy DPU NVIDIA BlueField-3 i karty sieciowe NVIDIA ConnectX®-7, umożliwiając wiele połączeń sieciowych o przepustowości 200 Gb/s lub 400 Gb/s. Serwer posiada również 16 kieszeni na dyski SSD typu hot-swap E1.S (PCIe 5.0 x4).
Jednym z najciekawszych aspektów platformy ASRock Rack MGX jest implementacja rozwiązania pamięci masowej E1.S. Połowa z 16 dysków E1.S jest podłączona bezpośrednio do procesora, ale co ciekawsze, pozostałe 8 jest podłączonych do przełącznika PCI-e, do którego podłączony jest również panel GPU. To stwarza kilka interesujących i fascynujących zastosowań pamięci masowej GPU Direct.
Oczekuje się, że na stoisku ASRock Rack zaprezentowane zostaną bardziej zaawansowane systemy serwerowe, w tym serwer MECAI-NVIDIA GH200 Grace Hopper Superchip, który ASRock Rack wprowadził na rynek na początku roku. Nowe portfolio serwerów ASRock Rack, oparte na architekturze Blackwell firmy NVIDIA, stanowi znaczący postęp w technologiach centrów danych i sztucznej inteligencji. Systemy te oferują wyjątkową wydajność, elastyczność i skalowalność, spełniając potrzeby przedsiębiorstw, które chcą poszerzać granice sztucznej inteligencji i obliczeń o wysokiej wydajności.
Amazon