Stacja HP ZGX Fury AI jest już dostępna w sprzedaży, a HP połączyło informację o dostępności ze współpracą z Red Hat i NVIDIA, aby wyposażyć ją w system Red Hat AI Factory z NVIDIA. ZGX Fury to opracowana przez HP wersja stacji DGX firmy NVIDIA, zbudowana na procesorze GB300 Grace Blackwell Ultra Desktop Superchip z 748 GB zunifikowanej pamięci i do 20 petaflopsów mocy obliczeniowej FP4. HP pozycjonuje ją nie jako osobistą stację roboczą, a raczej jako współdzielony moduł wnioskowania, który dział, hala produkcyjna lub oddział firmy może obsługiwać bez konieczności posiadania centrum danych. Mamy go już w laboratorium, więc wkrótce pojawi się pełna recenzja; oto, co HP do tej pory powiedziało.
Sprzęt HP ZGX Fury: jeden superchip GB300, 748 GB pamięci, obudowa typu tower lub 5U
Rdzeniem systemu jest ten sam krzem, który testowaliśmy w MSI XpertStation WS300 : jeden procesor graficzny Blackwell Ultra z 252 GB pamięci HBM3e o przepustowości 7.1 TB/s, połączony z 72-rdzeniowym procesorem Grace z 496 GB pamięci LPDDR5X przez NVLink-C2C. Arkusz specyfikacji HP uzupełnia szczegóły pominięte w ogłoszeniach platformy. Pamięć procesora to cztery moduły SOCAMM o pojemności 128 GB, zapewniające przepustowość 396 GB/s, a procesor Grace jest przylutowany do modułu procesora hosta, a nie umieszczony w gnieździe. Dwie pule dodają 748 GB spójnej przestrzeni, która pozwala procesorowi graficznemu bezpośrednio adresować pamięć procesora, co umożliwia wnioskowanie bilionów parametrów i dostrajanie modeli w klasie 100 miliardów parametrów na jednym komputerze. Przypis HP dotyczący tych rozmiarów modeli mówi, że uprząż kwantyzuje w FP4.
Dwa wbudowane gniazda M.2 są podłączone do procesora Grace na złączu PCIe 5.0 i przechowują system operacyjny w oprogramowaniu RAID 1. Dwa kolejne gniazda M.2 są odłączone od przełącznika PCIe wewnątrz karty ConnectX-8 SuperNIC i pełnią funkcję woluminu danych RAID 0, z możliwością wyboru 2 TB lub 4 TB samoszyfrującego dysku NVMe przy zakupie.
Za obsługę sieci odpowiada ConnectX-8 z dwoma portami QSFP112 o przepustowości 400 Gb/s każdy, które umożliwiają połączenie dwóch systemów ZGX Fury. Dodatkowo, host posiada port RJ-45 10 GbE oraz oddzielne porty RJ-45 1 GbE, Mini-DP i micro-USB dla kontrolera BMC. Pozostałe porty wejścia/wyjścia są typowe dla stacji roboczych: dwa porty USB-A i dwa porty USB-C z przodu, cztery dodatkowe porty USB z tyłu, gniazda audio, gniazdo Kensington i gniazdo C20 do podłączenia przewodu zasilającego. GB300 nie posiada wyjścia wideo; HP oferuje opcjonalny procesor graficzny NVIDIA RTX PRO do obsługi monitorów, dzięki czemu procesor graficzny Blackwell Ultra pozostaje dedykowany do wnioskowania. Obudowa jest typu tower i posiada również szyny do montażu w szafie 5U. HP wykorzystuje chłodzenie cieczą ze zoptymalizowanym przepływem powietrza, które jest zgodne z tym, co zaobserwowaliśmy w urządzeniu MSI, gdzie pętla o mocy 1,400 W utrzymywała temperaturę procesora graficznego na poziomie 71°C przy pełnym obciążeniu.
Oprogramowanie HP ZGX Fury: Ubuntu, Z Runtime i certyfikacja Red Hat
HP dostarcza ZGX Fury z systemem Ubuntu 24.04 LTS i narzędziami programistycznymi NVIDIA AI, zatwierdzonym przez NVIDIA partnerskim BIOS-em i oprogramowaniem układowym BMC oraz dwiema warstwami specyficznymi dla HP. HP Z Runtime to preinstalowane narzędzie wiersza poleceń do lokalnego pobierania, obsługi i zarządzania modelami, a HP Z Toolkit dodaje frameworki open source, śledzenie eksperymentów MLflow oraz testowanie Ollama z wykrywaniem i synchronizacją w systemach ZGX. Idea polega na tym, że zespół tworzy prototypy na ZGX Nano i przenosi ten sam przepływ pracy na ZGX Fury, gdy potrzebuje więcej pamięci, przepustowości lub jednoczesnej obsługi większej liczby użytkowników.
Nowym elementem jest Red Hat. HP twierdzi, że ZGX Fury jest certyfikowany dla Red Hat Enterprise Linux i wymieniony w Red Hat Ecosystem Catalog dzisiaj, a obie firmy opracowują to, co HP nazywa otwartą platformą AI klasy korporacyjnej, która uruchamia Red Hat AI Factory z NVIDIA na ZGX Fury. Red Hat AI Factory z NVIDIA to pakiet Red Hat RHEL, OpenShift i Red Hat AI Enterprise z NVIDIA AI Enterprise do wdrażania modeli, agentów i aplikacji w chmurze hybrydowej. W ZGX Fury, HP twierdzi, że połączenie ma skrócić czas konfiguracji środowiska i ryzyko wdrożenia, poprawić wykorzystanie GPU dzięki zoptymalizowanym bibliotekom CUDA, harmonogramowaniu i koordynacji obciążeń wielu GPU oraz umożliwić deweloperom przenoszenie obliczeń do pudełka bez zmiany ich istniejących przepływów pracy. Platforma jest również projektowana w celu uruchamiania wielu obciążeń AI na jednym systemie z izolacją i zarządzaniem obciążeniami, dzięki czemu HP przechodzi od komputera stacjonarnego do czegoś, co IT może zarządzać jako infrastruktura brzegowa.
„Przyszłość sztucznej inteligencji zbliża się do miejsc, w których pracują ludzie, działają maszyny i zapadają kluczowe decyzje” – powiedział Jim Nottingham, starszy wiceprezes i prezes działu zaawansowanych rozwiązań obliczeniowych i rozwiązań w HP. „Wspólnie z Red Hat i NVIDIA, HP rozszerza korporacyjną sztuczną inteligencję z centrum danych na brzeg sieci, oferując otwartą platformę wnioskowania klasy korporacyjnej, zaprojektowaną z myślą o zapewnieniu klientom większego wyboru, kontroli i spójności podczas wdrażania lokalnych fabryk sztucznej inteligencji”. Chris Marriott, wiceprezes ds. platform i rozwiązań korporacyjnych w NVIDIA, ujął to w podobny sposób: uruchamianie „wydajnej sztucznej inteligencji lokalnie przy jednoczesnym zachowaniu bezpieczeństwa, skalowalności i spójności, jakich wymagają przedsiębiorstwa”.
ZGX Fury można już zamawiać w HP; cena nie została ujawniona w ogłoszeniu. Integracja z Red Hat AI Factory to rozwiązanie planowane, a nie gotowy produkt (SKU), a HP twierdzi, że klienci będą mogli przetestować je w środowisku testowym na urządzeniach HP przed przejściem do produkcji, a terminy, wymagania kwalifikacyjne i obsługiwane konfiguracje zostaną wkrótce ogłoszone. Sytuacja na rynku szybko się zmienia: WS300 firmy MSI jest dostarczany na tym samym superprocesorze, a stacja robocza Halo firmy AMD Threadripper jest przeznaczona do tych samych obciążeń. Nasza recenzja ZGX Fury zostanie przeprowadzona na platformie HP w tym samym modelu i testach, które przeprowadziliśmy na MSI.
Amazon