Stanica umelej inteligencie HP ZGX Fury je teraz k dispozícii na objednávku a spoločnosť HP spojila túto správu o dostupnosti so spoluprácou so spoločnosťami Red Hat a NVIDIA, aby nadviazala na platformu Red Hat AI Factory s NVIDIA. ZGX Fury je verziou HP na dizajn stanice DGX od spoločnosti NVIDIA, postavenej na superčipe GB300 Grace Blackwell Ultra Desktop so 748 GB unifikovanej pamäte a až 20 petaFLOPS výpočtového výkonu FP4. HP ju prezentuje menej ako osobnú pracovnú stanicu a viac ako zdieľaný inferenčný box, ktorý môže oddelenie, výrobná hala alebo pobočka prevádzkovať bez dátového centra za ním. Jeden už máme v laboratóriu, takže kompletná recenzia sa blíži; toto je to, čo HP doteraz uviedlo.
Hardvér HP ZGX Fury: Jeden superčip GB300, 748 GB pamäte, veža alebo 5U
Jadro systému tvorí rovnaký kremík, aký sme testovali v MSI XpertStation WS300 : jedna grafická karta Blackwell Ultra s 252 GB pamäte HBM3e s rýchlosťou 7.1 TB/s, prepojená so 72-jadrovým procesorom Grace so 496 GB pamäte LPDDR5X cez NVLink-C2C. V technických údajoch HP sú detaily vynechané z oznámení o platforme. Pamäť procesora pozostáva zo štyroch 128 GB modulov SOCAMM s rýchlosťou 396 GB/s a procesor Grace je prispájkovaný k modulu hostiteľského procesora, nie je v pätici. Tieto dva priestory spolu vytvárajú koherentný priestor s kapacitou 748 GB, ktorý umožňuje grafickej karte priamo adresovať pamäť procesora, čo umožňuje inferenciu biliónov parametrov a jemné ladenie modelov v triede 100 miliárd parametrov na jednom zariadení. Poznámka pod čiarou spoločnosti HP k týmto veľkostiam modelov je, že zväzok kvantifikuje na úrovni FP4.
Dva vstavané sloty M.2 visia z procesora Grace na PCIe 5.0 a uchovávajú operačný systém v softvérovom zrkadle RAID 1. Ďalšie dva sloty M.2 vychádzajú z prepínača PCIe vo vnútri sieťovej karty ConnectX-8 SuperNIC a slúžia ako dátový zväzok RAID 0 s 2 TB alebo 4 TB samošifrovacieho NVMe úložiska, ktoré si môžete vybrať pri kúpe.
Sieťové pripojenie zabezpečuje ConnectX-8 s dvoma portami QSFP112 s rýchlosťou 400 Gb/s, ktoré dokážu prepojiť dva systémy ZGX Fury, plus 10GbE RJ-45 pre hostiteľa a samostatný 1GbE RJ-45, Mini-DP a micro-USB pre BMC. Zvyšok I/O je štandardný pre pracovné stanice: dva porty USB-A a dva porty USB-C vpredu, ďalšie štyri porty USB vzadu, zvukové konektory, slot Kensington a vstup C20 pre napájací kábel. Samotný GB300 nemá žiadny výstup na displej; HP ponúka voliteľnú grafickú kartu NVIDIA RTX PRO na riadenie monitorov, takže grafická karta Blackwell Ultra zostáva určená len na inferenciu. Šasi je vežové, ktoré sa dodáva aj s koľajnicami pre 5U rack slot a HP používa kvapalinové chladenie s optimalizovaným prúdením vzduchu, ktoré zodpovedá tomu, čo sme zistili na jednotke MSI, kde slučka s výkonom 1 400 W udržiavala grafickú kartu na 71 °C pri plnom zaťažení.
Softvér HP ZGX Fury: Certifikácia pre Ubuntu, Z Runtime a Red Hat
Spoločnosť HP dodáva ZGX Fury s operačným systémom Ubuntu 24.04 LTS a nástrojmi pre vývojárov umelej inteligencie od spoločnosti NVIDIA, partnerským BIOSom a firmvérom BMC schváleným spoločnosťou NVIDIA a dvoma vrstvami špecifickými pre HP. HP Z Runtime je predinštalovaný nástroj príkazového riadka na lokálne sťahovanie, poskytovanie a správu modelov a HP Z Toolkit pridáva open-source frameworky, sledovanie experimentov MLflow a testovanie Ollama s objavovaním a synchronizáciou naprieč systémami ZGX. Myšlienka spočíva v tom, že tím vytvorí prototyp na ZGX Nano a presunie rovnaký pracovný postup do ZGX Fury, keď potrebuje viac pamäte, vyššiu priepustnosť alebo viac súbežných používateľov.
Novým produktom je Red Hat. HP uvádza, že ZGX Fury je certifikovaný pre Red Hat Enterprise Linux a je dnes uvedený v katalógu ekosystémov Red Hat. Tieto dve spoločnosti vyvíjajú to, čo HP nazýva otvorenou platformou umelej inteligencie podnikovej triedy, ktorá na ZGX Fury spúšťa Red Hat AI Factory s NVIDIA. Red Hat AI Factory s NVIDIA je balík spoločnosti Red Hat, ktorý kombinuje RHEL, OpenShift a Red Hat AI Enterprise s NVIDIA AI Enterprise na nasadzovanie modelov, agentov a aplikácií v hybridnom cloude. V prípade ZGX Fury HP uvádza, že táto kombinácia má za cieľ skrátiť čas nastavenia prostredia a skrátiť riziko nasadenia, zlepšiť využitie GPU prostredníctvom optimalizovaných knižníc CUDA, plánovania a orchestrácie pracovných záťaží s viacerými GPU a umožniť vývojárom presunúť výpočty do zariadenia bez zmeny ich existujúcich pracovných postupov. Platforma je tiež navrhnutá tak, aby spúšťala viacero pracovných záťaží umelej inteligencie na jednom systéme s izoláciou a riadením pracovných záťaží, čo je spôsob, akým sa HP dostáva od stolového počítača k niečomu, čo môže IT oddelenie spravovať ako edge infraštruktúru.
„Budúcnosť umelej inteligencie sa posúva bližšie k miestam, kde ľudia pracujú, kde fungujú stroje a kde sa prijímajú kritické rozhodnutia,“ povedal Jim Nottingham, senior viceprezident a prezident divízie Advanced Compute and Solutions v spoločnosti HP. „Spolu so spoločnosťami Red Hat a NVIDIA spoločnosť HP rozširuje podnikovú umelú inteligenciu z dátového centra až na okraj siete pomocou otvorenej inferenčnej platformy na podnikovej úrovni, ktorá je navrhnutá tak, aby zákazníkom poskytla väčší výber, kontrolu a konzistentnosť pri nasadzovaní lokálnych tovární umelej inteligencie.“ Chris Marriott, viceprezident pre podnikové platformy a riešenia v spoločnosti NVIDIA, to formuloval rovnako: prevádzkovanie „výkonnej umelej inteligencie lokálne a zároveň zachovanie bezpečnosti, škálovateľnosti a konzistentnosti, ktorú podniky požadujú.“
ZGX Fury je už teraz možné objednať prostredníctvom spoločnosti HP; cena nebola v oznámení zverejnená. Integrácia Red Hat AI Factory je skôr plánované riešenie ako dodávaný produkt a spoločnosť HP tvrdí, že zákazníci si ho budú môcť pred prechodom do produkcie otestovať v sandboxovom prostredí na zariadeniach HP, pričom načasovanie, spôsobilosť a podporované konfigurácie budú ešte len známe. Konkurenčný obraz sa rýchlo vykresľuje: WS300 od spoločnosti MSI sa dodáva na rovnakom superčipe a Threadripper Halo Station od spoločnosti AMD je zameraný na rovnaké pracovné zaťaženie. Naša recenzia ZGX Fury podrobí verziu platformy od HP rovnakému modelu a testovaniu, aké sme vykonali na MSI.
Amazonka