HPE ProLiant Compute DL380a Gen12 je určený pre bežné podnikové tímy zamerané na umelú inteligenciu, ktoré chcú hustotu bez zmeny konfigurácie racku. Toto 4U, vzduchom chladené šasi sa jednoducho inštaluje, podporuje až osem grafických procesorov s dvojitou šírkou a ponúka rozhranie PCIe Gen5. Dá sa konfigurovať s dvoma procesormi Intel Xeon 6, každý s až 144 jadrami, 4 TB pamäte DDR5 v 32 moduloch DIMM a šestnástimi pozíciami E3.S NVMe pre vysokú priepustnosť a kapacitu. Cieľ je jednoduchý: dosiahnuť inferenciu na produkčnej úrovni a cielené jemné ladenie vo veľkom meradle bez toho, aby sa museli púšťať do oblasti kvapalinou chladeného šasi.
V prípade akcelerátorov spoločnosť HPE overuje široký sortiment grafických kariet NVIDIA H200 NVL, H100 NVL, L40S, L20, L4 a RTX PRO 6000 Blackwell Server Edition s možnosťami napájania, ktoré podporujú komponenty s vyššou spotrebou energie. V tejto recenzii sa zameriavame na server RTX PRO 6000, ktorý je ideálnym miestom pre podnikovú umelú inteligenciu. Každá karta prináša 96 GB pamäte ECC GDDR7, PCIe Gen5 x16, jadrá Tensor s podporou FP4 a 600W výkon, ktorý funguje vo vzduchom chladených rackoch. Naša zostava bola dodaná so štyrmi kartami, čo je rozumný východiskový bod pre vysokopriepustnú inferenciu a cielené jemné ladenie s dostatočným priestorom na škálovanie.
Spoločnosť HPE dopĺňa platformu o dôležité prevádzkové prvky. iLO 7 sa stará o nastavenie mimo pásma, kontrolu stavu a riadenie napájania, pričom je ukotvený v technológii Silicon Root of Trust – bezpečnej enkláve pre integritu firmvéru – s podporou 4096-bitového RSA a odnímateľným modulom iLO DC-MHS, ktorý posilňuje overovanie dodávateľského reťazca. Server sa tiež napája na rámec umelej inteligencie HPE Private Cloud pre riadenie viacerých tímov a opakovateľné nasadenia vo veľkom rozsahu.
Technické špecifikácie HPE ProLiant Compute DL380a Gen12
| kategórie | špecifikácia |
|---|---|
| Typ procesora | HPE ProLiant Compute DL380a Gen12 |
| Rodina procesorov | Škálovateľné procesory Intel® Xeon® 6. generácie |
| Dostupné jadrá procesora | 64 až 144 jadier, v závislosti od procesora |
| Počet procesorov | 2 |
| rýchlosť procesora | Až 2.4 GHz, v závislosti od procesora |
| Maximálna pamäť | 4 TB RDIMM (2 TB na procesor) |
| Pamäťové sloty | 32 sloty DIMM |
| typ pamäte | Inteligentná pamäť HPE DDR5 |
| Ochrana pamäte | RAS: Pokročilá ECC, online náhrada, zrkadlenie, funkcionalita kombinovaného kanála (lockstep), pamäť HPE Fast Fault Tolerant Memory (ADDDC) |
| Podpora disku | SFF NVMe a EDSFF |
| zabezpečenia | Voliteľný uzamykateľný kryt, detekcia vniknutia a integrovaný modul HPE TPM 2.0 |
| Správa infraštruktúry | Štandard HPE iLO s inteligentným poskytovaním zdrojov (vstavaný), štandard HPE OneView (vyžaduje sa stiahnutie) • Voliteľné: HPE iLO Advanced a HPE OneView Advanced (vyžadujú sa licencie) |
| Zdroj | Až 8 M-CRPS. Jednoduchá redundancia 1+1 pre systémovú dosku. Dvojitá redundancia 2+1 pre grafické karty. |
| Rozširujúce sloty | 6 |
| Systémové ventilátory | Súčasťou balenia sú 4 dvojrotorové a 8 jednorotorové ventilátory s možnosťou výmeny za chodu |
| Tvarový faktor | 4U stojan |
| Záruka | 3. 3. 3: Záruka na server |
Návrh a zostavenie HPE ProLiant DL380a Gen12
HPE ProLiant Compute DL380a Gen12 je 4U, dvojzásuvkový rackový server určený pre vysokovýkonné a škálovateľné nasadenia. S rozmermi 6.88 x 17.63 x 31.60 cm kombinuje hustý výpočtový výkon CPU a GPU s efektívnym vzduchovým chladením pre spoľahlivú prevádzku pri vysokých pracovných zaťaženiach.
S hmotnosťou od 82.7 kg do 137.8 kg v závislosti od konfigurácie podporuje šasi vysokokapacitné komponenty, redundantné napájanie a jednoduchý prístup spredu pre údržbu. Jeho dizajn kladie dôraz na výkon, rozšíriteľnosť a robustný tepelný manažment, vďaka čomu je vhodné pre podnikové prostredia a dátové centrá.
Čo sa týka úložiska, HPE ProLiant DL380a Gen12 ponúka 4- a 8-šachtové konfigurácie vo formáte SFF alebo EDSFF. Náš recenzovaný kus bol nakonfigurovaný s prednou klietkovou sadou HPE DL380a Gen12 NS204i-u, ktorá podporuje dve bootovacie zariadenia NVMe M.2 s možnosťou pripojenia za chodu. Šasi tiež obsahovalo osem 2.5-palcových šachet osadených dvoma SSD diskami U.3 značky HPE s kapacitou 15.36 TB. HPE ponúka niekoľko možností predných šachet, čo umožňuje flexibilnú škálovateľnosť pre rôzne potreby nasadenia.
Jednotku je možné prepravovať pomocou dvoch rukovätí na každej strane, čo znamená, že na bezpečné umiestnenie a inštaláciu do racku sú potrebné aspoň dve osoby. Využíva 2U lištovú súpravu s teleskopickými koľajnicami, čo umožňuje plynulú inštaláciu a údržbu v racku bez nutnosti úplného odstránenia racku.
Na zadnej strane servera HPE ProLiant DL380a Gen12 nájdete prehľadné rozloženie zamerané na prúdenie vzduchu, rozšíriteľnosť a údržbu. Systém podporuje až osem napájacích zdrojov MCRPS (1-8) s integrovanou vetracou stenou, ktorá udržiava optimálne chladenie pri zaťažení. Rozšírenie je rozsiahle a zahŕňa viacero slotov PCIe Gen5 x16 (sloty 1-6), ktoré umožňujú umiestnenie štandardných aj voliteľných rozširujúcich kariet, ako aj sloty OCP A a B pre flexibilné konfigurácie sieťových adaptérov.
Pripojenie zahŕňa vyhradený sieťový port iLO, niekoľko portov USB 3.2 Gen 1 a port VGA pre lokálnu správu. Stojí za zmienku, že slot 1 je k dispozícii iba vtedy, keď je nainštalovaný kábel HPE DL380a Gen12 4EDSFF Direct Cable for NVD (P74716-B21) a nemožno ho použiť s diskami SFF NVMe, zatiaľ čo slot 4 nie je podporovaný v konfiguráciách so 4 alebo 8 grafickými procesormi DW.
Napájanie servera HPE ProLiant DL380a Gen12 je zabezpečené prostredníctvom modulárnych súprav napájacích zdrojov M-CRPS Titanium s možnosťou výmeny za chodu, pričom medzi podporované možnosti patria modely s výkonom 1500 W (P67244-B21), 2400 W (P67252-B21) a 3200 W (P67248-B21). Systém podporuje až osem zdrojov, čo umožňuje redundanciu N+1 na zabezpečenie nepretržitej prevádzky aj v prípade poruchy napájacieho modulu. V závislosti od konfigurácie grafickej karty sa požiadavky na napájanie a distribúcia môžu líšiť. Náš testovaný kus bol vybavený piatimi zdrojmi M-CRPS s výkonom 2400 W, ktoré poskytujú dostatočnú kapacitu na podporu štyroch grafických kariet systému s TDP 600 W a zároveň zachovávajú spoľahlivú redundanciu.
Pri pohľade zhora nadol dovnútra HPE ProLiant DL380a Gen12 je zrejmé, že spoločnosť HPE navrhla toto šasi s tepelnou stratégiou zameranou na GPU, pričom GPU umiestnila v prednej časti systému, aby zabezpečila priame a nerušené prúdenie vzduchu. Chladiaci systém obsahuje štyri ventilátory s možnosťou výmeny za chodu, pričom každá je vybavená jedným dvojrotorovým ventilátorom s rozmermi 92x56 mm a dvoma jednorotorovými ventilátormi s rozmermi 40x28 mm. Menšie ventilátory zameriavajú prúdenie vzduchu na moduly CPU a pamäťové moduly, čím zabezpečujú efektívne tepelné riadenie pre nižšie umiestnené komponenty. Na porovnanie, väčšie dvojrotorové ventilátory sú špeciálne navrhnuté tak, aby poháňali prúdenie vzduchu s vysokým objemom priamo cez pole GPU. Táto vyvážená konštrukcia zaisťuje optimálne chladenie výpočtových aj akceleračných komponentov, a to aj pri trvalom vysokom pracovnom zaťažení.
Po preskúmaní konfigurácie grafickej karty bola naša jednotka predpripravená na štyri grafické karty PCIe 5.0, pričom každá bola prehľadne nainštalovaná v prednej klietke pre grafické karty. Systém bol nakonfigurovaný s grafickými kartami NVIDIA RTX PRO 6000 (Blackwell Server Edition, 96 GB), ktoré sú súčasťou novej profesionálnej rady NVIDIA optimalizovanej pre AI, renderovanie a výpočtové úlohy. V závislosti od zostavy môže DL380a Gen12 podporovať 4 alebo 8 grafických kariet s dvojitou šírkou alebo až 16 akcelerátorov s jednou šírkou, čo ponúka flexibilitu pre širokú škálu podnikových a AI nasadení.
Medzi podporované grafické karty pre túto platformu patria:
- NVIDIA RTX PRO 6000 Serverová edícia (96 GB)
- NVIDIA H200 NVL (141 GB)
- NVIDIA H100 NVL (94 GB)
- NVIDIA L40S (48 GB)
- NVIDIA L20 (48 GB)
- NVIDIA L4 (24 GB)
Toto flexibilné rozloženie GPU v kombinácii s vysokorýchlostnými linkami PCIe Gen5 zaisťuje, že DL380a Gen12 je pripravená na úlohy s vysokou hustotou inferencie aj na rozsiahle tréningové prostredia umelej inteligencie. Pri pohľade ďalej do šasi, s nainštalovaným chladiacim krytom, vidíme premyslený inžiniersky prístup spoločnosti HPE k riadeniu prúdenia vzduchu. Kryt sa vyznačuje precízne tvarovanou konštrukciou prepážky, ktorá efektívne smeruje vzduch cez procesory, pamäťové moduly a VRM, čím zabezpečuje rovnomerné chladenie v celom systéme.
Pri návrhu chladičov CPU spoločnosť HPE navrhla model DL380a Gen12 s ohľadom na tepelnú rovnováhu. Každý procesor Xeon 6 je vybavený vysokým chladičom s vysokou hustotou, ktorý je navrhnutý tak, aby zvládal tepelný výkon samotného CPU a dodatočné teplo generované grafickými procesormi umiestnenými smerom k prednej časti šasi. Táto konštrukcia zaisťuje konzistentný chladiaci výkon aj pri vysokých zmiešaných pracovných zaťaženiach, kde výfuk z grafických procesorov môže zvýšiť teplotu okolia okolo zóny CPU. Keď sú osadené grafické procesory s vysokým výkonom, kombinácia vyšších chladičov a konštrukcie prúdenia vzduchu HPE spredu dozadu poskytuje potrebnú plochu povrchu a účinnosť chladenia na efektívne zvládnutie dodatočného tepelného zaťaženia.
Prehľad ILO 7
Ako už bolo spomenuté, systém obsahuje vyhradený port iLO, ktorý poskytuje možnosti správy mimo pásma pre kompletné ovládanie a monitorovanie servera. Tento systém je dodávaný s novým rozhraním HPE iLO 7, ktoré poskytuje správcom prístup k aktualizovanému rozhraniu a vylepšeným funkciám integrovaným s HPE Compute Ops Management pre zjednodušenú konfiguráciu, monitorovanie a správu životného cyklu. Nižšie je uvedená nová prihlasovacia obrazovka HPE iLO 7 z nášho vzorového systému.
Počnúc ovládacím panelom vidíme, že HPE iLO 7 ponúka modernizované rozhranie, ktoré okamžite zobrazuje stav systému a kľúčové indikátory zdravia. Hlavný panel poskytuje prehľad o stave napájania hostiteľa, jeho zdraví a stave pripojenia pomocou HPE Compute Ops Management. Vpravo sa zobrazujú všeobecné informácie o systéme, ako je IP adresa iLO, názov hostiteľa a typ licencie, pre rýchlu orientáciu.
Ovládací panel zhromažďuje základné metriky – ako je redundancia ventilátorov, stav zdroja napájania a údaje o teplote – do prehľadného, farebne odlíšeného rozloženia, čo uľahčuje rýchle posúdenie stavu servera. Virtuálne médiá a prístup ku vzdialenej konzole sú tiež prístupné priamo z hlavnej stránky, čo zjednodušuje bežné úlohy vzdialenej správy bez ďalšej navigácie.
Na karte Firmvér poskytuje HPE iLO 7 prehľadný a organizovaný prehľad všetkých komponentov a úloh správy aktualizácií. Rozhranie zobrazuje zoznam inventára firmvéru, aktívne inštalačné fronty a výsledky overenia v rozložení založenom na kartách, ktoré sa ľahko ovláda. Správcovia môžu rýchlo spustiť aktualizácie, nahrať balíky do repozitára iLO alebo vytvoriť inštalačné sady pre dávkové nasadenie.
Overovanie firmvéru a správa úložiska sú zabudované priamo do tohto zobrazenia, čo používateľom umožňuje potvrdiť integritu a udržiavať konzistentnosť verzií medzi komponentmi. Ponuka Rýchle akcie vpravo zjednodušuje základné úlohy, ako je aktualizácia firmvéru alebo nahrávanie nových súborov. Karta Nastavenia firmvéru poskytuje kontrolu nad politikami prechodu na staršiu verziu a akceptovaním balíkov tretích strán.
V sekcii Host poskytuje HPE iLO 7 rýchly prístup ku kritickým funkciám správy servera vrátane ovládania napájania, virtuálnych médií, stavu hardvéru a výkonu systému. Správcovia si môžu z tohto rozhrania zobraziť stav redundancie hardvéru v reálnom čase, pristupovať k integrovanému protokolu správy alebo spustiť vzdialenú konzolu priamo. Rozloženie tiež zahŕňa rýchle akcie, ako je napríklad plynulé vypnutie, zapnutie a vypnutie napájania a funkcie resetovania, čo umožňuje plnú diaľkovú správu systému bez fyzického prístupu.
Pravý panel zobrazuje nastavenia hostiteľa vrátane stavu TPM, konfigurácie politiky platformy a informácií o hardvérových moduloch. Celkovo táto časť zdôrazňuje úlohu iLO 7 ako centralizovaného riadiaceho centra, ktoré umožňuje správcom bezpečne spravovať napájanie, monitorovať udalosti a udržiavať prevádzkový dohľad v jednom zobrazení.
V zobrazení Hostiteľ > Hardvér vidíme grafické procesory nainštalované v systéme. Ako už bolo uvedené, jednotka je vybavená štyrmi grafickými procesormi NVIDIA RTX PRO 6000 Blackwell, pričom každý z nich je hlásený ako povolený a funguje normálne. iLO 7 poskytuje podrobné informácie o hardvéri vrátane čísel modelov, čísel dielov a sériových čísel, čo umožňuje správcom na prvý pohľad overiť stav komponentov.
Na karte Zabezpečenie (Security) systém HPE iLO 7 konsoliduje všetky kľúčové ovládacie prvky súvisiace s ochranou systému a správou prístupu. Panel prehľadu poskytuje prehľad o celkovom stave zabezpečenia so zvýraznením úrovní rizika, konfiguračných zámkov a stavu certifikátov. Odtiaľto môžu správcovia spravovať nastavenia šifrovania, metódy overovania a certifikáty TLS, ako aj konfigurovať bezpečné vymazanie a správu vzdialených kľúčov.
Rozhranie jasne označuje oblasti, ktoré si vyžadujú pozornosť, ako sú napríklad certifikáty s vlastným podpisom alebo správa nenakonfigurovaných kľúčov, pričom v prípade potreby stále potvrdzuje bezpečnú prevádzku. Bezpečnostné protokoly, politiky správy používateľov a kontroly prístupu sú ľahko dostupné, čo poskytuje správcom komplexný prehľad o bezpečnostnom stave systému priamo z prostredia iLO.
Na karte Aplikácie HPE poskytuje iLO 7 prístup k integrovaným nástrojom, ktoré vylepšujú nasadenie serverov a správu ich životného cyklu. Z tohto zobrazenia môžu správcovia spustiť Intelligent Provisioning, vstavaný nástroj určený na zjednodušenie inštalácie operačného systému, aktualizácií firmvéru a konfigurácie systému bez potreby externých médií.
Karta Nastavenia iLO zjednocuje všetky konfiguračné a administratívne možnosti na správu rozhrania iLO. Odtiaľto môžu administrátori ovládať prístup používateľov, konfigurácie sieťových portov, metódy overovania a správanie protokolovania. Ponuka obsahuje aj možnosti na riešenie problémov, presadzovanie politík, správu licencií a synchronizáciu času.
Rýchle akcie, ako je zálohovanie alebo obnovenie konfigurácie iLO a vykonanie resetu, sú pohodlne dostupné vpravo, čo pomáha zefektívniť úlohy údržby. Rozloženie odráža zvyšok moderného rozhrania iLO 7 založeného na kartách a poskytuje prehľadný a organizovaný spôsob správy zabezpečenia, pripojenia a prevádzkových parametrov z jedného centralizovaného miesta.
Testovanie výkonu
Aby sme vyhodnotili reálne možnosti servera DL380a Gen12, vykonali sme komplexnú sadu výkonnostných testov, ktoré zahŕňali inferenciu umelej inteligencie aj všeobecné výpočtové záťaže. Patria sem online benchmarky vLLM pre modely veľkých jazykov (LLM) a benchmarky Phoronix Test Suite na meranie priepustnosti CPU, šírky pásma pamäte, efektivity webových služieb a kryptografického výkonu.
Konfigurácia systému
- CPU: 2 x procesor Intel Xeon 6527P
- pamäť: 16 x HPE 64GB 2Rx4 PC5-3400B-R Smart Kit
- GPU: 4 x NVIDIA RTX PRO 6000 (96 GB)
- Skladovanie: 2 x 15.63 TB PM1733a U.3
Online poskytovanie vLLM – výkon inferencie LLM
vLLM je najpopulárnejší vysokokapacitný inferenčný a obslužný engine pre LLM. Online serving benchmark vLLM je nástroj na hodnotenie výkonu, ktorý meria reálne obslužné schopnosti tohto inferenčného enginu pri súbežných požiadavkách. Simuluje produkčné pracovné zaťaženie odosielaním požiadaviek na bežiaci server vLLM s konfigurovateľnými parametrami vrátane rýchlosti požiadaviek, dĺžky vstupu/výstupu a počtu súbežných klientov. Benchmark meria kľúčové metriky vrátane priepustnosti (tok/s), času do prvého tokenu a času na výstupný token, čo pomáha používateľom pochopiť, ako vLLM funguje pri rôznych podmienkach zaťaženia.
Testovali sme výkon inferencie na troch reprezentatívnych modeloch s rôznymi mierkami a kvantizačnými prístupmi a vyhodnotili sme, ako štyri grafické procesory NVIDIA RTX PRO 6000 servera HPE ProLiant DL380a Gen12 zvládajú pracovné zaťaženie produkčnej inferencie.
Výkon hustého modelu
Husté modely predstavujú konvenčnú architektúru LLM, kde sú všetky parametre a aktivácie zapojené počas inferencie. Vyhodnotili sme dve konfigurácie hustých modelov: Llama-2-70b-chat-hf a Llama-3.2-90B-Vision-Instruct.
Výkon Llama-2-70B-Chat
Pri súbežnosti jedného používateľa (BS=1) s TP=4 model dosahuje 32.89 tok/s na používateľa s TPOT 30.18 ms. Pri BS=8 dosahuje výkon 15.68 tok/s na používateľa s celkovou priepustnosťou 433.62 tok/s a TPOT 35.98 ms. Škálovaním na BS=32 dosahuje celková priepustnosť 741.62 tok/s pri zachovaní 8.00 tok/s na používateľa s TPOT 43.44 ms.
Výkon Llama-3.2-90B-Vision-Instruct
Pri BS=1 s TP=4 model poskytuje 20.59 tok/s na používateľa s TPOT 38.27 ms. Pri BS=16 sa výkon škáluje na 7.20 tok/s na používateľa s celkovou priepustnosťou 806.14 tok/s a TPOT 54.98 ms. Maximálna celková priepustnosť 1372.21 tok/s sa dosiahne pri BS=128, čo poskytuje 2.59 tok/s na používateľa s TPOT 122.75 ms.
Výkon dátového typu s mikroškálovaním
Mikroškálovanie predstavuje pokročilý prístup ku kvantizácii, ktorý aplikuje jemnozrnné škálovacie faktory na malé bloky váh namiesto rovnomernej kvantizácie naprieč veľkými skupinami parametrov. Formát NVFP4 od spoločnosti NVIDIA implementuje túto techniku prostredníctvom blokovanej reprezentácie s pohyblivou rádovou čiarkou, kde každý mikroškálový blok s 8 – 32 hodnotami zdieľa spoločný exponent ako škálovací faktor. Tento granulárny prístup zachováva numerickú presnosť a zároveň dosahuje 4-bitovú reprezentáciu, čím sa zachováva dynamický rozsah kritický pre transformátorové architektúry. Formát sa integruje s architektúrou Tensor Core od spoločnosti NVIDIA na grafickej karte RTX PRO 6000, čo umožňuje efektívne výpočty so zmiešanou presnosťou s dekompresiou za chodu počas maticových operácií.
Výkon GPT-OSS-120B
Model GPT-OSS-120B od OpenAI sme vyhodnotili pomocou kvantizácie NVFP4. Pri súbežnom načítavaní jedného používateľa s TP=2 dosahuje model 176.09 tok/s na používateľa s TPOT 5.46 ms, čo je najnižšia latencia v našej testovacej sade. Pri BS=4 s TP=4 dosahuje výkon 105.79 tok/s na používateľa a zároveň poskytuje celkovú priepustnosť 1155.94 tok/s s TPOT 7.79 ms. Pri BS=32 s TP=4 sa priepustnosť škáluje na 47.54 tok/s na používateľa a celkovo 3956.44 tok/s s TPOT 13.86 ms. Maximálna celková priepustnosť 4015.77 tok/s sa dosahuje pri BS=64, čo poskytuje 25.38 tok/s na používateľa s TPOT 14.78 ms.
Benchmarky Phoronixu
Phoronix Test Suite je open-source automatizovaná benchmarkingová platforma, ktorá podporuje viac ako 450 testovacích profilov a viac ako 100 testovacích sád prostredníctvom OpenBenchmarking.org. Zaoberá sa všetkým od inštalácie závislostí až po spúšťanie testov a zhromažďovanie výsledkov, vďaka čomu je ideálna na porovnávanie výkonu, overovanie hardvéru a priebežnú integráciu. Zameriame sa na nasledujúce testy: Stream, 7-Zip, zostavenie jadra Linuxu, Apache a OpenSSL testy.
Šírka pásma pamäte streamu
V benchmarku Stream, ktorý meria priepustnosť pamäte, dosiahol HPE DL380a Gen12 pôsobivých 542 GB/s, čo demonštruje schopnosť platformy udržiavať vysoké rýchlosti prenosu dát pri nepretržitom zaťažení. Táto úroveň šírky pásma robí systém obzvlášť efektívnym pre pracovné zaťaženia, ako je modelovanie dát, simulácia a inferencia umelej inteligencie, kde sa veľké súbory údajov musia rýchlo presúvať medzi pamäťou a výpočtovými zdrojmi.
7-zipsová kompresia
Kompresný test 7-Zip nameral 305 tisíc MIP, čo zdôrazňuje silnú viacvláknovú efektivitu systému pre výpočtovo náročné kompresné a dekompresné operácie. Vďaka týmto výsledkom sa DL380a Gen12 výborne hodí do prostredí s častým balením dát, archivačnými úlohami alebo zálohovacími pracovnými postupmi, ktoré sa spoliehajú na konzistentný a opakovateľný výkon CPU.
Kompilácia jadra
Pri kompilácii plného linuxového jadra (allmodconfig) dokončil DL380a Gen12 úlohu za 316 sekúnd. Tento benchmark odráža schopnosť systému ľahko zvládať paralelné úlohy s veľkým množstvom kódu. Rýchlejší výkon kompilácie sa priamo premieta do kratších časov zostavovania a zlepšenej iterácie pre vývojárov pracujúcich v rozsiahlych softvérových alebo CI/CD prostrediach.
Apache Web Server
V oblasti výkonu webových služieb si DL380a Gen12 v benchmarku Apache udržal 94 348 požiadaviek za sekundu. Tento výsledok demonštruje vyvážené spracovanie I/O a silnú efektivitu vyrovnávacej pamäte, čím poskytuje priepustnosť a odozvu potrebnú pre podnikové webové aplikácie, virtualizačné front-endy alebo interný hosting služieb.
Overenie OpenSSL
Kryptografický výkon bol rovnako silný, pričom DL380a Gen12 overil 803 miliárd operácií za sekundu v OpenSSL. To dokazuje schopnosť systému spravovať šifrovanie, autentifikáciu a bezpečné komunikačné záťaže vo veľkom rozsahu.
| Benchmarky Phoronixu | HPE ProLiant DL380a Gen 12 (2x Intel Xeon 6527P) |
| Prúd | 542,720.7 MB / s |
| 7-ZIP | 413 082 MIP/s |
| Kompilácia jadra (allmod) | 316.166 sekúnd |
| Apache (počet požiadaviek za sekundu) | 166 081,54 R/s |
| OpenSSL | 4 409 642 672 307 overení |
Záver
HPE ProLiant DL380a Gen12 vyniká ako jeden z najpraktickejších a najvyváženejších serverov s umelou inteligenciou určených pre bežný trh podnikových systémov s umelou inteligenciou. Jeho 4U vzduchom chladený dizajn poskytuje serióznu výpočtovú hustotu s dvoma procesormi Xeon 6, podporu až 8 dvojnásobne širokých alebo 16 jednorozmerných grafických kariet a 16 pozícií E3.S NVMe, a to všetko pri zachovaní spoľahlivosti a jednoduchej údržby. Inžiniersky prístup spoločnosti HPE k prúdeniu vzduchu a tepelnej rovnováhe zaisťuje konzistentný výkon pri vysokých pracovných zaťaženiach, čo dokazuje, že pokročilá akcelerácia umelej inteligencie môže stále prosperovať v tradičných vzduchom chladených prostrediach.
Zahrnutie iLO 7 prináša výrazné zlepšenie spravovateľnosti, čo je obrovská výhoda pre dodávateľov serverov prvej úrovne, ako je HPE. Modernizované rozhranie, integrácia s HPE Compute Ops Management a podrobná hardvérová telemetria robia vzdialenú správu intuitívnou a efektívnou. Každá sekcia – Dashboard, Firmvér, Hostiteľ, Zabezpečenie, Aplikácie a Nastavenia – odráža posun spoločnosti HPE smerom k čistejšiemu a viac cloudovo integrovanému zážitku bez toho, aby sa obetovala lokálna kontrola, na ktorej sú podnikové tímy závislé.
V testovaní výkonu server dosiahol vynikajúce výsledky. Štyri grafické karty RTX PRO 6000 dosiahli pôsobivú priepustnosť v modeloch LLM s hustou aj mikroškálovanou štruktúrou, pričom výkon vLLM konkuruje systémom chladeným kvapalinou. Benchmarky CPU od spoločnosti Phoronix ďalej zdôrazňujú jeho vyváženosť s viac ako 540 GB/s šírky pásma pamäte, 94k RPS v Apache a viac ako 800 miliardami overení OpenSSL za sekundu, čo ukazuje silu v oblasti umelej inteligencie aj univerzálnych výpočtov.
Cieľ spoločnosti HPE v oblasti dizajnu je jasný: poskytnúť vysokohustotný a produkčný výkon umelej inteligencie s využitím vzduchového chladenia, ktoré sa hodí do existujúcich rackových a napájacích infraštruktúr. Pre tímy dátových centier, ktoré hľadajú spoľahlivé, bezpečné a ľahko spravovateľné výpočty vo vzduchom chladenom prevedení, je DL380a Gen12 schopným a progresívnym riešením pre rastúci mainstreamový trh s umelou inteligenciou.
Amazonka