DGX Spark ပလက်ဖောင်းဟာ ကျွန်တော်တို့အတွက် ဒီအချိန်မှာ ရင်းနှီးပြီးသားပါ။ Dell , ASUS , Acer နဲ့ Gigabyte တို့ဟာ NVIDIA ရဲ့ GB10 Grace Blackwell reference design ကို အသုံးပြုထားတာကို ကျွန်တော်တို့ ပြန်လည်သုံးသပ်ပြီးပါပြီ ။ အဓိကပါဝင်ပစ္စည်းတွေက အားလုံးမှာ တသမတ်တည်းရှိပါတယ်- FP4 compute ရဲ့ TOPS ၁၀၀၀၊ unified LPDDR5x memory 128GB နဲ့ 150mm chassis မှာ dual 200GbE networking တို့ပါ။ HP ရဲ့ ZGX Nano G1n AI Station ဟာ အဲဒီအခြေခံပေါ်မှာ တည်ဆောက်ထားပေမယ့် HP တည်ဆောက်ထားတဲ့ပုံစံက ဒီ unit ကို Spark နယ်ပယ်ရဲ့ ကျန်တဲ့အပိုင်းတွေနဲ့ ကွဲပြားစေပါတယ်။
အထင်ရှားဆုံးကွာခြားချက်တွေကတော့ ပစ္စည်းတွေနဲ့ တည်ဆောက်ပုံပါ။ HP က ZGX Nano ကို ပြန်လည်အသုံးပြုထားတဲ့ အလူမီနီယမ် ၇၅% အထိနဲ့ ပြန်လည်အသုံးပြုထားတဲ့ သံမဏိ ၂၀% အထိနဲ့ တည်ဆောက်ထားတဲ့ ကိုယ်ထည်ထဲမှာ ထုပ်ပိုးထားပြီး ပြန်လည်အသုံးပြုထားတဲ့ အရာ ၉၃% အထိ သယ်ဆောင်နိုင်တဲ့ ထုပ်ပိုးမှုလည်း ပါဝင်ပါတယ်။ အတွင်းပိုင်း အပြင်အဆင်က ကိုယ်ထည်ကို အပေါ်နဲ့ အောက် တစ်ဝက်စီ ပိုင်းခြားထားတာကြောင့် ကျွန်တော်တို့ စမ်းသပ်ခဲ့တဲ့ Spark ယူနစ်တော်တော်များများထက် SSD နဲ့ ဒင်္ဂါးပြားဘက်ထရီလိုမျိုး အစိတ်အပိုင်းတွေကို အလွယ်တကူ ဝင်ရောက်အသုံးပြုနိုင်ပါတယ်။ အပူချိန်အရ HP က စနစ်ကို 22 dBA idle နဲ့ 27.6 dBA အဆင့်သတ်မှတ်ထားပြီး ပြင်းထန်တဲ့ workloads တွေအောက်မှာ 27.6 dBA အဆင့်သတ်မှတ်ထားပါတယ်။ အမြင့်ဆုံးအချိန်မှာ 780 BTU/နာရီခန့် လျော့နည်းသွားတဲ့ စနစ်အတွက် တိတ်ဆိတ်ပါတယ်။
လုံခြုံရေးဆိုတာ HP က reference platform ထက် အဆပေါင်းများစွာ တွန်းအားပေးတဲ့နေရာပါ။ ZGX Nano မှာ FIPS 140-2 certified mode မှာ လည်ပတ်နေတဲ့ TPM 2.0 ပါဝင်ပြီး Common Criteria EAL4+ နဲ့ ကိုက်ညီကာ BIOS-level secure boot နဲ့ PXE control တွေ ပါဝင်ပါတယ်။ Storage ကို self-encrypting OPAL NVMe drive အနေနဲ့ factory-installed အနေနဲ့ ထည့်သွင်းထားပါတယ်။ အားလုံးကို ခြုံငုံကြည့်ရင် HP ဟာ ဒီ unit ကို developer desk-side AI node အဖြစ်သာမက supply chain certifications၊ encryption at rest နဲ့ tamper resistance တွေ procurement အတွက် အရေးကြီးတဲ့ regulated environments တွေအတွင်းမှာ လည်ပတ်နိုင်တဲ့ system အနေနဲ့ပါ နေရာယူထားပါတယ်။
| specification | HP ZGX Nano G1n AI ဘူတာရုံ |
|---|---|
| ျခံဳငံုသံုးသပ္မႈ | |
| ထုတ်ကုန်အမည် | HP ZGX Nano G1n AI ဘူတာရုံ |
| form ကို Factor | mini ကို |
| ကွန်ပျူတာစက်လည်ပတ်ရေးစနစ်ပရိုဂရမ် | NVIDIA DGX OS 7 / Ubuntu 24.04 မှတ်ချက်- ဤထုတ်ကုန်သည် Microsoft Windows ကို မထောက်ပံ့ပါ။ |
| hardware | |
| processor ကို | NVIDIA GB10 Grace Blackwell စူပါချစ်ပ် Blackwell ဗိသုကာ GPU ၂၀-core Arm CPU (၁၀x Cortex-X၉၂၅ + ၁၀x Cortex-A၇၂၅) Blackwell CUDA Core များ ပဉ္စမမျိုးဆက် Tensor Core များ စတုတ္ထမျိုးဆက် RT Core များ ၁x NVENC ၁x NVDEC |
| မှတ်ဉာဏ် | 128GB LPDDR5x၊ ပေါင်းစည်းထားသော၊ ချန်နယ် ၁၆ ခု၊ ဂဟေဆက်ထားသည် |
| မှတ်ဉာဏ် Bandwidth | 273 GB ကို / s နဲ့ |
| သိုလှောင်မှု (အတွင်းပိုင်း I/O) | ၁ x M.2 PCIe Gen5 x4 ရွေးချယ်စရာများ- 2TB သို့မဟုတ် 4TB PCIe Gen4 x4 NVMe (2242, SED OPAL TLC) |
| ကွန်ရက်ချိတ်ဆက်မှုနှင့် အပြန်အလှန်ဆက်သွယ်မှု | |
| နောက်ဘက် I / O ဆိပ်ကမ်း | ၁ x USB-C ပါဝါ (240W) ၃x USB-C 20Gbps (DisplayPort 1.4a၊ စုစုပေါင်း 30W) HDMI 2.1a ၁ ပေါက် ၁ x 10GbE RJ-45 ၂x QSFP 200GbE (ConnectX-7) |
| ကွန်ရက်ထိန်းချုပ်ကိရိယာများ | Realtek RTL8127-CG 10GbE NVIDIA ConnectX-7 200GbE |
| WiFi နှင့် Bluetooth | AzureWave AW-EM637 Wi-Fi 7 + Bluetooth 5.4 |
| performance | |
| AI တွက်ချက်မှု | TOPS ၁၀၀၀ အထိ (FP4) |
| မော်ဒယ်စွမ်းရည် | 200B parameters အထိ |
| ရုပ်ပိုင်းဆိုင်ရာနှင့် စွမ်းအား | |
| ရှုထောင့် (H ကိုက x W x ကို: D) | ၂.၀၁ လက်မ (ခြေထောက်မပါ) / ၂.၁ လက်မ (ခြေထောက်ပါ) 5.9 "x ကို 5.9" |
| အလေးချိန် | ၁.၂၅ ကီလိုဂရမ် (၂.၇၆ ပေါင်) မှစတင်၍ |
| Power ကထောက်ပံ့ရေး | 240W USB-C ပြင်ပအဒက်တာ၊ 89% စွမ်းဆောင်ရည်၊ တက်ကြွသော PFC |
တည်ဆောက်ခြင်းနှင့်ဒီဇိုင်းဆွဲခြင်း
HP ZGX Nano G1n သည် ကျွန်ုပ်တို့ယခုအချိန်အထိ ကြည့်ရှုခဲ့သော အခြားစနစ်များနှင့် နှိုင်းယှဉ်ပါက DGX Spark ဒီဇိုင်းကို သိသိသာသာကွဲပြားစွာ ချဉ်းကပ်ထားသည် (ကျွန်ုပ်တို့၏ Dell / ASUS / Acer / Gigabyte သုံးသပ်ချက်များကိုကြည့်ပါ)။ အတွင်းပိုင်းများကို အပေါ်အဖုံးထဲတွင် ထည့်သွင်းထားသကဲ့သို့ ခံစားရသည့် ပို၍အသုံးများသော တည်ဆောက်ပုံအစား HP သည် ကိုယ်ထည်ကို အပေါ်နှင့်အောက် တစ်ဝက်စီ ပိုင်းခြားထားသောကြောင့် အထဲသို့ဝင်လိုက်သည်နှင့် အတွင်းပိုင်း အပြင်အဆင်ကို ပိုမိုနားလည်ရလွယ်ကူစေသည်။ ပိုမိုရှုပ်ထွေးသည်ဟု ပထမဆုံးထင်ရသည့်အရာသည် အတော်လေးလက်တွေ့ကျပြီး ဝက်အူအနည်းငယ်ကို ဖယ်ရှားပြီးနောက် ဒင်္ဂါးပြားဘက်ထရီနှင့် SSD ကဲ့သို့သော အစိတ်အပိုင်းများကို အလွယ်တကူဝင်ရောက်နိုင်သည်။ ထိုပိုမိုစဉ်းစားထားသော အတွင်းပိုင်းဖွဲ့စည်းပုံသည် အပြင်ဘက်တည်ဆောက်ပုံကိုလည်း သယ်ဆောင်သွားပြီး HP သည် စနစ်ကို မည်သို့တည်ဆောက်ပုံနှင့် အသုံးပြုသောပစ္စည်းများကို ပိုမိုအလေးပေးထားသည်။
ဒါပေမယ့် HP က ၁၅၀ မီလီမီတာ စတုရန်းပေရှိတဲ့ ချောမွေ့တဲ့ အနက်ရောင် ဘူးထဲမှာ ထုပ်ပိုးထားပြီး ပြန်လည်အသုံးပြုထားတဲ့ ပစ္စည်းတွေကို အဓိက အားကိုးထားပါတယ်။ အထူးသဖြင့် တည်ဆောက်ပုံမှာ ပြန်လည်အသုံးပြုထားတဲ့ အလူမီနီယမ် ၇၅% အထိ၊ ပြန်လည်အသုံးပြုထားတဲ့ သံမဏိ ၂၀% နဲ့ အသုံးပြုပြီးသား ပြန်လည်အသုံးပြုထားတဲ့ ပလတ်စတစ် အများအပြားကို အသုံးပြုထားပါတယ်။ ထုပ်ပိုးမှုမှာတောင် ဒီကတိကဝတ်ကို ထင်ဟပ်စေပါတယ်။ လှိုင်းတွန့် သတ္တုပြားတွေမှာ ပြန်လည်အသုံးပြုထားတဲ့ ပါဝင်မှု ၉၃% အထိ ပါဝင်ပြီး ပလတ်စတစ်ထုပ်ပိုးမှုမှာ အနည်းဆုံး ပြန်လည်အသုံးပြုထားတဲ့ ပါဝင်မှု ၃၀% ပါဝင်ပါတယ်။
အပူချိန်အရ စနစ်သည် အတင်းအကြပ်လေအေးပေးစနစ်ကို အားကိုးသည်။ NVIDIA GB10 Grace Blackwell Superchip ၏သိပ်သည်းဆကို ထည့်သွင်းစဉ်းစားလျှင် ၎င်းသည် ထင်ရှားသော အင်ဂျင်နီယာရွေးချယ်မှုတစ်ခုဖြစ်သည်။ ၎င်း၏ သေးငယ်သော အနေအထားရှိသော်လည်း HP သည် အပူချိန်အပြည့်အ၀ကို သတ်မှတ်သည် ။ အမြင့်ဆုံးဝန်အောက်တွင် စနစ်သည် ဖွဲ့စည်းမှုပုံစံပေါ် မူတည်၍ တစ်နာရီလျှင် BTU 780 ခန့်အထိ ပျံ့နှံ့သွားသည်။ အမြင့်ဆုံးစနစ်ပါဝါသုံးစွဲမှုမှာ 228W ခန့်အထိ ရောက်ရှိသည်။ ထို့အပြင် HP သည် ဆူညံသံအဆင့်ကို ကြော်ငြာထားပြီး အားလပ်ချိန်တွင် 22 dBA နှင့် ပြင်းထန်သောအလုပ်များအောက်တွင် 27.6 dBA ရှိသည်။
ရုပ်ပိုင်းဆိုင်ရာအရ ယူနစ်သည် ခြေထောက်မပါဘဲ ၅.၉ x ၅.၉ x ၂.၀၁ လက်မ အတိုင်းအတာရှိပြီး အလွန်သေးငယ်သောနေရာတွင် ခိုင်မာစွာတည်ရှိသည်။ HP က ယူနစ်ကို rack တွင်တပ်ဆင်၍မရကြောင်း ရှင်းရှင်းလင်းလင်းဖော်ပြထားပြီး ရိုးရာဒေတာစင်တာအခြေခံအဆောက်အအုံထက် စားပွဲဘေး AI node အဖြစ် ၎င်း၏အခန်းကဏ္ဍကို အားဖြည့်ပေးသည်။ ဝန်ဆောင်မှုပေးနိုင်မှုမှာ ဒီဇိုင်းအရ အနည်းဆုံးဖြစ်သည်။ အသုံးပြုသူများသည် အတွင်းပိုင်းအစိတ်အပိုင်းများကို ဝင်ရောက်ကြည့်ရှုရန် #1 Phillips screwdriver လိုအပ်ပြီး မှတ်ဉာဏ်အပါအဝင် အစိတ်အပိုင်းအများစုကို အသုံးပြုသူအစားထိုး၍မရပါ။
အတွင်းပိုင်းတွင်၊ ZGX Nano သည် DGX Spark ပလက်ဖောင်းပေါ်တွင် တည်ဆောက်နေသော အခြား OEM အများအပြားကဲ့သို့ပင် NVIDIA ၏ reference board ဒီဇိုင်းကို အသုံးပြုထားသည်။ LPDDR5x မှတ်ဉာဏ်ကို board နှင့် တိုက်ရိုက်ချိတ်ဆက်ထားပြီး 8533 MHz အထိ လည်ပတ်သည်။ အလုံးစုံပြောရလျှင် ပလက်ဖောင်းသည် မော်ဂျူလာထက် စွမ်းဆောင်ရည်နှင့် သိပ်သည်းဆကို ဦးစားပေးသည်။
လုံခြုံရေးနှင့် အဆင့်မြှင့်တင်နိုင်မှု
HP က ZGX Nano G1n ကို ဒီဇိုင်းအရ lock ချထားပါတယ်။ ၎င်းတွင် FIPS 140-2-certified mode တွင်လည်ပတ်ပြီး Trusted Computing Group သတ်မှတ်ချက်များနှင့်ကိုက်ညီကာ Common Criteria EAL4+ အသိအမှတ်ပြုထားသော integrated TPM 2.0 module ပါရှိသည်။ BIOS-level protections များတွင် secure boot controls၊ PXE-based remote boot capabilities နှင့် removable media မှ boot ကိုလုံးဝ disable လုပ်နိုင်စွမ်းတို့ပါဝင်သည်။
ဟာ့ဒ်ဝဲရှုထောင့်မှကြည့်လျှင် HP က ဤစနစ်ကို အဆင့်မြှင့်တင်၍မရကြောင်း ရှင်းရှင်းလင်းလင်း ပြောကြားထားသည်။ 128GB LPDDR5x unified memory ကို board နှင့် တိုက်ရိုက်ဂဟေဆက်ထားသည်။ ထို့အပြင် ဝယ်ယူသူများသည် ဝယ်ယူချိန်တွင် storage ကို ရွေးချယ်ရမည်ဖြစ်သည်။ M.2 slot တစ်ခုတည်းသည် PCIe Gen5 x4 ကို လျှပ်စစ်နည်းဖြင့် ပံ့ပိုးပေးသော်လည်း စက်ရုံပုံစံများတွင် PCIe Gen4 x4 NVMe SSD များဖြင့် ပါရှိသည်။ ၎င်းတို့သည် 2TB သို့မဟုတ် 4TB စွမ်းရည်များဖြင့် ထွက်ပေါ်လာပြီး အားလုံးသည် self-encrypting OPAL drive များဖြစ်သည်။
အပိုပစ္စည်းများသည် ထုတ်လုပ်မှုပြီးဆုံးပြီးနောက် ငါးနှစ်အထိ ရရှိနိုင်ကြောင်း HP က မှတ်ချက်ပြုထားသည်။ သို့သော်လည်း ၎င်းသည် အခြေခံအားဖြင့် မော်ဂျူလာ အလုပ်ရုံတစ်ခုထက် ပစ္စည်းကိရိယာပုံစံစနစ်တစ်ခုဖြစ်သည်။
I/O နှင့် ချဲ့ထွင်မှု
ယူနစ်၏ ရှေ့မျက်နှာစာသည် ရိုးရှင်းပြီး ပါဝါခလုတ်နှင့် အခြေအနေ LED တစ်ခုတည်းသာ ပါရှိသည်။ နောက်ဘက်တွင် စနစ်သည် မြင့်မားသောစွမ်းဆောင်ရည်ရှိသော ချိတ်ဆက်မှုရွေးချယ်စရာများစွာကို ပေးဆောင်သည်။ HP သည် NVIDIA မှ အကြံပြုထားသော 240W USB-C adapter မှတစ်ဆင့် ပါဝါကို ပေးပို့ပြီး ပြင်ပ adapter များသည် စွမ်းဆောင်ရည် ကျဆင်းခြင်း သို့မဟုတ် မတည်ငြိမ်မှုကို ဖြစ်စေနိုင်ကြောင်း သတိပေးထားသည်။
USB 3.2 Type-C port သုံးခုသည် USB ချိတ်ဆက်မှုကို ပံ့ပိုးပေးပြီး တစ်ခုစီသည် 20 Gbps ဖြင့်လည်ပတ်ပြီး DisplayPort 1.4a Alt Mode ကို ပံ့ပိုးပေးသည်။ သီးသန့် HDMI 2.1a port တစ်ခုက display output ကို ထပ်မံပံ့ပိုးပေးသည်။ ကွန်ရက်ချိတ်ဆက်မှုအတွက် စနစ်တွင် Realtek RTL8127-CG 10GbE controller နှင့် NVIDIA ConnectX-7 controller နှစ်ခုလုံးပါဝင်ပြီး 200 Gbps throughput ရှိသော dual 200GbE QSFP112 port များကို ပေးစွမ်းသည်။
networking stack သည် enterprise features အမျိုးမျိုးကို ပံ့ပိုးပေးပါသည်။ ၎င်းတို့တွင် PXE boot၊ Wake-on-LAN၊ VLAN tagging (802.1Q)၊ time synchronization (802.1as/1588) နှင့် support လုပ်ထားသော speed အားလုံးတွင် full-duplex operation တို့ ပါဝင်သည်။ ထို့အပြင်၊ Bluetooth 5.4 ပါရှိသော Wi-Fi 7 (802.11be) 2×2 module သည် wireless connectivity ကို ပေးစွမ်းပြီး MU-MIMO၊ WPA3 security နှင့် 2.4GHz၊ 5GHz နှင့် 6GHz bands များတွင် operation ကို ပံ့ပိုးပေးသည်။
ဂရပ်ဖစ်နှင့် အသံ
GB10 Superchip မှာ ပေါင်းစပ်ထားတဲ့ NVIDIA Blackwell GPU က ဂရပ်ဖစ်အလုပ်အားလုံးကို ကိုင်တွယ်ပေးပါတယ်။ ဒီစနစ်က USB-C DisplayPort 1.4a မှတစ်ဆင့် 60Hz မှာ 8K output အထိနဲ့ HDMI 2.1a မှတစ်ဆင့် 30Hz မှာ 8K output အထိ ပံ့ပိုးပေးပါတယ်။ အဒက်တာ ဒါမှမဟုတ် dock တွေက မတည်ငြိမ်မှုဖြစ်စေနိုင်သလို signal အရည်အသွေးကိုလည်း ကျဆင်းစေနိုင်တာကြောင့် 8K output အတွက် တိုက်ရိုက်ကြိုးချိတ်ဆက်မှုတွေကို အသုံးပြုရန် HP က အကြံပြုထားပါတယ်။
အသံသည် HDMI မှတစ်ဆင့် လည်ပတ်ပြီး သီးသန့် အန်နာလော့ အသံ အထွက်များ မပါရှိပါ။ ၎င်းသည် စနစ်၏ ရိုးရာ မာလ်တီမီဒီယာ workstation အစား compute node အဖြစ် တည်ရှိမှုနှင့် ကိုက်ညီပါသည်။
အပူချိန်စမ်းသပ်ခြင်း
CPU အပူချိန်
CPU အပူချိန်စမ်းသပ်မှုအတွင်း၊ workload ၏ ပိုမိုပြင်းထန်သော bursts များအတွင်း HP ZGX Nano G1n သည် အမြင့်ဆုံးအပူချိန် 77.3°C သို့ ရောက်ရှိခဲ့သည်။ အခြားယူနစ်များသည် 90°C အတိုင်းအတာသို့ မြင့်တက်လာသည်နှင့်အမျှ အမြင့်ဆုံးအကူးအပြောင်းများအတွင်း HP သည် နှိုင်းယှဉ်မှု stack တွင် အပူဆုံးစနစ်များအောက်တွင် ရှိနေသည်။ workload သည် Equal ISL/OSL နှင့် Decode Heavy သို့ ကူးပြောင်းသွားသည်နှင့်အမျှ CPU အပူချိန်များသည် သိသိသာသာ ဆက်လက်မြင့်တက်နေမည့်အစား တည်ငြိမ်သွားခဲ့သည်။
အောက်ဆုံးအဆင့်မှာ CPU ဟာ ပေါ့ပါးတဲ့ load အခြေအနေတွေမှာ အနည်းဆုံး အပူချိန် ၃၆.၄°C ရှိခဲ့ပါတယ်။ ဒါက စနစ်ဟာ computational stress များတဲ့ အခြေအနေမှာ မရှိတဲ့အခါ HP ဟာ အပူကို ထိရောက်စွာ ပျံ့နှံ့စေတယ်လို့ ဆိုလိုပါတယ်။ အလုံးစုံပြောရရင် ZGX ဟာ ထိန်းချုပ်ထားတဲ့ burst CPU thermal အပြုအမူကို တည်ငြိမ်တဲ့ sustained-load စွမ်းဆောင်ရည်နဲ့ ပြသခဲ့ပါတယ်။
GPU အပူချိန်
GPU အပူချိန်များသည် အလားတူပုံစံအတိုင်း လိုက်လာခဲ့သည်။ အရှိန်အဟုန်မြင့်မားသောကာလများတွင် GPU သည် အမြင့်ဆုံးအပူချိန် 69°C သို့ ရောက်ရှိခဲ့သည်။ ၎င်းသည် အမြင့်ဆုံးပေါက်ကွဲမှုအခြေအနေများတွင် HP ကို နှိုင်းယှဉ်နိုင်သော ထုတ်ကုန်များ၏ အအေးဘက်တွင် ထားရှိပြီး၊ အခြားစနစ်များစွာ (Dell၊ ASUS နှင့် Founders Edition ကဲ့သို့) သည် အမြင့်ဆုံးအပိုင်းတွင် သိသိသာသာပူနွေးလာသည်။ လုပ်ဆောင်ချက်သည် Equal ISL/OSL နှင့် Decode Heavy အဆင့်များအဖြစ်သို့ ပြောင်းလဲသွားသည်နှင့်အမျှ GPU အပူချိန်များသည် တည်ငြိမ်နေခဲ့သည်။
GPU သည် ပေါ့ပါးသောအဆင့်များတွင် အနိမ့်ဆုံးအပူချိန် ၃၄ ဒီဂရီစင်တီဂရိတ်ကို မှတ်တမ်းတင်ထားပြီး ၎င်းသည် ခိုင်မာသော idle thermal စွမ်းရည်ကို ညွှန်ပြနေသည်။ 
NVMe အပူချိန်
Equal အဆင့်တွင် NVMe drive သည် ၄၂°C ခန့်အထိ ရောက်ရှိခဲ့ပြီး ၎င်း၏ အနားယူချိန် အခြေခံမှ တဖြည်းဖြည်း မြင့်တက်လာသည်ကို ပြသခဲ့သည်။ workload သည် Prefill Heavy သို့ ပြောင်းလဲသွားသည်နှင့်အမျှ သိုလှောင်မှုအပူချိန်သည် ၄၂°C မှ ၄၇°C အထိ သိသိသာသာ မြင့်တက်လာခဲ့သည်။ Decode Heavy တွင် drive သည် ၎င်း၏ အပူဆုံးအပိုင်းအခြားဖြစ်သည့် ၄၇°C မှ ၅၄°C တွင် လည်ပတ်ခဲ့ပြီး အမြင့်ဆုံးရောက်ရှိခဲ့သော်လည်း အခြား Spark စနစ်အများစုထက် သိသိသာသာ နိမ့်ကျနေခဲ့သည်။
NIC အပူချိန်
Equal အဆင့်အတွင်း NIC အပူချိန်သည် ၃၉°C မှ ၅၂°C အထိရှိပြီး တည်ငြိမ်စွာ မြင့်တက်လာမှုကို ပြသနေပြီး ကွန်ရက်လှုပ်ရှားမှုသည် အစောပိုင်းတွင် မြင့်တက်လာသည်နှင့်အမျှ အပူအသင့်အတင့် စုပုံလာမှုကို ညွှန်ပြနေသည်။
Prefill Heavy တွင်၊ NIC အပူချိန်သည် ၄၈°C မှ ၆၄°C အထိ မြင့်တက်လာသည်၊ အဘယ်ကြောင့်ဆိုသော် ဤအဆင့်သည် ကွန်ရက်စနစ်ခွဲပေါ်တွင် ပိုမိုကြာရှည်သောဖိအားကို ဖြစ်ပေါ်စေသောကြောင့်ဖြစ်သည်။ Decode Heavy ကာလအတွင်း၊ NIC အပူချိန်သည် အပူဆုံးအပိုင်းအခြားဖြစ်သည့် ၅၂°C မှ ၆၈°C တွင်ရှိနေပြီး အမြင့်ဆုံးရောက်ရှိခဲ့သည်။ သို့သော်လည်း၊ အပူချိန်အပြုအမူသည် စမ်းသပ်မှုတစ်လျှောက်လုံး တည်ငြိမ်နေခဲ့သည်။
GPU ပါဝါသုံးစွဲမှု
Equal အဆင့်တွင် GPU ပါဝါသုံးစွဲမှုသည် 2.86W မှ 40W ကျော်အထိ ရှိပြီး HP ZGX Nano G1n ကို အလယ်အလတ်နေရာတွင် ထားရှိခဲ့သည်။
Prefill Heavy မှာ GPU ပါဝါဟာ 37W လောက်ကနေ စတင်ခဲ့ပြီး အနိမ့်ဆုံး 35W အထိ ကျဆင်းကာ အမြင့်ဆုံး 69W အထိ မြင့်တက်လာတာကြောင့် ဒါဟာ ပါဝါအများဆုံး အသုံးပြုတဲ့ အဆင့်ဖြစ်ပါတယ်။
Decode Heavy ကာလအတွင်း GPU ပါဝါသုံးစွဲမှုသည် 35W မှ 46W အတွင်း ပိုမိုနိမ့်ပြီး ပိုမိုတည်ငြိမ်သောအပိုင်းအခြားတွင် တည်ရှိပြီး အလုပ်ပမာဏသည် ပိုမိုပြင်းထန်သော burst အပြုအမူမှ ပြောင်းလဲသွားသည်နှင့်အမျှ ပါဝါဝယ်လိုအား လျော့ကျသွားကြောင်း ညွှန်ပြသည်။
အပူချိန်အကျဉ်းချုပ်
ဝန်အားအောက်တွင် ZGX Nano G1n သည် တင်းကျပ်စွာထိန်းချုပ်ထားသော အပူအဖုံးအတွင်း လည်ပတ်သည်။ အမြင့်ဆုံးစနစ်ပါဝါသုံးစွဲမှုသည် ခန့်မှန်းခြေအားဖြင့် 228W ရှိပြီး အပူပျံ့နှံ့မှုမှာ ခန့်မှန်းခြေအားဖြင့် 780 BTU/နာရီဖြစ်သည်။ ဆန့်ကျင်ဘက်အနေဖြင့်၊ အားလပ်ချိန်ပါဝါသုံးစွဲမှုသည် 36–38W ခန့်တွင် နည်းပါးနေဆဲဖြစ်ပြီး စနစ်အသက်မဝင်သည့်အခါ ထိရောက်သောပါဝါချိန်ညှိမှုကို ညွှန်ပြသည်။ အတင်းအကြပ်လေအေးပေးစနစ်သည် HP ၏သတ်မှတ်ထားသော 5°C မှ 30°C အကွာအဝေးအတွင်း တည်ငြိမ်သောလည်ပတ်မှုကို ထိန်းသိမ်းထားသည်။
HP ZGX Nano AI စွမ်းဆောင်ရည်စမ်းသပ်ခြင်း
GB10 ပါရှိသော HP ZGX Nano ကို အကဲဖြတ်ရန်အတွက်၊ ကျွန်ုပ်တို့သည် Spark ယူနစ်များကို စမ်းသပ်ခဲ့ပြီး၊ ၎င်းသည် ဘာသာစကားကြီးများအတွက် အကျယ်ပြန့်ဆုံး အသုံးပြုထားသော high-throughput inference နှင့် serving engine ဖြစ်သည့် vLLM Online Serving benchmark ကို အသုံးပြုခဲ့သည်။ vLLM online serving benchmark သည် လည်ပတ်နေသော vLLM server သို့ concurrent request များပေးပို့ခြင်းနှင့် load condition အမျိုးမျိုးတွင် total token throughput (tokens per second)၊ first token သို့ရောက်ရှိချိန်နှင့် output token တစ်ခုလျှင်အချိန်အပါအဝင် key metrics များကို တိုင်းတာခြင်းဖြင့် real-world production workloads များကို simulate လုပ်သည်။
ကျွန်ုပ်တို့၏ စမ်းသပ်မှုသည် dense architectures နှင့် micro-scaling data types များအပါအဝင် မော်ဒယ်အမျိုးမျိုးကို လွှမ်းခြုံထားပြီး workload scenarios သုံးခုဖြစ်သည့် Equal ISL/OSL၊ Prefill Heavy နှင့် Decode Heavy တို့တွင် စွမ်းဆောင်ရည်ကို အကဲဖြတ်ခဲ့သည်။ ဤ scenarios များသည် balanced input နှင့် output loads များမှ compute-intensive prompt processing နှင့် memory-bandwidth-bound token generation အထိ ကွဲပြားသော real-world serving patterns များကို ကိုယ်စားပြုသည်။
GB10 ပါ HP ZGX Nano အပြင်၊ Dell၊ ASUS ၊ Acer နှင့် Gigabyte မှ အခြား OEM စနစ်များကိုလည်း benchmark လုပ်ခဲ့ပါသည် ။ ၎င်းက HP ၏ရလဒ်များကို ပိုမိုကျယ်ပြန့်သော ယှဉ်ပြိုင်မှုရှုခင်းအတွင်း ထည့်သွင်းနိုင်စေပြီး ၎င်းသည် မည်သည့်နေရာတွင် ဦးဆောင်နေသည်၊ မည်သည့်နေရာတွင် လိုက်မီနေသည် သို့မဟုတ် မတူညီသော မော်ဒယ်များနှင့် workloads များတွင် ခြေရာခံနေသည်ကို နားလည်နိုင်စေခဲ့ပါသည်။
GPT-OSS-120B
GPT-OSS-120B ဖြင့် HP ZGX Nano G1n သည် Prefill Heavy တွင် ၎င်း၏ အခိုင်မာဆုံးရလဒ်များကို ရရှိခဲ့ပြီး အသုတ် ၁ တွင် 304.5 tok/s မှ အသုတ် ၆၄ တွင် 2773.3 tok/s အထိ မြင့်တက်လာခဲ့သည်။ Equal ISL/OSL သည်လည်း တဖြည်းဖြည်း တိုးတက်လာပြီး လုပ်ငန်းစဉ်တစ်လျှောက်တွင် 69.6 tok/s မှ 722.9 tok/s အထိ မြင့်တက်လာခဲ့သည်။ Decode Heavy သည် နှိုင်းယှဉ်ကြည့်လျှင် များစွာပေါ့ပါးပြီး အသုတ် ၁ တွင် 183.7 tok/s မှစတင်ကာ အသုတ် ၂ တွင် အနည်းငယ်ကျဆင်းသွားပြီးနောက် အသုတ် ၆၄ တွင် 262.9 tok/s အထိ ပြန်လည်ကောင်းမွန်လာခဲ့သည်။
GPT-OSS-20B
GPT-OSS-20B နဲ့ဆိုရင် HP ရဲ့ အမြင့်ဆုံး ဂဏန်းတွေက Prefill Heavy ကနေ လာတာဖြစ်ပေမယ့် ချိန်ညှိမှုက တခြား မော်ဒယ်တွေထက် မျဉ်းဖြောင့်ဆန်မှု နည်းပါတယ်။ Prefill ဟာ batch 1 မှာ 1626.6 tok/s ကနေ စတင်ပြီး batch 2 မှာ 1980.3 tok/s အထိ မြင့်တက်ကာ batch 4 မှာ 1120.3 tok/s အထိ သိသိသာသာ ကျဆင်းသွားကာ batch 64 မှာ 4345.1 tok/s အထိ ပြန်လည်ကောင်းမွန်လာပါတယ်။ Equal ISL/OSL ဟာ 92.6 tok/s ကနေ 1550.6 tok/s အထိ ပိုမိုချောမွေ့စွာ ချိန်ညှိနိုင်ပြီး Decode Heavy ကတော့ 94.4 tok/s ကနေ 670.4 tok/s အထိ မြင့်တက်သွားပါတယ်။
Qwen3 Coder 30B A3B FP8
Qwen3 Coder 30B A3B (FP8) အတွက် HP သည် Prefill Heavy တွင် ထပ်မံထူးချွန်ပြီး throughput သည် batch size 1 တွင် 432.2 tok/s မှ batch size 64 တွင် 2069.4 tok/s အထိ တိုးလာသည်။ Equal ISL/OSL သည် 104.2 tok/s မှ 1274.4 tok/s အထိ မြင့်တက်လာပြီး Decode Heavy သည် 55.9 tok/s မှ 480.4 tok/s အထိ တိုးတက်လာသည်။ ၎င်းသည် HP ၏ အားကောင်းသော အလုံးစုံရလဒ်များထဲမှ တစ်ခုဖြစ်သည်။
Qwen3 Coder 30B A3B Base
Qwen3 Coder 30B A3B (Base) တွင်၊ HP သည် အဆင့်သုံးဆင့်စလုံးတွင် တည်ငြိမ်သောတိုးတက်မှုကို ပေးစွမ်းနိုင်သော်လည်း topline သည် Prefill Heavy အဆင့်တွင် ရှိနေသေးသည်။ ထိုအဆင့်သည် batch 1 တွင် 258.6 tok/s မှ batch 64 တွင် 1629.4 tok/s အထိ တိုးလာသည်။ Equal ISL/OSL သည် 60.3 tok/s မှ 690.3 tok/s အထိ တိုးလာပြီး Decode Heavy သည် 33.0 tok/s မှ 331.8 tok/s အထိ တိုးလာသည်။
လာမာ ၃.၁ ၈ဘီ ညွှန်ကြားချက် FP၄
Llama-3.1-8B-Instruct (FP4) ဖြင့် HP သည် throughput တွင် ထင်ရှားသော အဆင့်တစ်ခု မြင့်တက်လာသည်ကို ပြသထားသည်။ Equal ISL/OSL သည် batch 1 တွင် 76.4 tok/s မှ batch 64 တွင် 2774.1 tok/s အထိ မြင့်တက်လာပြီး ဤမော်ဒယ်တွင် HP ၏ အဆင့်သုံးဆင့်တွင် အားအကောင်းဆုံး ဖြစ်လာသည်။ Prefill Heavy သည်လည်း တက်ကြွစွာ တိုးချဲ့လာပြီး batch 32 တွင် 316.8 tok/s မှ 2397.1 tok/s အထိ မြင့်တက်လာပြီးနောက် batch 64 တွင် 2270.4 tok/s အထိ ကျဆင်းသွားသည်။ Decode Heavy သည် sweep တစ်လျှောက်တွင် 40.7 tok/s မှ 547.6 tok/s အထိ မြင့်တက်လာသည်။
လာမာ ၃.၁ ၈ခ ညွှန်ကြားချက် (အခြေခံ)
Llama-3.1-8B-Instruct (Base) တွင်၊ HP ZGX Nano G1n သည် အဆင့်သုံးဆင့်စလုံးတွင် ရှင်းလင်းစွာ ချိန်ညှိနိုင်သည်။ Equal ISL/OSL တွင်၊ throughput သည် batch 1 တွင် 28.2 tok/s မှ batch 64 တွင် 1298.6 tok/s အထိ မြင့်တက်လာသည်။ Prefill Heavy တွင်၊ HP သည် 123.2 tok/s မှ 1759.5 tok/s အထိ မြင့်တက်လာပြီး အမြင့်ဆုံးအဆင့်တွင် အနည်းငယ်လျော့ကျမသွားမီ sweep တစ်လျှောက်လုံးတွင် gains များ အားကောင်းနေခဲ့သည်။ Decode Heavy သည် နှိုင်းယှဉ်ကြည့်လျှင် များစွာပေါ့ပါးပြီး batch 1 တွင် 15.5 tok/s မှ batch 64 တွင် 366.4 tok/s အထိ မြင့်တက်လာသည်။
GPU တိုက်ရိုက်သိုလှောင်မှု
GPU Direct Storage ဘယ်လိုအလုပ်လုပ်လဲ
ရိုးရာအစဉ်အလာအရ GPU တစ်ခုက NVMe drive မှဒေတာများကို စီမံဆောင်ရွက်သည့်အခါ ဒေတာသည် GPU ထံမရောက်မီ CPU နှင့် system memory ကို ဦးစွာဖြတ်သန်းရမည်ဖြစ်သည်။ CPU သည် ကြားခံအဖြစ်လုပ်ဆောင်ပြီး latency ကိုထည့်သွင်းကာ system resource များကို စားသုံးသောကြောင့် ဤလုပ်ငန်းစဉ်သည် ပိတ်ဆို့မှုများကို ဖြစ်ပေါ်စေသည်။ GPU Direct Storage သည် GPU အား PCIe bus မှတစ်ဆင့် storage device မှဒေတာများကို တိုက်ရိုက်ဝင်ရောက်ခွင့်ပြုခြင်းဖြင့် ဤထိရောက်မှုမရှိခြင်းကို ဖယ်ရှားပေးသည်။ ဤတိုက်ရိုက်လမ်းကြောင်းသည် ဒေတာရွေ့လျားမှု overhead ကို လျှော့ချပေးပြီး ပိုမိုမြန်ဆန်ထိရောက်သော လွှဲပြောင်းမှုများကို ဖြစ်စေသည်။
AI workloads များ၊ အထူးသဖြင့် deep learning ပါဝင်သည့် workloads များသည် data များစွာအသုံးပြုရပါသည်။ ကြီးမားသော neural network များကို လေ့ကျင့်ပေးရန်အတွက် data terabytes များကို processing လုပ်ရန် လိုအပ်ပြီး data transfer နှောင့်နှေးမှုတစ်စုံတစ်ရာသည် GPU များကို အသုံးမချနိုင်ခြင်းနှင့် လေ့ကျင့်ချိန်ပိုကြာခြင်းတို့ ဖြစ်စေပါသည်။ ထို့ကြောင့် GPU Direct Storage သည် GPU သို့ data ကို အမြန်ဆုံးပေးပို့ခြင်း၊ အားလပ်ချိန်ကို အနည်းဆုံးဖြစ်အောင်ပြုလုပ်ခြင်းနှင့် တွက်ချက်မှုစွမ်းဆောင်ရည်ကို အမြင့်ဆုံးဖြစ်အောင်ပြုလုပ်ခြင်းဖြင့် ဤစိန်ခေါ်မှုကို ဖြေရှင်းပေးပါသည်။
ထို့အပြင်၊ GDS သည် ဗီဒီယိုလုပ်ဆောင်ခြင်း၊ သဘာဝဘာသာစကားလုပ်ဆောင်ခြင်းနှင့် အချိန်နှင့်တပြေးညီ ကောက်ချက်ချခြင်းကဲ့သို့သော ဒေတာအစုအဝေးကြီးများကို stream လုပ်သည့် workloads များကို အကျိုးပြုသည်။ CPU မှီခိုမှုကို လျှော့ချခြင်းဖြင့် GDS သည် ဒေတာရွှေ့ပြောင်းမှုကို အရှိန်မြှင့်ပေးပြီး အခြားအလုပ်များအတွက် CPU အရင်းအမြစ်များကို လွတ်လပ်စေပြီး စနစ်စွမ်းဆောင်ရည်ကို ပိုမိုမြှင့်တင်ပေးသည်။
GDSIO ဖတ်ရှုမှုပမာဏ ၁၆K
GDSIO Read Throughput 16K ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread ၁ ခုနဲ့ 0.70GiB/s ကနေစတင်ပြီး အုပ်စုထဲမှာ thread နိမ့်တဲ့စွမ်းဆောင်ရည်အကောင်းဆုံးတွေထဲမှာ ပါဝင်ပါတယ်။ thread ၂ ခုမှာ 0.41GiB/s အထိကျဆင်းသွားပြီး thread ၄ ခုမှာ 0.86GiB/s အထိပြန်တက်လာပြီး ဒီစနစ်တွေထဲက အနည်းငယ်မှာတွေ့ရတဲ့ အစောပိုင်း thread မညီညွတ်မှုလေးတွေကို ပြသနေပါတယ်။ အဲဒီကနေစပြီး scaling ဟာ ပိုပြီးတသမတ်တည်းဖြစ်လာပါတယ်။ thread ၈ ခုမှာ thread ၁.၆GiB/s နဲ့ thread ၁၆ ခုမှာ 2.2GiB/s အထိမြင့်တက်လာပြီး thread ၃၂ ခုမှာ 3.0GiB/s အထိဆက်လက်မြင့်တက်သွားပါတယ်။ queue အနက်မြင့်မားတဲ့အခါ HP ဟာ thread ၆၄ ခုမှာ 3.9GiB/s အထိရောက်ရှိပြီး thread ၁၂၈ ခုမှာ 4.6GiB/s အထိအမြင့်ဆုံးရောက်ရှိသွားပါတယ်။
GDSIO ဖတ်ရှုမှု ပျမ်းမျှနှောင့်နှေးမှု 16K
GDSIO Read Average Latency (16K) ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread ၁ ခုနဲ့ ၀.၀၂ ms လောက်ကနေစပြီး thread ၂ ခု (၀.၀၈ ms) နဲ့ thread ၄ ခု (၀.၀၇ ms) မှာ နှေးကွေးနေပါတယ်။ latency ဟာ thread ၈ ခု (၀.၀၈ ms) နဲ့ thread ၁၆ ခု (၀.၁၁ ms) မှာ အနည်းငယ်မြင့်တက်လာပြီး thread ၃၂ ခု (၀.၁၆ ms) နဲ့ thread ၆၄ ခု (၀.၂၅ ms) မှာ ပိုပြီးသိသာထင်ရှားလာပါတယ်။ thread ၁၂၈ ခုမှာ latency ဟာ ၀.၄၂ ms အထိရောက်ရှိပြီး စနစ်ရဲ့ တည်ငြိမ်တဲ့ throughput scaling ကို စမ်းသပ်မှုတစ်လျှောက် ခြေရာခံနေချိန်မှာ အုပ်စုထဲမှာ အမြင့်ဆုံးရလဒ်တွေထက် အနည်းငယ်နိမ့်နေပါသေးတယ်။
GDSIO ရေးသားမှုပမာဏ ၁၆K
GDSIO Write Throughput 16K ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread 1 ခုမှာ 0.84GiB/s ကနေစတင်ပြီး thread 2 ခုမှာ 1.4GiB/s အထိမြင့်တက်လာကာ thread 4 ခုမှာ 2.2GiB/s အထိရောက်ရှိခဲ့ပါတယ်။ စွမ်းဆောင်ရည်ဟာ thread 8 ခု (3.0 GiB/s) မှာ ဆက်လက်တိုးတက်နေပြီး thread 16 ခုမှာ 3.3GiB/s အထိရောက်ရှိခဲ့ပြီး ထိရောက်စွာ လျော့ကျသွားခဲ့ပါတယ်။ အဲဒီကနေ thread 32 နဲ့ 64 ခုမှာ thread 3.3GiB/s မှာ thread 3.3GiB/s မှာ ပြားချပ်ချပ်နီးပါးဖြစ်နေပြီးနောက် thread 128 ခုမှာ 3.2GiB/s အထိ အနည်းငယ်လျော့ကျသွားပြီး platform ဟာ သူ့ရဲ့ write ceiling ကို အစောပိုင်းအဆင့်ကိုရောက်ရှိပြီး ကျန်တဲ့ sweep တစ်လျှောက်လုံး အဲဒီအဆင့်ကို အဆက်မပြတ်ထိန်းသိမ်းထားတာကို ညွှန်ပြနေပါတယ်။
GDSIO ရေးသားမှုပျမ်းမျှနှောင့်နှေးမှု 16K
GDSIO Write Average Latency (16K) ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread ၁ ခုနဲ့ ၀.၀၂ ms လောက်ကနေစပြီး thread ၂ ခု (၀.၀၂ ms) နဲ့ thread ၄ ခု (၀.၀၃ ms) မှာ အရမ်းနည်းနေပါတယ်။ Latency ဟာ thread ၈ ခု (၀.၀၄ ms) နဲ့ thread ၁၆ ခု (၀.၀၇ ms) မှာ အနည်းငယ်တက်လာပြီး thread ၃၂ ခု (၀.၁၅ ms) နဲ့ thread ၆၄ ခု (၀.၃၀ ms) မှာ ခုန်တက်သွားပါတယ်။ thread ၁၂၈ ခုမှာတော့ latency ၀.၆၁ ms အထိရောက်ရှိပြီး အလုံးစုံထိန်းချုပ်ထားနိုင်ပေမယ့် အပေါ်ဘက်လမ်းကြောင်းကတော့ thread အရေအတွက်များလာတာနဲ့အမျှ write throughput ပြားသွားပြီးဖြစ်တဲ့အချက်နဲ့ ကိုက်ညီပါတယ်။
GDSIO ဖတ်ရှုမှုပမာဏ 1M
GDSIO Read Throughput 1M ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread 1 ခုမှာ 3.2GiB/s ကနေစတင်ပြီး thread 2 ခုမှာ 4.1GiB/s အထိမြင့်တက်လာပါတယ်။ thread 4 ခု (5.2GiB/s) နဲ့ thread 8 ခု (5.5GiB/s) မှာ စွမ်းဆောင်ရည်ဆက်လက်မြင့်တက်နေပြီး နောက်ပိုင်းမှာတော့ platform ဟာ အမြင့်ဆုံးအဆင့်ကိုရောက်ရှိသွားပါတယ်။ Throughput ဟာ thread 16, 32 နဲ့ 64 ခုအတွက် 5.5GiB/s မှာ အခြေခံအားဖြင့်တည်ငြိမ်နေပြီးနောက် thread 128 ခုမှာ 5.3 GiB/s အထိအနည်းငယ်လျော့ကျသွားပြီး အစောပိုင်း ramp အားကောင်းပြီးနောက် အလွန်တည်ငြိမ်တဲ့ high-thread plateau ကိုညွှန်ပြနေပါတယ်။
GDSIO ဖတ်ရှုမှု ပျမ်းမျှ နှောင့်နှေးမှု 1M
GDSIO Read Average Latency (1M) ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread ၁ ခုနဲ့ ၀.၃၁ ms လောက်ကနေစတင်ပြီး thread ၂ ခု (၀.၄၇ ms) နဲ့ thread ၄ ခု (၀.၇၆ ms) မှာတော့ အတော်လေးနည်းနေပါသေးတယ်။ Latency ဟာ တစ်ပြိုင်နက်တည်းတိုးလာပြီး thread ၈ ခုမှာ ၁.၄ ms၊ thread ၁၆ ခုမှာ ၂.၉ ms နဲ့ thread ၃၂ ခုမှာ ၅.၉ ms အထိမြင့်တက်လာပါတယ်။ ဒီလမ်းကြောင်းဟာ thread ၆၄ ခု (၁၂.၈ ms) မှာဆက်လက်တည်ရှိနေပြီး thread ၁၂၈ ခုမှာ ၂၇.၂ ms အထိရောက်ရှိပြီး thread အရေအတွက်ပိုမိုမြင့်မားလာတာကို ခြေရာခံပြီး throughput ဟာ sweep မှာအစောပိုင်းကတည်းက ပြားချပ်သွားပေမယ့်လည်း ပိုမိုမြင့်မားတဲ့ queue depths တွေကို ခြေရာခံနေပါတယ်။
GDSIO ရေးသားမှုပမာဏ 1M
GDSIO Write Throughput 1M ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread ၁ ခုနဲ့ 3.1GiB/s ကနေစတင်ပြီး thread ၂ ခုနဲ့ 3.5GiB/s အထိမြင့်တက်လာကာ thread ၄၊ ၈ နဲ့ ၁၆ ခုမှာ အဲဒီအဆင့်ကိုထိန်းသိမ်းထားပါတယ်။ thread ၃၂ ခုမှာ စွမ်းဆောင်ရည်က 3.3GiB/s အထိအနည်းငယ်ကျဆင်းပြီး thread ၆၄ ခုမှာ 3.5GiB/s ကိုပြန်သွားပါတယ်။ thread ၁၂၈ ခုမှာ throughput က 3.7GiB/s အထိမြင့်တက်လာပြီး thread အရေအတွက်အများဆုံးမှာ အနည်းငယ်တိုးတက်မှုရှိပြီး write profile က ပြားချပ်ချပ်ဖြစ်ပါတယ်။
GDSIO ရေးသားမှုပျမ်းမျှ နှောင့်နှေးမှု 1M
GDSIO Write Average Latency (1M) ကိုကြည့်မယ်ဆိုရင် HP ZGX Nano G1n ဟာ thread ၁ ခုနဲ့ ၀.၃၁ ms လောက်ကနေစပြီး thread ၂ ခုနဲ့ ၀.၅၇ ms နဲ့ thread ၄ ခုနဲ့ ၁.၁ ms အထိ မြင့်တက်လာပါတယ်။ တစ်ပြိုင်နက်တည်းလုပ်ဆောင်နိုင်မှု မြင့်တက်လာတာနဲ့အမျှ Latency ဟာ ဆက်လက်မြင့်တက်နေပြီး thread ၈ ခုနဲ့ ၂.၂ ms၊ thread ၁၆ ခုနဲ့ ၄.၄ ms နဲ့ thread ၃၂ ခုနဲ့ ၉.၄ ms အထိ ရောက်ရှိပါတယ်။ thread ၆၄ ခု (၁၇.၇ ms) မှာ အတက်ဘက်လမ်းကြောင်း ဆက်လက်ရှိနေပြီး thread ၁၂၈ ခုမှာ ၃၇.၃ ms အထိ ရောက်ရှိပြီး queue pressure တဖြည်းဖြည်း မြင့်တက်လာတာကို ထင်ဟပ်စေပါတယ်။ write throughput ကိုယ်တိုင်က sweep ရဲ့ အများစုမှာ အတော်လေး တည်ငြိမ်နေပေမယ့်လည်းပေါ့။
ကောက်ချက်
HP ရဲ့ ZGX Nano G1n မှာ DGX Spark platform ရဲ့ မျှော်မှန်းထားတဲ့ စွမ်းဆောင်ရည်ပရိုဖိုင်ကို သယ်ဆောင်ထားပြီး တခြား Spark စနစ်တွေနဲ့ ကွဲပြားတဲ့ အင်ဂျင်နီယာရွေးချယ်မှုတွေကို ထည့်သွင်းထားပါတယ်။ ကျွန်ုပ်တို့ရဲ့ စမ်းသပ်မှုမှာ CPU အပူချိန်ဟာ 77.3°C နဲ့ GPU အပူချိန်ဟာ 69°C မှာ အမြင့်ဆုံးရောက်ရှိခဲ့ပြီး၊ နှစ်ခုစလုံးဟာ ကျွန်ုပ်တို့ benchmark လုပ်ထားတဲ့ Spark unit တွေရဲ့ အအေးဆုံးဘက်ခြမ်းမှာ ရှိပါတယ်။ vLLM စွမ်းဆောင်ရည်ဟာ ကျွန်ုပ်တို့ စမ်းသပ်ခဲ့တဲ့ မော်ဒယ်ခြောက်ခုလုံးမှာ Prefill Heavy workloads မှာ အခိုင်မာဆုံးဖြစ်ပြီး၊ batch size မြင့်မားတဲ့ scaling မှာ သန့်ရှင်းစွာ ထိန်းထားနိုင်ခဲ့ပါတယ်။ GPU Direct Storage read throughput ဟာ 16K မှာ 4.6 GiB/s နဲ့ 1M block size မှာ 5.5 GiB/s အထိ ရောက်ရှိခဲ့ပြီး၊ write throughput ဟာ အစောပိုင်းမှာ တည်ငြိမ်နေခဲ့ပေမယ့် ကျန်ရှိနေတဲ့ thread count တွေမှာ အဲဒီအဆင့်ကို တသမတ်တည်း ထိန်းထားနိုင်ခဲ့ပါတယ်။
ZGX Nano G1n သည် Spark နယ်ပယ်၏ ကျန်အပိုင်းများနှင့် သီးခြားဖြစ်နေသည့်အချက်မှာ HP မှ reference design နှင့်ပတ်သက်သည့် အလုပ်တွင်ဖြစ်သည်။ ပြန်လည်အသုံးပြုထားသော ပစ္စည်းပါဝင်မှု၊ အတွင်းပိုင်း ဝန်ဆောင်မှုကို ပိုမိုကောင်းမွန်စေသည့် အပေါ်/အောက် chassis split နှင့် load အောက်တွင် 27.6 dBA တွင် ထိန်းထားနိုင်သော acoustic envelope အားလုံးသည် GB10 platform လိုအပ်သည်ထက် ကျော်လွန်၍ တမင်တကာ အင်ဂျင်နီယာရွေးချယ်မှုများကို ထင်ဟပ်စေသည်။ security stack သည် ထိုပုံစံအတိုင်း လိုက်နာသည်။ FIPS 140-2 mode၊ Common Criteria EAL4+ နှင့် SED OPAL storage ရှိ TPM 2.0 သည် ဤယူနစ်ကို developer appliance ကိုကျော်ပြီး စည်းမျဉ်းသတ်မှတ်ထားသော ပတ်ဝန်းကျင်များတွင် procurement ကို ရှင်းလင်းနိုင်သော စနစ်တစ်ခုဆီသို့ တွန်းပို့သည်။
အခြား Sparks များကဲ့သို့ပင်၊ ၎င်းသည် အထွေထွေရည်ရွယ်ချက် workstation တစ်ခုမဟုတ်သလို HP ကလည်း ၎င်းကို တစ်ခုအနေဖြင့် မသတ်မှတ်ပါ။ ဝယ်ယူမှုနောက်ကွယ်ရှိ ယုံကြည်စိတ်ချရသော ရေရှည်တည်တံ့ခိုင်မြဲမှုနှင့် လုံခြုံရေးဇာတ်လမ်းများပါရှိသော ဒေသတွင်း AI compute လိုအပ်သော developer များ၊ အဖွဲ့ငယ်များနှင့် အဖွဲ့အစည်းများအတွက်၊ ZGX Nano G1n သည် Spark စီးရီးအတွင်း ရှင်းလင်းစွာ ခွဲခြားထားသော ရွေးချယ်မှုတစ်ခုဖြစ်သည်။ ထိုစံနှုန်းများ မသက်ရောက်သည့် ဆိုင်များအတွက်၊ အခြေခံပလက်ဖောင်းသည် ကျွန်ုပ်တို့ သုံးသပ်ထားသော OEM စနစ်ငါးခုလုံးတွင် စဉ်ဆက်မပြတ်ဖြစ်ပြီး ဆုံးဖြတ်ချက်သည် ဂေဟစနစ်၊ ပံ့ပိုးမှုနှင့် ဈေးနှုန်းပေါ်တွင် မူတည်ပါသည်။
ထုတ်ကုန်စာမျက်နှာ – HP ZGX Nano G1n AI
ဦးဆောင်သူစာရင်း- HP ZGX Nano G1n AI Station သည် ကျွန်ုပ်တို့၏ Best Desktops for Local AI ဦးဆောင်သူစာရင်းတွင် စမ်းသပ်ထားသော နယ်ပယ်၏ အစိတ်အပိုင်းတစ်ခုဖြစ်သည် ။
အမေဇုံ