ကျွန်ုပ်တို့သည် ဆောင်းပါး၏အဆုံးအထိ ရုပ်ပုံတစ်ခုလုံးကို ပုံဖော်ပြီး သုံးသပ်ချက်ကို အပြီးသတ်ရန် ပုံမှန်အားဖြင့် စောင့်လေ့ရှိသည်။ သို့သော် Dell PowerEdge XE9680 သည် စိတ်လှုပ်ရှားဖွယ်ကောင်းသော ဟာ့ဒ်ဝဲတစ်ခုကို ပေးဆောင်သောကြောင့် ဤအပြုသဘောဆောင်သော သုံးသပ်ချက်ဖြင့် ကျွန်ုပ်တို့၏ စိတ်လှုပ်ရှားမှုကို မျှဝေရန် မစောင့်နိုင်တော့ပါ။ Dell ၏ ဒီဇိုင်းသည် AI ၏ လိုအပ်ချက်များကို အခြေခံထားပြီး 6U form factor တွင် ကြီးမားသော တွက်ချက်မှုစွမ်းအားကို ပေးစွမ်းသည်။ XE9680 တွင် Intel နှင့် NVIDIA တို့နှင့် Dell ၏ ပူးပေါင်းဆောင်ရွက်မှုကြောင့် ၎င်းတို့သည် အစွမ်းထက်ရုံသာမက မြင့်မားသော စွမ်းဆောင်ရည်ရှိသော ကမ်းလှမ်းချက်ကို တီထွင်ခဲ့ကြသည်။
ဒဲလ် ပါဝါအိုက်ဒ် XE9680
၎င်း၏ အသေးစိတ်အချက်အလက်များသည် အထင်ကြီးလောက်စရာပင်။ 4th Generation Intel Xeon Scalable processor နှစ်ခု၊ တစ်ခုချင်းစီတွင် 56 cores နှင့် 2TB DDR5 ram တို့သည် AI accelerator များအတွက် CPU backbone ကို ပံ့ပိုးပေးသည်။ ထို့နောက် SXM တွင် ချိတ်ဆက်ထားပြီး NVLink မှတစ်ဆင့် အတူတကွ NVIDIA HGX H100 သို့မဟုတ် A100 GPU ရှစ်ခုကို ထည့်သွင်းလိုက်သောအခါ server သည် အကြီးမားဆုံး မော်ဒယ်များနှင့် data workloads များကို ကိုင်တွယ်နိုင်မည်ဖြစ်သည်။
PowerEdge XE9680 ရဲ့ RAM ပမာဏ များပြားခြင်း (4TB အထိ) အတွက် စွမ်းရည်ဟာ AI workloads တွေကို ကိုင်တွယ်ရာမှာ သိသာထင်ရှားတဲ့ ယှဉ်ပြိုင်နိုင်စွမ်းကို ပေးစွမ်းပါတယ်။ ဒီလို မှတ်ဉာဏ် အရွယ်အစား ကြီးမားခြင်းက ပိုမိုရှုပ်ထွေးတဲ့ မော်ဒယ်တွေကို လေ့ကျင့်ပေးနိုင်ပြီး ပိုမိုမြင့်မားတဲ့ စွမ်းဆောင်ရည်နဲ့ ပိုမိုတိကျတဲ့ ရလဒ်တွေကို ရရှိစေမှာပါ။
ကျွန်ုပ်တို့ရဲ့ configuration တွေမှာ ရှေ့မှာ 8x U.2 NVMe SSD bays တွေ ပါဝင်ပါတယ်။ ဒါပေမယ့် R660 မှာ မြင်တွေ့ခဲ့ရသလိုပဲ Dell ဟာ 16x E3.S SSDs ပါဝင်တဲ့ E3.S backplane ကိုလည်း ပေးဆောင်ဖို့ ရည်ရွယ်ထားပါတယ်။ server ဟာ server ရဲ့ နောက်ဘက်မှာ NVMe BOSS-N1 boot drive rig ကိုလည်း support လုပ်ပါတယ်။
၎င်းသည် စွမ်းအားထက်ပို၍ အရေးပါသည်
PowerEdge XE9680 သည် ပါဝါအတွက်သာမက လုံခြုံရေးနှင့် စီမံခန့်ခွဲနိုင်မှုကိုလည်း ဦးစားပေးပါသည်။ ကုဒ်ဝှက်စနစ်ဖြင့် လက်မှတ်ရေးထိုးထားသော firmware၊ Data at Rest Encryption နှင့် Secure Boot ကဲ့သို့သော အင်္ဂါရပ်များဖြင့် server သည် သင့်ဒေတာကို အမြဲကာကွယ်ထားကြောင်း သေချာစေသည်။ embedded iDRAC9 စနစ်သည် အသုံးပြုရလွယ်ကူသော စီမံခန့်ခွဲမှု interface ကို ပေးစွမ်းပြီး server ကို စီမံခန့်ခွဲရာတွင် ရိုးရှင်းပြီး အခက်အခဲမရှိစေသော tools များနှင့် integrations အမျိုးမျိုးကို ပေးဆောင်ပါသည်။
ဆာဗာမှာ OS install ကို ပြောင်းလဲချင်တဲ့အခါ (ဒီအကြောင်းနောက်မှ အသေးစိတ်ထပ်ပြောပါမယ်) ဒီစနစ်ကို စမ်းသပ်ကြည့်ခဲ့ပြီး iDRAC ရဲ့ Cryptographic Erase function ကို click အနည်းငယ်နှိပ်ရုံနဲ့ အသုံးပြုရတာ ပိုလွယ်ကူပါတယ်။
H100 ကတ်တွေနဲ့ XE9680 မှာ nvidia-smi ပါ
ယခင်က Dell ရဲ့ XE9680 whitepaper နဲ့ Dell PowerEdge XE9680 server ရဲ့ စွမ်းဆောင်ရည်ကို Lambda က သတ်မှတ်ထားတဲ့ image generation latency benchmarks တွေနဲ့ အကဲဖြတ်ခဲ့ပါတယ်။ server က throughput ရဲ့ နှစ်ဆလောက်ကို ပေးစွမ်းနိုင်ခဲ့ပြီး ဒါဟာ PowerEdge XE9680 ရဲ့ စွမ်းအားနဲ့ ထိရောက်မှုကို သက်သေပြနေပါတယ်။
MLPerf ရမှတ်များသည် ဤအတန်းအစားရှိ စနစ်များ၏ စွမ်းဆောင်ရည်ကို ကောင်းမွန်သော အဆင့်သတ်မှတ်ချက်တစ်ခုအဖြစ် လူသိများပြီး လက်ခံထားသောကြောင့် XE9680 A100 နှင့် H100 ဆာဗာများနှင့် ကျွန်ုပ်တို့၏ လက်တွေ့လုပ်ဆောင်ချိန်ကို အခွင့်ကောင်းယူရန်အတွက် Meta ၏ LLaMa ကို စနစ်နှစ်ခုနှင့် အသေးစိတ်ချိန်ညှိခြင်းကို နှိုင်းယှဉ်ရန် ကျွန်ုပ်တို့ ဆုံးဖြတ်ခဲ့သည်။ ထိုသို့ပြုလုပ်ရန်အတွက် ကျွန်ုပ်တို့သည် Stanford ၏ Alpaca လေ့ကျင့်မှုအဆင့်များကို လိုက်နာခဲ့ပြီး ၎င်းတို့သည် 4x A100 စနစ်များကို အသုံးပြု၍ ပြီးမြောက်အောင်မြင်ခဲ့သည်။
XE9680 မှာ အယ်လ်ပါကာ လေ့ကျင့်ရေး
ဒီပရောဂျက်မှာ အကူအညီပေးခဲ့တဲ့ NVIDIA နဲ့ Dell မှာရှိတဲ့ အဖွဲ့တွေကို ကျေးဇူးတင်ကြောင်း ပြောကြားလိုပါတယ်။ ဒါဟာ ဟာ့ဒ်ဝဲနဲ့ ဆော့ဖ်ဝဲလ် ရှုထောင့်ကနေကြည့်ရင် အလွန်ခေတ်မီတဲ့ နည်းပညာတစ်ခုဖြစ်ပြီး ကုမ္ပဏီနှစ်ခုလုံးက လုပ်ငန်းကျွမ်းကျင်သူတွေရဲ့ လမ်းညွှန်မှုမပါဘဲနဲ့ဆိုရင် ပိုပြီး ရှည်လျားပြီး ပြင်းထန်တဲ့ လုပ်ငန်းစဉ်တစ်ခု ဖြစ်သွားမှာပါ။
A100 စနစ်တွင်၊ Stanford Alpaca Git Hub တွင် ဖော်ပြထားသော လုပ်ငန်းစဉ်ကို အသုံးပြု၍ ပျမ်းမျှ မိနစ် ၉၀ ခန့်ကြာသော လေ့ကျင့်မှုကာလ သုံးကြိမ်ကို ပြီးမြောက်အောင် Alpaca checkpoints များ ဖန်တီးရန် အဆင့်များကို ပြန်လည်ထုတ်လုပ်နိုင်ပါသည်။
H100 စနစ်သို့ ရွေ့လျားသွားသောအခါ၊ တစ်ကြိမ်လျှင် မိနစ် ၇၀ ခန့်ဖြင့် ပြီးစီးသော လုပ်ဆောင်မှုများဖြင့် တိုးတက်မှုတစ်ခုကို ကျွန်ုပ်တို့ တွေ့ရှိခဲ့ရသည်။ ဤစနစ်များ၏ ဝယ်လိုအားမြင့်မားမှုနှင့် အကန့်အသတ်ရှိသော သဘောသဘာဝကြောင့် ဖြစ်နိုင်ချေရှိသော စွမ်းဆောင်ရည်တိုးတက်မှုများကို စူးစမ်းလေ့လာရန် ကုဒ်ကိုယ်တိုင်ကို ချိန်ညှိရန် အခွင့်အရေးမရှိခဲ့ဘဲ၊ ဖွံ့ဖြိုးတိုးတက်မှုအတွက် သန့်စင်မှုနှင့် အချိန်ပေးခြင်းဖြင့် enterprise အဖွဲ့တစ်ဖွဲ့သည် ချိန်ညှိခြင်းဖြင့် မြန်ဆန်သော အလှည့်အပြောင်းအချိန်ကို ရရှိနိုင်သည်မှာ ထင်ရှားပါသည်။
တရားဝင်မဟုတ်သော
A100-အရသာရှိတဲ့ XE9680 မှာ ကျွန်တော်တို့ဟာ ထူးထူးခြားခြား စမ်းသပ်မှုတွေ လုပ်ခွင့်ရခဲ့ပါတယ်။ ကျွန်တော်တို့ဟာ Windows Server 2022 ကို စနစ်မှာ ထည့်သွင်းခဲ့ပါတယ်။ Linux installation ကို ဖယ်ရှားဖို့ iDRAC drive wipes တွေ၊ iDRAC .iso ဖိုင်တွေနဲ့ Intel Network drivers တွေကို sideload လုပ်ဖို့ virtual media တွေနဲ့ လှည့်ကွက်တွေ ပါဝင်ခဲ့ပြီး အဲဒီကနေစပြီး ပြိုင်ပွဲတွေ စတင်ခဲ့ပါတယ်။ ဆင်တူတဲ့ Dell PowerEdge စနစ်က chipset drives တွေနဲ့ ပြီးတော့ NVIDIA A100 Drivers တွေကို အသုံးပြုခဲ့ပါတယ်။
စနစ်က အလုပ်လုပ်ပြီး ပြဿနာတစ်စုံတစ်ရာမရှိဘဲ တည်ငြိမ်ပါတယ်။ ဒါပေမယ့် ဒါက Dell က တရားဝင် support မလုပ်ထားတဲ့ အလွန်ထူးခြားတဲ့ အသုံးပြုမှုကိစ္စတစ်ခုပါ။ ဒါကြောင့် ကျွန်ုပ်တို့ရဲ့ Windows အသစ် install လုပ်မှုနဲ့ ဈေးကွက်ထဲက အကောင်းဆုံး GPU ရှစ်ခုနဲ့ ကျွန်ုပ်တို့ အကောင်းဆုံးလုပ်နိုင်တာကို လုပ်ဆောင်ခဲ့ပါတယ် ၊ benchmark Pi!
NVIDIA A100 ကတ် ရှစ်ကတ်ဟာ ချိန်ညှိမှုမရှိဘဲ GPU-Pi ကမ္ဘာ့စံချိန်တွေကို အလွယ်တကူ ချိုးဖျက်နိုင်ခဲ့ပြီး Xeon Platinum CPU တွေဟာ y-cruncher နဲ့ Cinebench နှစ်ခုလုံးမှာ ကောင်းမွန်တဲ့ ရမှတ်တွေ ရရှိခဲ့ပါတယ်။ ကျွန်တော်တို့ရဲ့ တခြား စံ CPU/GPU benchmark တွေကို အလုပ်ဖြစ်မယ်လို့ မျှော်လင့်ချက် အနည်းငယ်နဲ့ စမ်းကြည့်ခဲ့ပြီး မျှော်လင့်ထားတဲ့အတိုင်း software/encoder ပြဿနာတွေနဲ့ ကြုံတွေ့ခဲ့ရပြီး အောင်မြင်မှုကို တားဆီးနိုင်ခဲ့ပါတယ်။ ဥပမာအားဖြင့် Procyon ဟာ စမ်းသပ်မှုကို လုပ်ဆောင်ဖို့ Tensor GPU တွေ ရှိနေတယ်ဆိုတာတောင် နားမလည်ခဲ့ပါဘူး။
ဒါဟာ ပံ့ပိုးမထားတဲ့ configuration ရဲ့ စမ်းသပ်မှုတစ်ခုသာဖြစ်ပြီး ဘာမဆို အလုပ်လုပ်နိုင်ခဲ့တာက အထင်ကြီးစရာကောင်းပြီး Dell ရဲ့ platform တွေမှာ တသမတ်တည်း hardware ထုတ်လုပ်နိုင်စွမ်းကို သက်သေပြနေပါတယ်။ ဒီလို system အမျိုးအစားမှာ Windows Server ကို production environment တိုင်းမှာ အသုံးပြုတာက မိုက်မဲရာကျပါတယ်။
| စမ်းသပ် | ရလဒ် |
| Cinebench မာလ်တီ | 90,710 |
| Cinebench Single | 174 |
| CB MP ရိက္ခာ | 77.24 |
| Geekbench 6 GPU | 197,669 |
| Geekbench 6 Single | 1,678 |
| Geekbench6 မာလ်တီ | 16,425 |
| ဘီလူး- |
တစ်မိနစ်လျှင် နမူနာ ၃၉၄.၄၄၁၈၅၀ ခု
|
| အမှိုက်ဆိုင်- |
တစ်မိနစ်လျှင် နမူနာ ၃၉၄.၄၄၁၈၅၀ ခု
|
| စာသင်ခန်း |
တစ်မိနစ်လျှင် နမူနာ ၃၉၄.၄၄၁၈၅၀ ခု
|
| GPU Pi 3.2 1 ဘီလီယံ | 0.394 စက္ကန့် |
| GPU Pi 3.3 1 ဘီလီယံ | 0.317 စက္ကန့် |
ထိုကဲ့သို့သော အထင်ကြီးလောက်စရာ စွမ်းဆောင်ရည်သည် အမြန်နှုန်းအဖြစ်သို့ ပြောင်းလဲပေးရုံသာမက AI ၏ လက်တွေ့အသုံးချမှုကိုပါ သက်ရောက်မှုရှိသည်ကို သတိပြုသင့်သည်။ ပိုမိုမြန်ဆန်သော ပြန်လည်လေ့ကျင့်မှုနှင့် အသေးစိတ်ညှိနှိုင်းနိုင်စွမ်းဖြင့် စီးပွားရေးလုပ်ငန်းများသည် ၎င်းတို့၏ သွက်လက်မှုကို သိသိသာသာ တိုးတက်စေနိုင်ပြီး ဈေးကွက်ပြောင်းလဲမှုများ၊ ဖောက်သည်လိုအပ်ချက်များနှင့် ပြည်တွင်းလိုအပ်ချက်များကို လျင်မြန်စွာ တုံ့ပြန်နိုင်စေပါသည်။ ဥပမာအားဖြင့် ဒီဇိုင်းအဖွဲ့များသည် အယူအဆများကို အချိန်နှင့်တပြေးညီ အကဲဖြတ်ပြီး ပြုပြင်မွမ်းမံနိုင်ပြီး ဈေးကွက်သို့ရောက်ရှိရန် အချိန်ကို သိသိသာသာ လျှော့ချပေးနိုင်သည်၊ သို့မဟုတ် လိုက်နာမှုအဖွဲ့များသည် လက်ထောက်အမျိုးအစား LLM အတွက် နောက်ဆုံးပေါ်မူဝါဒများနှင့် လုပ်ထုံးလုပ်နည်းများဖြင့် အပ်ဒိတ်လုပ်ထားသော မော်ဒယ်များကို အဆက်မပြတ် လေ့ကျင့်သင်ကြားပေးပြီး အသေးစိတ်ညှိနှိုင်းနိုင်သည်။
Generative AI ကို အသုံးပြု၍ လုပ်ငန်းလည်ပတ်မှုများကို ပြောင်းလဲခြင်း
Dell PowerEdge XE9680 သည် စက်မှုလုပ်ငန်းလည်ပတ်မှုများစွာကို ပြောင်းလဲရာတွင် တီထွင်ဖန်တီးနိုင်သော AI ကို အထောက်အကူပြုနိုင်ပါသည်။ AI သည် ဖောက်သည်နှစ်သက်မှုအပေါ် အခြေခံ၍ ထုတ်ကုန်ဖွဲ့စည်းပုံအမျိုးမျိုး သို့မဟုတ် အရောင်ရွေးချယ်မှုများ၏ လက်တွေ့ကျသောပုံရိပ်များကို လျင်မြန်စွာထုတ်ပေးနိုင်သည့် လက်လီအရောင်းအခြေအနေ သို့မဟုတ် ဆောက်လုပ်ရေးလုပ်ငန်းတစ်ခုသည် စီစဉ်ခြင်းနှင့် ရောင်းချမှုတင်ဆက်မှုများအတွက် အဆောက်အအုံအသစ်များ၏ မြင်ယောင်မှုများကို ဖန်တီးနိုင်သည့် ဆောက်လုပ်ရေးလုပ်ငန်းတစ်ခုအား မြင်ယောင်ကြည့်ပါ။ ဖြစ်နိုင်ခြေများသည် စိတ်ဝင်စားစရာကောင်းပါသည်။
Dell PowerEdge XE9680 သည် ပါဝါ၊ ထိရောက်မှုနှင့် စွယ်စုံရမှုတို့ကို အံ့မခန်း ရောစပ်ပေးပါသည်။ ၎င်းသည် လိုအပ်ချက်များသော AI workloads များကို အလွယ်တကူ ကိုင်တွယ်နိုင်သော မြင့်မားသောစွမ်းဆောင်ရည်ရှိသော server တစ်ခုဖြစ်သည်။ ၎င်းကို AI workloads များကို ဖြည့်ဆည်းရန် အထူးဒီဇိုင်းထုတ်ထားသော်လည်း ၎င်း၏စွမ်းရည်များကြောင့် အခြားအသုံးချမှုများအတွက် အသုံးဝင်နိုင်ခြေရှိသည်။
Project Helix မှတစ်ဆင့် အဖွဲ့အစည်းများအား ၎င်းတို့၏ AI ပရောဂျက်များကို အကောင်အထည်ဖော်ရာတွင် အကူအညီပေးရန် Dell ၏ ကတိကဝတ်နှင့်အတူ PowerEdge XE9680 သည် စိတ်လှုပ်ရှားဖွယ်ကောင်းသော အဆိုပြုချက်တစ်ခုဖြစ်ပြီး တစ်နှစ်ပတ်လုံး ကျွန်ုပ်တို့မြင်တွေ့ခဲ့ရသမျှတွင် အကောင်းဆုံး hardware ဆန်းသစ်တီထွင်မှုများထဲမှ တစ်ခုဖြစ်သည်။ ၎င်း၏ ကြမ်းတမ်းသော ပါဝါ၊ သန့်စင်ထားသော ချောမွေ့မှုနှင့် enterprise-grade lifecycle management တို့ကို ပေးစွမ်းနိုင်သည့်စွမ်းရည်ဖြင့် Dell PowerEdge XE9680 သည် enterprise server များကြားတွင် အလျင်အမြန် ရေပန်းစားလာခြင်းမှာ အံ့သြစရာမဟုတ်ပေ။
အမေဇုံ