PowerEdge XE9680 သည် Dell ၏ ယနေ့အထိ ဘက်စုံသုံးနိုင်သော AI အခြေခံအဆောက်အအုံပလက်ဖောင်းကို ကိုယ်စားပြုသည်။ ၎င်းသည် PowerEdge R760-style 2U compute node နှင့် ကြီးမားသော 4U GPU drawer တို့ကို ပေါင်းစပ်ထားသည်။ ဤဆန်းသစ်သော 6U ဒီဇိုင်းသည် Dell ၏ အကောင်းဆုံး enterprise server အင်ဂျင်နီယာကို မကြုံစဖူး GPU သိပ်သည်းဆနှင့် ပြောင်းလွယ်ပြင်လွယ်ရှိမှုတို့ဖြင့် ပေါင်းစပ်ထားသည်။
အဓိကအားဖြင့် XE9680 သည် dual Intel Xeon Scalable processors များကို ပံ့ပိုးပေးပြီး CPU တစ်ခုလျှင် cores ၆၄ ခုအထိပါဝင်သည့် 5th Generation သို့မဟုတ် cores ၅၆ ခုအထိပါဝင်သည့် 4th Generation အကြား ရွေးချယ်နိုင်ပါသည်။ မှတ်ဉာဏ်စွမ်းရည်မှာ များပြားပြီး DIMM slot ၃၂ ခုတွင် DDR5 memory 4TB အထိ ပံ့ပိုးပေးနိုင်ပြီး နောက်ဆုံးပေါ် processors များဖြင့် 5600 MT/s အထိ လည်ပတ်နိုင်ပါသည်။
XE9680 ကို အမှန်တကယ် ထူးခြားစေတာကတော့ သူ့ရဲ့ GPU စွမ်းဆောင်ရည်ပါပဲ။ ဒီပလက်ဖောင်းက ပါဝါမြင့် GPU ရှစ်လုံးကို ထောက်ပံ့ပေးပါတယ်။ ရရှိနိုင်တဲ့ configuration တွေမှာ NVIDIA ရဲ့ HGX H200 (141GB) နဲ့ H100 (80GB)၊ AMD ရဲ့ Instinct MI300X (192GB) နဲ့ Intel ရဲ့ Gaudi3 (128GB) တို့ ပါဝင်ပါတယ်။ မကြာသေးမီက မိတ်ဆက်ခဲ့တဲ့ XE9680L ဗားရှင်းက NVIDIA ရဲ့ နောက်မျိုးဆက် B200 GPU တွေနဲ့ တိုက်ရိုက်အရည်အအေးပေးစနစ်ကို ပံ့ပိုးပေးပြီး သိပ်သည်းဆနဲ့ စွမ်းဆောင်ရည်အတွက် အားသာချက်တွေကို တွန်းအားပေးပါတယ်။
သိုလှောင်မှု ပုံစံများသည်လည်း အလားတူ ပြောင်းလွယ်ပြင်လွယ်ရှိပြီး 8x 2.5″ NVMe/SAS/SATA drives များ သို့မဟုတ် 16x E3.S NVMe drives များကို ပေးဆောင်ပါသည်။ ဤစနစ်ကို Dell ၏ H965i NVMe PERC RAID ကတ်ဖြင့် တပ်ဆင်နိုင်ပြီး inference workloads များအတွင်း KV cache ကြီးများအတွက် အရေးကြီးသော storage redundancy ကို ရိုးရှင်းစေသည်။
ပါဝါပေးပို့မှုကို အမြင့်ဆုံးယုံကြည်စိတ်ချရမှုအတွက် ဒီဇိုင်းထုတ်ထားပါသည်။ စုစုပေါင်း 19200W ရှိသော ပါဝါထောက်ပံ့မှုခြောက်ခုကို 3+3 fault-tolerant redundant (FTR) အစီအစဉ်ဖြင့် ပြင်ဆင်ထားသည်။ PSU နှစ်ခု သို့မဟုတ် နှစ်ခုထက်ပိုသော PSU များ ချို့ယွင်းသွားသောအခါ စနစ်သည် ပိတ်သွားမည့်အစား fault-tolerant redundant mode သို့ ဝင်ရောက်သွားသည်။ ဤမုဒ်တွင် GPU power brake သည် အသက်ဝင်ပြီး GPU clocks ကို လေးပုံတစ်ပုံသို့ လျှော့ချပေးသောကြောင့် ပုံမှန် GPU စွမ်းဆောင်ရည်၏ ငါးပုံတစ်ပုံခန့်ကို ရရှိစေသည်။
ဤစဉ်းစားဆင်ခြင်ထားသော ဒီဇိုင်းရွေးချယ်မှုသည် GPU ရာပေါင်းများစွာ သို့မဟုတ် ထောင်ပေါင်းများစွာ အတူတကွအလုပ်လုပ်သည့် ကြီးမားသော လေ့ကျင့်ရေးပတ်ဝန်းကျင်များတွင် အလွန်တန်ဖိုးရှိပါသည်။ node တစ်ခုသည် လုံးဝအော့ဖ်လိုင်းဖြစ်သွားခြင်း (၎င်းသည် အခြား node တစ်ခုတွင် အချိန်ဇယားပြန်လည်သတ်မှတ်ခြင်းနှင့် လေ့ကျင့်မှုထပ်ခါတလဲလဲလုပ်ဆောင်ခြင်း) အစား စနစ်သည် နောက်ပြုပြင်ထိန်းသိမ်းမှုဝင်းဒိုးအထိ စွမ်းဆောင်ရည်လျှော့ချခြင်းဖြင့် ဆက်လက်လည်ပတ်နိုင်သည်။ ပါဝါစီမံခန့်ခွဲမှုတွင် အသေးစိတ်အချက်အလက်များကို အာရုံစိုက်ခြင်းသည် အနှောင့်အယှက်များကို အနည်းဆုံးဖြစ်စေခြင်းဖြင့် မြင့်မားသော မော်ဒယ်လေ့ကျင့်မှု throughput (MFU) ကို ထိန်းသိမ်းရန် ကူညီပေးသည်။
ချဲ့ထွင်နိုင်စွမ်းမှာ ကျယ်ပြန့်ပြီး PCIe Gen5 x16 full-height, half-length slot ၁၀ ခုအထိ ပါဝင်ပြီး ၎င်းတို့အနက် နှစ်ခုမှာ 75W အထက် ပိုမိုမြင့်မားသော ပါဝါရှိသော ကတ်များကို ပံ့ပိုးပေးပါသည်။ ဤ PCIe ချိတ်ဆက်မှု များပြားခြင်းသည် ခေတ်မီ AI အခြေခံအဆောက်အအုံ တည်ဆောက်ရန်အတွက် မရှိမဖြစ်လိုအပ်သော DPU များနှင့် SmartNIC များ အပါအဝင် ကွန်ရက်ဖွဲ့စည်းပုံ အမျိုးမျိုးကို ဖြစ်စေပါသည်။
Specification အပြည့်အစုံ-
| specification | အသေးစိတ် |
|---|---|
| processor ကို | စတုတ္ထမျိုးဆက် Intel® Xeon® Scalable ပရိုဆက်ဆာ နှစ်ခုအထိ (CPU တစ်ခုလျှင် 64 cores) စတုတ္ထမျိုးဆက် Intel® Xeon® Scalable ပရိုဆက်ဆာ နှစ်ခုအထိ (CPU တစ်ခုလျှင် 56 cores) |
| GPU ရွေးချယ်စရာများ | XE၉၆၈၀: – NVIDIA HGX H200 (141GB) SXM5 700W – NVIDIA HGX H100 (80GB) SXM5 700W – AMD Instinct MI300X (192GB) OAM 750W – Intel Gaudi3 (128GB) OAM 900W |
| မှတ်ဉာဏ် | 32 DIMM slot နှစ်ခု ၄၈၀၀ MT/s (စတုတ္ထမျိုးဆက်) ၄၈၀၀ MT/s (စတုတ္ထမျိုးဆက်) |
| သိုလှောင်ခြင်း | ရှေ့ဒရိုက်ဘာဂါများ- 8x 2.5" NVMe/SAS/SATA (122.88TB အမြင့်ဆုံး) 16x E3.S NVMe (အများဆုံး 122.88TB) |
| သိုလှောင်မှု ထိန်းချုပ်ကိရိယာများ | အတွင်းပိုင်း ထိန်းချုပ်ကိရိယာများ- PERC H965i (Intel Gaudi3 ဖြင့် မထောက်ပံ့ပါ) အတွင်းပိုင်း Boot: Boot Optimized Storage Subsystem (NVMe BOSS-N1): HWRAID 1, 2 x M.2 SSD များ |
| PCIE slot များ | PCIe slot များ PCIe Gen5 x16 slot ၁၀ ခုအထိ (Intel Gaudi3 ပါသော slot ၈ ခု) |
| Network | OCP 3.0 ၁ ခု (ရွေးချယ်နိုင်သည်) ၂x 1GbE LOM |
| power supply | ၃၂၀၀ ဝပ် တိုက်တေနီယမ် (၂၇၇ VAC) ၂၈၀၀ ဝပ် တိုက်တေနီယမ် (၂၀၀-၂၄၀ VAC) |
| ရှုထောင့် | အမြင့် 10.36" (263.20mm) အကျယ် 18.97" (482.00mm) အနက်: bezel ပါ၀င်သည့် 39.71″ (1008.77mm) |
| အလေးချိန် | 251.44 ပေါင်အထိ (114.05 ကီလိုဂရမ်) |
| form ကို Factor | ဆာဗာ 6U ထိန်သိမ်း |
| စီမံခန့်ခွဲမှု | ထည့်သွင်းထားသော / ဆာဗာတွင်- iDRAC9 iDRAC တိုက်ရိုက် Redfish ပါ၀င်သော iDRAC RESTful API iDRAC ဝန်ဆောင်မှု မော်ဂျူး ကွန်ဆိုးလ်များ- PowerEdge ပလပ်အင်အတွက် CloudIQ OpenManage Enterprise OpenManage ပါဝါမန်နေဂျာ ပလပ်အင် OpenManage ဝန်ဆောင်မှု ပလပ်အင် OpenManage Update Manager plugin Tools များ- Dell စနစ် အပ်ဒိတ် Dell သိုလှောင်ရုံမန်နေဂျာ စီးပွားရေးလုပ်ငန်းကတ်တလောက်များ Redfish ပါ၀င်သော iDRAC RESTful API IPMI RACADM CLIOpenManage ပေါင်းစပ်မှုများ- BMC Truesight ServiceNow နှင့် OpenManage ပေါင်းစပ်ခြင်း |
| လုံခွုံရေး | ကုဒ်ဝှက်စနစ်ဖြင့် လက်မှတ်ရေးထိုးထားသော firmware အနားယူချိန်တွင် ဒေတာ ကုဒ်ဝှက်ခြင်း (ဒေသတွင်း သို့မဟုတ် ပြင်ပသော့ စီမံခန့်ခွဲမှုပါရှိသော SED များ) လုံလုံခြုံခြုံ Boot ကို လုံခြုံသော အစိတ်အပိုင်း အတည်ပြုခြင်း (ဟာ့ဒ်ဝဲ မှန်ကန်မှု စစ်ဆေးခြင်း) လုံခြုံစွာ ဖျက်ခြင်း ယုံကြည်မှု၏ ဆီလီကွန် အမြစ် စနစ် လော့ချခြင်း (iDRAC9 Enterprise သို့မဟုတ် Datacenter လိုအပ်သည်) |
| အအေး | လေအေးသည် |
Dell PowerEdge XE9680 တည်ဆောက်ပုံနှင့် ဒီဇိုင်း
PowerEdge XE9680 ဟာ ခမ်းနားတဲ့ hardware အစိတ်အပိုင်းတစ်ခုဖြစ်ပြီး အမြင့် ၁၀.၃၆ လက်မ (၂၆၃.၂၀ မီလီမီတာ)၊ အနံ ၁၈.၉၇ လက်မ (၄၈၂.၀၀ မီလီမီတာ) နဲ့ အနက် ၃၉.၇၁ လက်မ (၁၀၀၈.၇၇ မီလီမီတာ) ရှိပါတယ်။ အပြည့်တင်ထားရင် အလေးချိန် ၂၅၁.၄၄ ပေါင် (၁၁၄.၀၅ ကီလိုဂရမ်) ရှိပါတယ်။ NVIDIA H100/H200 မော်ဒယ်က ၂၃၈ ပေါင်ရှိပြီး AMD MI300X ယူနစ်က ၂၅၁ ပေါင်ရှိပါတယ်။
ဒါက ကျွန်တော်တို့ရဲ့ စမ်းသပ်ပတ်ဝန်းကျင်ထဲကို စနစ်တကျ load လုပ်ဖို့အတွက် ဂရုတစိုက်စဉ်းစားရမယ့် ပထမဆုံး server ပါ။ server အလေးချိန်နဲ့ hardware တွေကို rack ထဲထည့်ရမယ့် လူအရေအတွက်ကို ထည့်သွင်းစဉ်းစားတဲ့အခါ ကန့်သတ်ချက်တွေကို ကျော်လွန်သွားဖို့ နေရာအနည်းငယ်ရှိပေမယ့် တစ်ချိန်ချိန်မှာတော့ တစ်ယောက် ဒါမှမဟုတ် နှစ်ယောက်က တစ်ယောက်တည်း မတင်နိုင်ပါဘူး။ ဒီ platform ဘယ်လိုတပ်ဆင်ရမလဲဆိုတာ နားလည်အောင် Dell က “lift table” တစ်ခု ပေးစွမ်းဖို့ ကြင်နာစွာ ကူညီပေးပါတယ်။ သိချင်နေသူတွေအတွက် Kevin က XE9680 ကို rack ထဲ ကိုယ်တိုင်ထည့်ခဲ့ပါတယ် ။
| Chassis အလေးချိန် | ဖေါ်ပြချက် |
|---|---|
| ပေါင် ၇၀ မှ ၁၂၀ ပေါင် | လူနှစ်ယောက်ကို မတင်ဖို့ အကြံပြုပါတယ်။ |
| ပေါင် ၇၀ မှ ၁၂၀ ပေါင် | လူသုံးယောက်ကို မတင်ဖို့ အကြံပြုပါတယ်။ |
| ပေါင် ၁၂၁ နှင့်အထက် | server lift တစ်ခု လိုအပ်ပါသည်။ |
၎င်း၏ရှုပ်ထွေးမှုနှင့် Dell မှ အထူးပြုဝန်ဆောင်မှုပညာရှင်များအတွက် အကြံပြုချက်များရှိသော်လည်း၊ XE9680 တွင် အသုံးပြုရလွယ်ကူသော ဝန်ဆောင်မှုအစိတ်အပိုင်းများ ပါရှိသည်။ ဆာဗာ၏ panel များတွင် အသေးစိတ်ဝန်ဆောင်မှုညွှန်ကြားချက်များနှင့် ရှင်းလင်းသောဂရပ်ဖစ်များ ပါရှိသောကြောင့် အတွေ့အကြုံရှိ IT ဝန်ထမ်းများအတွက် ပြုပြင်ထိန်းသိမ်းမှုလုပ်ထုံးလုပ်နည်းများကို အံ့အားသင့်ဖွယ်ချဉ်းကပ်နိုင်စေပါသည်။ ဤအမြင်အာရုံလမ်းညွှန်များသည် စနစ်နှင့်အတူ ကျွန်ုပ်တို့၏လက်တွေ့လုပ်ဆောင်ချိန်အတွင်း အလွန်တန်ဖိုးရှိကြောင်း သက်သေပြခဲ့ပြီး အစိတ်အပိုင်းအမျိုးမျိုးကို ယုံကြည်စိတ်ချစွာ ဝန်ဆောင်မှုပေးနိုင်စေပါသည်။
PowerEdge XE9680 ရဲ့ အဖုံးကို ဖွင့်လိုက်တဲ့အခါ အပေါ်က power substation ငယ်လေးကနေ power cable အများအပြားကို ဖြတ်ကျော်လိုက်တာနဲ့ PowerEdge R760 နဲ့ အတော်လေးတူပါတယ်။ ကျွန်တော်တို့ရဲ့ unit ကို Intel Xeon Platinum 8468 processors နှစ်ခုနဲ့ ပါဝါပေးထားပြီး၊ တစ်ခုချင်းစီမှာ 2.1Ghz မှာ 48 cores ပါရှိပါတယ်။ processor တစ်ခုချင်းစီမှာ 80 PCIe lanes ပါဝင်ပြီး XE9680 ထဲမှာ ထည့်သွင်းထားတဲ့ GPU တွေ၊ NIC တွေနဲ့ တခြား hardware တွေကို support လုပ်ဖို့အတွက် ဒီ unit ထဲက PCIe switch အတော်များများကနေ ဖြတ်သန်းသွားပါတယ်။
အထင်ကြီးစရာအကောင်းဆုံး အင်ဂျင်နီယာပိုင်းဆိုင်ရာ အင်္ဂါရပ်များထဲမှ တစ်ခုမှာ PCIe Switch Board (PSB) ဒီဇိုင်းဖြစ်သည်။ ဤဘုတ်များသည် full-height, half-length PCIe ကတ် ၁၀ ခုအထိ (နှစ်ခုသည် 75W ပါဝါဆွဲအားထက်ကျော်လွန်နိုင်သည်) ချိတ်ဆက်မှုကို ပံ့ပိုးပေးပြီး GPU baseboard နှင့် တိုက်ရိုက်ပေါင်းစပ်ပေးသည်။ ဤတိုက်ရိုက်ပေါင်းစပ်မှုသည် GPU-direct နည်းပညာကို ဖွင့်ပေးပြီး SSD များနှင့် network card များကို GPU များနှင့် တိုက်ရိုက်ဆက်သွယ်နိုင်စေပြီး CPU ကိုကျော်ဖြတ်ကာ I/O-intensive AI workloads များအတွက် latency ကို လျှော့ချပေးသည်။
expansion slot တစ်ခုစီသည် layout ၏ ဘယ်ဘက်နှင့် ညာဘက်ရှိ အောက်ပိုင်း slot နှစ်ခုအပါအဝင် PCIe Gen5 x16 interface အပြည့်အစုံကို ပံ့ပိုးပေးပါသည်။ အပေါ်ပိုင်း slot ရှစ်ခုကို ၎င်းတို့၏ကိုယ်ပိုင် PSB မှတစ်ဆင့် ချိတ်ဆက်ထားသော်လည်း အောက်ပိုင်း slot နှစ်ခုသည် PCIe Base Board (PBB) နှင့် တိုက်ရိုက်ချိတ်ဆက်ထားသည်။ ဤ slot နှစ်ခုသည် high-power draw card များကိုလည်း ပံ့ပိုးပေးသည်။ ထို့အပြင်၊ PCIe layout သည် PowerEdge XE9680 အတွက် ရွေးချယ်ထားသော GPU အမျိုးအစားပေါ် မူတည်၍ အနည်းငယ်ကွဲပြားကြောင်း သတိပြုသင့်သည်။ AMD တပ်ဆင်ထားသော မော်ဒယ်များသည် SmartNIC/DPU များကို မပံ့ပိုးပေးဘဲ Intel Gaudi3 မော်ဒယ်များတွင် လေစီးဆင်းမှုပြဿနာများကြောင့် slot နှစ်ခု ပိတ်ဆို့ထားသည်။
အအေးပေးစနစ်သည် Dell ၏ အင်ဂျင်နီယာကျွမ်းကျင်မှု ထွန်းတောက်သည့် နောက်ထပ်နယ်ပယ်တစ်ခုဖြစ်သည်။ စနစ်တွင် ရွှေအဆင့် ပန်ကာ ၁၆ ခုအထိ အသုံးပြုထားပြီး အလယ်ဗန်းတွင် ခြောက်ခုနှင့် နောက်ဘက်တွင် ဆယ်ခု ပါဝင်သည်။ PowerEdge XE9680 သည် ပတ်ဝန်းကျင်အပူချိန် ၁၀ မှ ၃၅ ဒီဂရီစင်တီဂရိတ် (Intel Gaudi3 GPU များဖြင့် ၃၀ ဒီဂရီစင်တီဂရိတ်) အထိ အမျိုးမျိုးသော တပ်ဆင်မှုအခြေအနေများကို ပံ့ပိုးပေးသည်။ အပြည့်အဝ စောင်းလိုက်သောအခါတွင် ဆာဗာသည် အထင်ကြီးလောက်သော 1,200CFM ကို ပူပြင်းသောလမ်းကြောင်းထဲသို့ ရွှေ့ပေးသည်။
ဒီခိုင်မာတဲ့ အအေးပေးစနစ်က AMD MI300X၊ Intel Gaudi3 ဒါမှမဟုတ် NVIDIA H100 GPU တွေ အပါအဝင် အခက်ခဲဆုံး အပူဝန်တွေကိုတောင် ကိုင်တွယ်နိုင်ပြီး အကောင်းဆုံး လည်ပတ်မှု အပူချိန်ကို ထိန်းသိမ်းထားနိုင်ပါတယ်။ PowerEdge XE9680 ဟာ ဆူညံသံထွက်ရှိမှုအရ ဝန်အားအောက်မှာ အတော်လေး ကောင်းမွန်ပါတယ်။ Dell က XE9680 အတွက် အသံဆိုင်ရာ သတ်မှတ်ချက်အပြည့်အစုံကို အခြေအနေအမျိုးမျိုးမှာ ပေးစွမ်းထားပေမယ့် ဝန်အားအောက်မှာ ဆူညံတဲ့ ပလက်ဖောင်းတစ်ခု ဖြစ်လိမ့်မယ်လို့ ပြောဖို့ အတော်လေး လွယ်ကူပါတယ်။
စီမံခန့်ခွဲမှု
XE9680 ရဲ့ စီမံခန့်ခွဲမှုစွမ်းရည်တွေကို Dell ရဲ့ enterprise-proven iDRAC9 ကို အခြေခံပြီး တည်ဆောက်ထားပြီး server lifecycle management နဲ့ monitoring တွေကို ပြည့်စုံစွာ ပံ့ပိုးပေးပါတယ်။ iDRAC ရဲ့ ဒီ ဗားရှင်းမှာ အသေးစိတ် GPU telemetry၊ power consumption analytics နဲ့ high-density AI workloads တွေအတွက် ဒီဇိုင်းထုတ်ထားတဲ့ ကျယ်ပြန့်တဲ့ thermal monitoring အပါအဝင် AI-optimized features အများအပြားကို ယူဆောင်လာပါတယ်။
ပလက်ဖောင်းရဲ့ စီမံခန့်ခွဲမှု stack ဟာ AI အခြေခံအဆောက်အအုံ ဖြန့်ကျက်မှုများအတွက် အထူးသတိပြုသင့်ပါတယ်။ Redfish ပံ့ပိုးမှုပါဝင်တဲ့ iDRAC9 ရဲ့ RESTful API မှတစ်ဆင့် အဖွဲ့အစည်းတွေဟာ GPU အသုံးပြုမှု၊ မှတ်ဉာဏ် bandwidth နဲ့ အပူချိန်အခြေအနေတွေကို ပရိုဂရမ်မာနဲ့ စောင့်ကြည့်စီမံခန့်ခွဲနိုင်ပါတယ် - အကောင်းဆုံး AI လေ့ကျင့်မှုနဲ့ ကောက်ချက်စွမ်းဆောင်ရည်ကို ထိန်းသိမ်းဖို့အတွက် အရေးကြီးတဲ့ မက်ထရစ်တွေပါ။ OpenManage Enterprise နဲ့ စနစ်ရဲ့ ပေါင်းစပ်မှုက ကြီးမားတဲ့ AI cluster တွေအတွက် မရှိမဖြစ်လိုအပ်တဲ့ ပေါင်းစည်းထားတဲ့ console မှတစ်ဆင့် XE9680 အများအပြားရဲ့ fleet-wide စီမံခန့်ခွဲမှုကို ဖြစ်စေပါတယ်။
လုံခြုံရေးနှင့် လိုက်နာမှုတို့သည် စီမံခန့်ခွဲမှုဗိသုကာ၏ အခြေခံအချက်များဖြစ်သည်။ ပလက်ဖောင်းသည် ယုံကြည်မှု၏ Silicon Root နှင့် လုံခြုံသော အစိတ်အပိုင်း အတည်ပြုခြင်းကို အကောင်အထည်ဖော်ပြီး boot-up မှ လည်ပတ်မှုအထိ hardware ၏ တည်တံ့မှုကို သေချာစေသည်။ ဤအင်္ဂါရပ်များသည် sensitive AI workloads များကို လုပ်ဆောင်သည့်အခါ သို့မဟုတ် proprietary model weights များကို ကိုင်တွယ်သည့်အခါ အထူးတန်ဖိုးရှိပါသည်။
CloudIQ ပေါင်းစပ်မှုမှ စွမ်းအားပေးထားသော ကြိုတင်ခန့်မှန်းနိုင်သော ပျက်ကွက်မှု ခွဲခြမ်းစိတ်ဖြာနိုင်စွမ်းသည် စက်သင်ယူမှုကို အသုံးပြု၍ workload များကို မထိခိုက်စေမီ အလားအလာရှိသော hardware ပြဿနာများကို ခန့်မှန်းနိုင်သည်။ ဤကြိုတင်ကာကွယ်မှုချဉ်းကပ်မှုသည် မမျှော်လင့်ဘဲ downtime ကြောင့် တွက်ချက်မှုဆုံးရှုံးမှုများ ရက်ပေါင်းများစွာ ဖြစ်ပေါ်စေနိုင်သည့် ရေရှည်လုပ်ဆောင်နေသော AI လေ့ကျင့်ရေးအလုပ်များအတွက် အထူးအရေးကြီးပါသည်။ Dell ၏ ProSupport Plus ဝန်ဆောင်မှုနှင့် ပေါင်းစပ်လိုက်သောအခါ ဤကြိုတင်ခန့်မှန်းနိုင်သော စွမ်းရည်သည် အလိုအလျောက် case ဖန်တီးခြင်းနှင့် အစိတ်အပိုင်းများ ပို့ဆောင်ခြင်းကို လှုံ့ဆော်ပေးပြီး စနစ်ယိုယွင်းပျက်စီးမှုမဖြစ်ပွားမီ ကြိုတင်ကာကွယ်ထိန်းသိမ်းမှုကို ဖြစ်ပေါ်စေလေ့ရှိသည်။
ရှိပြီးသား စီမံခန့်ခွဲမှုကိရိယာများနှင့် ပေါင်းစပ်အသုံးပြုရန် လိုအပ်သော အဖွဲ့အစည်းများအတွက်၊ XE9680 သည် ServiceNow နှင့် BMC TrueSight အပါအဝင် OpenManage ပေါင်းစပ်မှုများမှတစ်ဆင့် စီမံခန့်ခွဲမှု မူဘောင်အမျိုးမျိုးကို ပံ့ပိုးပေးပြီး တည်ထောင်ထားသော IT ဝန်ဆောင်မှုစီမံခန့်ခွဲမှု လုပ်ငန်းစဉ်များတွင် ချောမွေ့စွာ ပေါင်းစပ်နိုင်စေပါသည်။
iDRAC9 interface သည် အလိုလိုသိနိုင်သော dashboard မှတစ်ဆင့် အရေးကြီးသော အစိတ်အပိုင်းများကို အသေးစိတ် အချိန်နှင့်တပြေးညီ စောင့်ကြည့်ပေးပါသည်။ GPU စောင့်ကြည့်ခြင်းသည် AI workload distribution ကို အကောင်းဆုံးဖြစ်စေရန်အတွက် မရှိမဖြစ်လိုအပ်သော accelerator ရှစ်ခုလုံးတွင် အပူချိန်၊ ပါဝါသုံးစွဲမှုနှင့် အသုံးချမှုနှုန်းများ အပါအဝင် ပြည့်စုံသော မက်ထရစ်များကို ပြသပါသည်။
သိုလှောင်မှုစောင့်ကြည့်ခြင်း interface သည် NVMe array တစ်လျှောက် drive ကျန်းမာရေး၊ အပူချိန်နှင့် စွမ်းဆောင်ရည် မက်ထရစ်များကို ချက်ချင်းမြင်နိုင်စေပြီး၊ ၎င်းသည် high-throughput inference cache များနှင့် training dataset များကို စီမံခန့်ခွဲရာတွင် အထူးတန်ဖိုးရှိပါသည်။
မှတ်ဉာဏ်၊ သိုလှောင်မှုနှင့် စကေး
Dell PowerEdge XE9680 အတွင်းရှိ AMD MI300X GPU ရှစ်လုံးသည် GPU မှတ်ဉာဏ်စွမ်းရည်တွင် သိသာထင်ရှားသော တိုးတက်မှုကို ကိုယ်စားပြုပြီး NVIDIA H200 ၏ 141GB နှင့် နှိုင်းယှဉ်ပါက ကတ်တစ်ခုလျှင် HBM3 မှတ်ဉာဏ် 192GB ပေးစွမ်းနိုင်သည်။ မှတ်ဉာဏ်စွမ်းရည် ၃၆% တိုးလာခြင်းသည် spec sheet ပေါ်ရှိ ကိန်းဂဏန်းတစ်ခုမျှသာ မဟုတ်ဘဲ ဘာသာစကားမော်ဒယ် ကျယ်ပြန့်စွာ ဖြန့်ကျက်ရန်အတွက် အရေးကြီးပါသည်။
ဤကြီးမားသော မှတ်ဉာဏ်အစုအဝေးနှင့် MI300X ၏ 5.3 TB/s မှတ်ဉာဏ် bandwidth ပေါင်းစပ်ထားခြင်းကြောင့် အဖွဲ့အစည်းများအနေဖြင့် အရွယ်အစားသေးငယ်သော မော်ဒယ်များ၏ instance များစွာကို လည်ပတ်နိုင်ခြင်း သို့မဟုတ် အရွယ်အစားကြီးမားသော မော်ဒယ်များကို GPU များတစ်လျှောက် ပိုင်းခြားနိုင်ခြင်းနှင့်အတူ မြင့်မားသော throughput နှင့် latency နည်းပါးခြင်းကို ထိန်းသိမ်းထားနိုင်စေပါသည်။
ဒါကို ရှုထောင့်တစ်ခုကနေ ကြည့်မယ်ဆိုရင် BF16 မှာ 1TB VRAM ထက်ပိုလိုအပ်တဲ့ Meta ရဲ့ Llama 3.1 405B မော်ဒယ်ကို MI300X GPU တွေပါတဲ့ XE9680 တစ်ခုတည်းမှာ quantization နဲ့ full 128k context length မပါဘဲ အဆင်ပြေစွာ ဖြန့်ဝေနိုင်ပါတယ်။ ဒါက quantization နည်းပညာတွေနဲ့ ဆက်စပ်နေတဲ့ အရည်အသွေးဆုံးရှုံးမှုကို ဖယ်ရှားပေးပြီး မော်ဒယ်ကို server နှစ်ခုပေါ်မှာ ဖြန့်ဝေထားတာနဲ့ နှိုင်းယှဉ်ရင် Tokens/Second ပိုမိုရရှိစေပါတယ်။
ကျွန်ုပ်တို့၏ သိုလှောင်မှု footprint ကို အမြင့်ဆုံးဖြစ်စေရန်အတွက်၊ ကျွန်ုပ်တို့သည် Solidigm 61.44TB drives များကို မှတ်ဉာဏ်အတွက် ခေတ်မီသော တိုးချဲ့မှုတစ်ခုအဖြစ် အသုံးပြုခဲ့ပြီး မြန်နှုန်းမြင့် GPU မှတ်ဉာဏ်နှင့် ရိုးရာသိုလှောင်မှုကြား ကွာဟချက်ကို ပေါင်းကူးပေးခဲ့သည်။ SSD များသည် တွက်ချက်မှုအတွင်း key-value cache အတွဲများကို သိမ်းဆည်းရာတွင် အထူးကောင်းမွန်ပြီး long-context မျိုးဆက်များအတွက် GPU ၏ မှတ်ဉာဏ်စွမ်းရည်ကို ထိရောက်စွာ တိုးချဲ့ပေးပါသည်။ ၎င်းတို့၏ ကြီးမားသော စွမ်းရည်နှင့် NVMe စွမ်းဆောင်ရည်သည် မော်ဒယ်အလေးချိန်ကို လျင်မြန်စွာ ဝင်ရောက်အသုံးပြုနိုင်စေရန်အတွက် သင့်တော်ပြီး မော်ဒယ်ပြောင်းလဲခြင်းနှင့် အပူပေးစနစ်များကို ထိရောက်စွာ စတင်နိုင်စေပါသည်။
အောက်တွင်ကျွန်ုပ်တို့အသေးစိတ်ဖော်ပြထားသော Metrum AI ဖြန့်ကျက်မှုကဲ့သို့သောအပလီကေးရှင်းများတွင် SSD များသည် vector database များအတွက် storage backend အဖြစ်နှစ်ဆတာဝန်ယူပေးပြီး၊ ကျယ်ပြန့်သော embedding storage အတွက်စွမ်းရည်ကိုထိန်းသိမ်းထားစဉ်တွင် real-time similarity searches အတွက်လိုအပ်သောစွမ်းဆောင်ရည်ကိုပေးစွမ်းသည်။
ဤစွမ်းရည်မြင့် drive များ၏တန်ဖိုးသည် training workflow များအထိ သက်ရောက်မှုရှိသည်။ ၎င်းတို့သည် training batches များကို queue လုပ်ရန်အတွက် အကောင်းဆုံး local storage ကို ပံ့ပိုးပေးပြီး compute resources များနှင့် ပိုမိုနီးကပ်စွာ data များကို ထားရှိခြင်းဖြင့် network overhead ကို လျှော့ချပေးသည်။ training ကာလအတွင်း၊ ဤ drive များသည် model checkpoints များကို local တွင် သိမ်းဆည်းရာတွင် အထူးကောင်းမွန်ပြီး ၎င်းသည် training တိုးတက်မှုကို ထိန်းသိမ်းရန်နှင့် အမြန်ပြန်လည်ရယူခြင်းကို ဖွင့်ရန်အတွက် အရေးကြီးပါသည်။ ဤ local storage strategy သည် processed layer နှင့် batch တစ်ခုစီပြီးနောက် ချက်ချင်း network traffic ကို လျှော့ချခြင်းဖြင့် network utility ကို အကောင်းဆုံးဖြစ်အောင် ကူညီပေးသည်။
XE9680 ရဲ့ bay ရှစ်ခုမှာ 61.44TB စွမ်းရည်က အလားအလာကောင်းတယ်လို့ ထင်ရပေမယ့် နောက်ထပ် စွမ်းရည်တွေ အများကြီး ရှိလာဦးမှာပါ။ Solidigm ရဲ့ မကြာသေးမီက ကြေငြာခဲ့တဲ့ 122.88TB drive နဲ့ XE ရဲ့ storage density ကို နောက်ထပ် training optimization တွေနဲ့ longer-lived inference cache တွေအတွက် petabyte နီးပါးအထိ နှစ်ဆတိုးနိုင်ပါတယ်။
Metrum AI ကျန်းမာရေးစောင့်ရှောက်မှုလက်ထောက် - လူနာစောင့်ရှောက်မှုကို တော်လှန်ပြောင်းလဲခြင်း။
ကျန်းမာရေးစောင့်ရှောက်မှုကဏ္ဍသည် အချိန်ကုန်သော လူနာစာရွက်စာတမ်းများနှင့် မှတ်တမ်းစီမံခန့်ခွဲမှုကို စီမံခန့်ခွဲရာတွင် စိန်ခေါ်မှုတစ်ရပ်ကို အဆက်မပြတ်ရင်ဆိုင်နေရပြီး ၎င်းသည် တိုက်ရိုက်လူနာစောင့်ရှောက်မှုကို မကြာခဏ ထိခိုက်စေလေ့ရှိသည်။ AMD accelerators များပါရှိသော Dell PowerEdge XE9680 ဆာဗာများတွင် တပ်ဆင်ထားသော Metrum AI ၏ ကျန်းမာရေးစောင့်ရှောက်မှုလက်ထောက်သည် အဆင့်မြင့် AI အခြေခံအဆောက်အအုံသည် ကျန်းမာရေးစောင့်ရှောက်မှုလုပ်ငန်းစဉ်များကို မည်သို့ပြောင်းလဲစေနိုင်သည်၊ ထိရောက်မှုကို မြှင့်တင်ပေးပြီး လူနာရလဒ်များကို မည်သို့တိုးတက်ကောင်းမွန်စေနိုင်သည်ကို သာဓကပြသည်။
စနစ်သည် Llama 3.1 70B Instruct ကို ၎င်း၏ အဓိကဘာသာစကားမော်ဒယ်အဖြစ် အသုံးပြုထားပြီး ဆေးဘက်ဆိုင်ရာနောက်ခံအချက်အလက်များကို နားလည်ခြင်းကြောင့် နာမည်ကြီးသည်။ ၎င်းက ရှုပ်ထွေးသော လူနာဒေတာများကို အလွယ်တကူ စီမံဆောင်ရွက်နိုင်စေပါသည်။ ဤဘာသာစကားမော်ဒယ်ကို gte-v1.5 embedding မော်ဒယ်နှင့် Milvus Vector DB တို့နှင့် တွဲဖက်ထားပြီး ဆေးဘက်ဆိုင်ရာဒေတာများကို ကိုင်တွယ်ရာတွင် မရှိမဖြစ်လိုအပ်သော သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှုနှင့် နောက်ခံနားလည်မှုအတွက် ခိုင်မာသောအခြေခံကို ပေးစွမ်းပါသည်။
Metrum AI ရဲ့ ကျန်းမာရေးစောင့်ရှောက်မှုလက်ထောက်မှာ တစ်ရှူးဗေဒပုံရိပ်ခွဲခြမ်းစိတ်ဖြာမှုအတွက် HistoGPT နဲ့ ဆရာဝန်မှတ်စုတွေကို အချိန်နဲ့တပြေးညီ ကူးယူဖို့အတွက် OpenAI ရဲ့ Whisper တို့ကို ပေါင်းစပ်ထားတဲ့ multimodal ချဉ်းကပ်မှုတစ်ခုလည်း ပါဝင်ပါတယ်။ ဒီမော်ဒယ်တွေပေါင်းစပ်လိုက်တဲ့အခါ ဆေးခန်းလုပ်ငန်းစဉ်တွေကို ချောမွေ့စေပြီး ဆရာဝန်တွေအနေနဲ့ သဘာဝကျကျ ပြောဆိုနိုင်စေသလို စနစ်က အချက်အလက်တွေကို လူနာမှတ်တမ်းတွေထဲကို အချိန်နဲ့တပြေးညီ ကူးယူ၊ အမျိုးအစားခွဲခြားပြီး ပေါင်းစပ်ပေးပါတယ်။
Metrum AI က တစ်ဦးချင်းလူနာဒေတာဟာ အတော်လေးသေးငယ်ပေမယ့်၊ မြင့်မားတဲ့လူနာတွေရှိတဲ့ ဆေးရုံတွေရဲ့ ပေါင်းစပ်သိုလှောင်မှုလိုအပ်ချက်တွေဟာ terabytes ရာပေါင်းများစွာအထိ မြင့်တက်လာနိုင်တယ်ဆိုတာကို သိရှိပါတယ်။ Dell PowerEdge XE9680 ဟာ ၎င်းရဲ့ local onboard NVMe storage နဲ့ ဒါကို ဖြေရှင်းပေးနိုင်ပါတယ်။ ကျွန်ုပ်တို့ရဲ့ configuration က PCIe Gen4 speeds တွေနဲ့ လည်ပတ်နေတဲ့ 2.5″ U.2 NVMe storage bays ရှစ်ခုကို ပေးစွမ်းပါတယ်။ ကျွန်ုပ်တို့ XE9680 ကို 61.44TB Soldigim D5-P5336 QLC SSDs တွေနဲ့ စမ်းသပ်ခဲ့ပေမယ့် ဒီစွမ်းရည်က ပိုပြီးတောင် တိုးချဲ့နိုင်ပါတယ်။ Soldigim ဟာ မကြာသေးခင်က သူတို့ရဲ့ D5-P5336 122.88TB QLC မော်ဒယ် အသစ်တွေကို မိတ်ဆက်ခဲ့ပြီး ၊ ၎င်းဟာ စွမ်းဆောင်ရည်တူညီနေချိန်မှာပဲ ကြီးမားတဲ့ SSDs တွေရဲ့ စွမ်းရည်ကို နှစ်ဆတိုးစေပါတယ်။
Metrum က လူနာဒေတာဟာ မတူညီတဲ့ အခြေအနေတွေမှာ အချိန်နဲ့အမျှ ဘယ်လိုပြောင်းလဲတယ်ဆိုတာကို ခန့်မှန်းတွက်ချက်ထားပါတယ်။ စုစုပေါင်းသိုလှောင်မှုစွမ်းရည်ကို တွက်ချက်တဲ့အခါ အမြင့်ဆုံးစွမ်းရည်ရှိတဲ့ SSD တွေကို အသုံးပြုပြီး ယူနစ်တစ်ခုဟာ နောက်ထပ်လူနာဘယ်နှစ်ယောက်ကို ပံ့ပိုးပေးနိုင်လဲဆိုတာကို မြင်တွေ့နိုင်ပါတယ်။ လူနာတစ်ဦးချင်းစီရဲ့ ခန့်မှန်းဒေတာခြေရာကို SSD တစ်ခုစီရဲ့ အသုံးပြုနိုင်တဲ့စွမ်းရည် (61TB SSD အတွက် 57TB နဲ့ 122TB SSD အတွက် 114TB) နဲ့ နှိုင်းယှဉ်ကြည့်ရင် သိပ်သည်းတဲ့ SSD တွေရှိတာဟာ တစ်နှစ်ကို server မှာ သိမ်းဆည်းနိုင်တာကို အဓိပ္ပာယ်ရှိရှိ တိုးမြှင့်ပေးတယ်ဆိုတာ မြင်တွေ့နိုင်ပါတယ်။
| လူနာတစ်ဦးလျှင် စုစုပေါင်း နှစ်စဉ်ခန့်မှန်းချက် | မှတ်စုများ | ခန့်မှန်းသိုလှောင်မှု | 61TB SSD လျှင် လူနာများ | 122TB SSD လျှင် လူနာများ |
|---|---|---|---|---|
| မြှင့်တင်ထားသော သိုလှောင်မှု လိုအပ်ချက်များ (DICOM ရုပ်ပုံများ/မူကွဲများ၊ တိုးမြှင့်မှုများ၊ လုပ်ဆောင်ပြီးသော မိတ္တူများ၊ အသံမှတ်တမ်းများ၊ အသေးစိတ်မှတ်တမ်းများ) | ရုပ်ပုံမိတ္တူများစွာ၊ အသံမှတ်တမ်းများနှင့် မှတ်တမ်းများ ပါဝင်သည် | ~8.4GB | 6,786 | 13,571 |
| သိုလှောင်မှု မြင့်မားသော အခြေအနေ (များပြားသော စီမံဆောင်ရွက်မှုများ၊ မကြာခဏ လာရောက်လည်ပတ်မှုများ) | မကြာခဏလာရောက်လည်ပတ်ခြင်း၊ ရုပ်ပုံပြင်ဆင်မှု လိုအပ်ချက်မြင့်မားခြင်း | ~10.5GB | 5,428 | 10,857 |
ကနဦး ၁ နှစ်ခန့်မှန်းချက်များသည် အတော်လေးမြင့်မားပုံရသော်လည်း လူနာဒေတာသည် တည်ငြိမ်မှုမရှိကြောင်း သတိပြုရန်အရေးကြီးပါသည်။ သင်သည် ဒေတာအသစ်များကို မှတ်တမ်းတင်ထားပြီး လာရောက်လည်ပတ်မှုအသစ်များကို အချိန်ဇယားဆွဲထားမည်ဖြစ်ပြီး သိုလှောင်မှုအတွက် လိုအပ်ချက်ကို တိုးပွားစေပါသည်။ ဤနေရာတွင် သိုလှောင်မှုသည် ဆေးဘက်ဆိုင်ရာပုံရိပ်ဖော်ခြင်းနယ်ပယ်တွင် အရေးပါသောအခန်းကဏ္ဍမှ ပါဝင်ပါသည်။ သိုလှောင်မှုစွမ်းရည်အပိုသည် ဖြေရှင်းချက်တစ်ခုသည် လူနာမည်မျှကို ထိရောက်စွာ ပံ့ပိုးပေးနိုင်သည်ကို တိုက်ရိုက်အကျိုးသက်ရောက်ပါသည်။
| လူနာတစ်ဦးလျှင် စုစုပေါင်း ၁၀ နှစ်ကြာ သိုလှောင်မှု ခန့်မှန်းချက် | မှတ်စုများ | ခန့်မှန်းသိုလှောင်မှု | 61TB SSD လျှင် လူနာများ | 122TB SSD လျှင် လူနာများ |
|---|---|---|---|---|
| မြှင့်တင်ထားသော အခြေအနေ (မိတ္တူများစွာ၊ အသေးစိတ်မှတ်တမ်းများ၊ အသံ၊ တိုးမြှင့်မှုများ) | တိုးချဲ့ထားသော မှတ်တမ်းများ၊ မကြာခဏ ရုပ်ပုံရိုက်ကူးခြင်းနှင့် လုပ်ဆောင်ခြင်း | ~84GB | 679 | 1,357 |
| မြင့်မားသော အခြေအနေ (လေးလံသော လုပ်ဆောင်မှုများ၊ ပြည့်စုံသော သမိုင်းကြောင်း) | အများဆုံး စီမံဆောင်ရွက်ခြင်းနှင့် သိုလှောင်ခြင်း လိုအပ်ချက်မှာ ၁၀ နှစ်ကျော် | ~105GB | 543 | 1,086 |
Dell PowerEdge XE9680 သည် AMD MI300X အရှိန်မြှင့်ကိရိယာများ တပ်ဆင်ထားပြီး Metrum AI ၏ ကျန်းမာရေးစောင့်ရှောက်မှုလက်ထောက်နှင့် ပေါင်းစပ်ထားသောကြောင့် ကျန်းမာရေးစောင့်ရှောက်မှုပေးသူများအတွက် တိုးချဲ့နိုင်ပြီး ထိရောက်သော ဖြေရှင်းချက်တစ်ခုကို ပေးစွမ်းပါသည်။ အချိန်ကုန်သော အလုပ်များကို အလိုအလျောက်လုပ်ဆောင်ခြင်းနှင့် အရေးကြီးသော အသိအမြင်များကို လျင်မြန်စွာ ဝင်ရောက်ကြည့်ရှုနိုင်စေခြင်းဖြင့် ဤစနစ်သည် ဆရာဝန်များအား တိုးပွားလာသော চাহিদာများကို စီမံခန့်ခွဲနေစဉ်တွင် လူနာစောင့်ရှောက်မှုကို ပိုမိုအာရုံစိုက်နိုင်စေပါသည်။ ဘာသာစကား၊ ရုပ်ပုံနှင့် အသံပုံစံများတွင် AI အစိတ်အပိုင်းများကို ချောမွေ့စွာ ပေါင်းစပ်ခြင်းဖြင့် ကျန်းမာရေးစောင့်ရှောက်မှုလက်ထောက်သည် AI မောင်းနှင်သော ကျန်းမာရေးစောင့်ရှောက်မှုဖြေရှင်းချက်များတွင် သိသာထင်ရှားသော တိုးတက်မှုတစ်ခုကို ကိုယ်စားပြုပြီး အုပ်ချုပ်ရေးဆိုင်ရာ ဝန်ထုပ်ဝန်ပိုးများကို လျှော့ချပေးပြီး လူနာရလဒ်အလုံးစုံကို တိုးတက်ကောင်းမွန်စေပါသည်။
ကောက်ချက်
Enterprise AI ရဲ့ ပြောင်းလဲနေတဲ့ ရှုခင်းမှာ Dell PowerEdge XE9680 က စံနှုန်းသစ်တစ်ခုကို ချမှတ်ပေးပြီး ရည်ရွယ်ချက်ရှိရှိ တည်ဆောက်ထားတဲ့ hardware က စက်မှုလုပ်ငန်းအမျိုးမျိုးကို ဘယ်လို တော်လှန်ပြောင်းလဲနိုင်တယ်ဆိုတာကို ပြသနေပါတယ်။ Metrum AI Healthcare Assistant အကောင်အထည်ဖော်မှုက မရေမတွက်နိုင်တဲ့ ဖြစ်နိုင်ခြေတွေထဲက တစ်ခုကို ပြသနေပါတယ် - ငွေကြေးဆိုင်ရာ အဖွဲ့အစည်းတွေဟာ ရှုပ်ထွေးတဲ့ အန္တရာယ်ခွဲခြမ်းစိတ်ဖြာမှု မော်ဒယ်တွေကို အချိန်နဲ့တပြေးညီ လုပ်ဆောင်နေကြတယ် ဒါမှမဟုတ် သုတေသနဓာတ်ခွဲခန်းတွေမှာ ဆေးဝါးရှာဖွေတွေ့ရှိမှုအတွက် ကျယ်ပြန့်တဲ့ အချက်အလက်တွေကို စီမံဆောင်ရွက်နေကြတယ်ဆိုတာကို မြင်ယောင်ကြည့်ပါ၊ အားလုံးကို ဒီထူးခြားတဲ့ စနစ်က စွမ်းအားပေးပါတယ်။
XE9680 သည် NVIDIA ၏ H100 များမှ AMD ၏ MI300X နှင့် Intel ၏ Gaudi3 အထိ GPU ရွေးချယ်မှုများတွင် ထူးကဲသော စွယ်စုံသုံးနိုင်စွမ်းကို ပေးဆောင်ပါသည်။ ဤပြောင်းလွယ်ပြင်လွယ်ရှိမှုသည် ၎င်း၏ ခိုင်မာသော မှတ်ဉာဏ်စွမ်းရည်၊ သိုလှောင်မှုရွေးချယ်မှုများနှင့် ဆန်းသစ်သော အအေးပေးစနစ်များနှင့် ပေါင်းစပ်လိုက်သောအခါ ၎င်းကို AI server တစ်ခုထက်ပို၍ ပြုလုပ်ပေးပြီး ဒေတာစင်တာ သို့မဟုတ် ဆေးဘက်ဆိုင်ရာရုံးတွင်ဖြစ်စေ မတူညီသော အပလီကေးရှင်းအမျိုးမျိုးတွင် အလိုအပ်ဆုံး workloads များကို ကိုင်တွယ်နိုင်သော ပြီးပြည့်စုံသော enterprise computing platform တစ်ခုဖြစ်စေပါသည်။
သိုလှောင်မှုရှုထောင့်ကနေကြည့်ရင် server မှာ NVMe bay ရှစ်ခုပဲရှိပေမယ့် Solidigm ကြောင့် သူတို့ရဲ့ 61.44TB SSD တွေကိုသုံးပြီး အထက်မှာဖော်ပြထားတဲ့ ကျန်းမာရေးစောင့်ရှောက်မှုလက်ထောက်အတွက် အလုပ်လုပ်နိုင်တဲ့နေရာအဖြစ် စနစ်ထဲကို petabyte တစ်ဝက်နီးပါးထည့်သွင်းနိုင်ပါတယ်။ ဒါတင်မကသေးဘူး၊ Solidigm က D5-P5336 ရဲ့စွမ်းရည်ကို 122.88TB အထိနှစ်ဆတိုးမြှင့်လိုက်တယ်လို့ ကြေညာလိုက်ပါတယ်။ ဆိုလိုတာကတော့ ဒီလိုစနစ်တွေက သူတို့ရဲ့ accelerator နဲ့ကပ်လျက် flash storage petabyte လောက်ကို ထည့်သွင်းနိုင်မှာဖြစ်ပြီး AI workloads တွေကို ထိရောက်စွာလုပ်ဆောင်နိုင်စေမှာပါ။
Dell ရဲ့ အင်ဂျင်နီယာပညာဟာ XE9680 ရဲ့ ရှုထောင့်တိုင်းမှာ ထွန်းလင်းတောက်ပနေပြီး၊ ၎င်းရဲ့ ဂရုတစိုက်လုပ်ဆောင်ထားတဲ့ ပါဝါစီမံခန့်ခွဲမှု လုပ်ဆောင်ချက်တွေကနေ အသုံးပြုရလွယ်ကူတဲ့ ဝန်ဆောင်မှုပေးနိုင်မှုအထိပါ။ တစ်စိတ်တစ်ပိုင်း ပါဝါထောက်ပံ့မှု ချို့ယွင်းမှုတွေမှာတောင် လည်ပတ်မှုကို ထိန်းသိမ်းပေးနိုင်တဲ့ ပလက်ဖောင်းရဲ့ စွမ်းရည်က စနစ်ရဲ့ ယုံကြည်စိတ်ချရမှုနဲ့ စဉ်ဆက်မပြတ်လည်ပတ်မှုဟာ အဓိကကျတဲ့ AI လိုအပ်ချက်တွေကို Dell ရဲ့ နက်နဲတဲ့ နားလည်မှုကို ပြသနေပါတယ်။
Dell ရဲ့ ပြည့်စုံတဲ့ ပံ့ပိုးမှု အခြေခံအဆောက်အအုံနဲ့ အမျိုးမျိုးသော လုပ်ဆောင်ချက်တွေကတစ်ဆင့် AI စွမ်းရည်တွေကို မြှင့်တင်ဖို့ ကတိကဝတ်တွေနဲ့ ကျောထောက်နောက်ခံပြုထားတဲ့ PowerEdge XE9680 ဟာ enterprise computing မှာ ဆန်းသစ်တီထွင်မှုရဲ့ သက်သေတစ်ခုအဖြစ် ရပ်တည်နေပါတယ်။ ၎င်းရဲ့ ကုန်ကြမ်းတွက်ချက်မှုစွမ်းအား၊ ဗိသုကာပိုင်းဆိုင်ရာ ပြောင်းလွယ်ပြင်လွယ်ရှိမှုနဲ့ enterprise-grade ယုံကြည်စိတ်ချရမှုတို့ ပေါင်းစပ်မှုကြောင့် ၂၀၂၄ ခုနှစ်ရဲ့ အကောင်းဆုံးဆုကို ထပ်မံရရှိခဲ့ပါတယ်။
ဤသုံးသပ်ချက်ကို Kevin O'Brien နှင့် Divyansh Jain တို့က ပူးတွဲရေးသားခဲ့သည်
အမေဇုံ