စွန့်စားခန်းမြင့်မားသော Enterprise AI နယ်ပယ်တွင် နည်းပညာထိပ်တန်းကုမ္ပဏီများသည် hardware တွင် နောက်ထပ်သိသာထင်ရှားသော ဆန်းသစ်တီထွင်မှုကို ထုတ်ဖော်ပြသရန် အပြင်းအထန်ယှဉ်ပြိုင်နေကြသည်။ Dell Technologies သည် မကြာသေးမီက Generative AI အတွက် Dell PowerEdge XE9680 ကို မိတ်ဆက်ခဲ့ပြီး မကြာသေးမီက whitepaper တွင် ၎င်းကို အသုံးချနေသည် ။ AI workloads များကို ကိုင်တွယ်ဖြေရှင်းရန် တိကျစွာ ဒီဇိုင်းထုတ်ထားသော PowerEdge XE9680 သည် ပြိုင်ပွဲတွင် ဝင်ရောက်လာသူအသစ်တစ်ဦးသာမက အလားအလာရှိသော ရှေ့တန်းမှ ဦးဆောင်သူတစ်ဦးလည်း ဖြစ်သည်။
whitepaper ကို တူးဆွကြည့်တဲ့အခါ ဒီအစွမ်းထက်ကုမ္ပဏီက AI ရှုခင်းကို ဘယ်လိုပြန်လည်အဓိပ္ပာယ်ဖွင့်ဆိုသလဲ၊ AI နယ်ပယ်ကို အောင်နိုင်ဖို့ ဘာကြောင့် သင့်လုပ်ငန်းရဲ့ လျှို့ဝှက်လက်နက်ဖြစ်နိုင်တယ်ဆိုတာကို ကျွန်တော်တို့ လေ့လာကြည့်ခဲ့ပါတယ်။
ထုတ်လုပ်မှုစွမ်းအားမြင့် AI အတွက် Dell PowerEdge XE9680
Dell PowerEdge XE9680 သည် artificial intelligence နယ်ပယ်များကို ရည်ရွယ်သည့် မြင့်မားသောစွမ်းဆောင်ရည်ရှိသော application များအတွက် ဒီဇိုင်းထုတ်ထားသော GPU-dense rack server တစ်ခုဖြစ်သည်။ ၎င်းတွင် core ၅၆ ခုအထိရှိသော 4th Generation Intel Xeon Scalable processor နှစ်ခုတပ်ဆင်ထားပြီး NVIDIA HGX H100 ရှစ်လုံး သို့မဟုတ် NVIDIA HGX A100 GPU ရှစ်လုံးတပ်ဆင်နိုင်ပြီး NVIDIA NVLink နည်းပညာဖြင့် ချိတ်ဆက်ထားသည်။
PowerEdge XE9680 သည် DIMM Speed Up ကို 4800 MT/s အထိ ပံ့ပိုးပေးပြီး DDR5 DIMM slot 32 ခု ပါဝင်ပြီး အများဆုံး RAM ပမာဏ 4 TB ရှိသည်။ သိုလှောင်မှုအတွက် 2.5-inch NVMe SSD drives 8 ခုအထိ ပံ့ပိုးပေးထားပြီး အများဆုံး ပမာဏ 122.88 TB ရှိသည်။ server တွင် cryptographically signed firmware၊ Data at Rest Encryption (DRE)၊ Secure Boot နှင့် အခြားအရာများကဲ့သို့သော လုံခြုံရေးအင်္ဂါရပ်များစွာ ပါဝင်သည်။ ၎င်းကို embedded iDRAC9 system မှတစ်ဆင့် စီမံခန့်ခွဲပြီး management tools များနှင့် integrations အမျိုးမျိုးကို ပံ့ပိုးပေးသည်။ server ကို 6U rack form factor တွင် တပ်ဆင်ထားပြီး အလေးချိန် 235.89 lbs (107 kg) ရှိသည်။
Dell PowerEdge XE9680 သတ်မှတ်ချက်များ
PowerEdge XE9680 ကို မှတ်ဉာဏ်ပမာဏများစွာပါဝင်သော AI workloads များကို ကိုင်တွယ်ရန် ဒီဇိုင်းထုတ်ထားသည်။ NVLink ကြောင့် GPU များသည် စနစ်အတွင်းရှိ အခြား GPU များမှ မှတ်ဉာဏ်ပမာဏများစွာကို ဝင်ရောက်အသုံးပြုနိုင်ပြီး မျှဝေထားသော အရင်းအမြစ်များသို့ မြန်နှုန်းမြင့် ဝင်ရောက်ခွင့်ကို ပေးစွမ်းသည်။ ဤသိသာထင်ရှားသော မှတ်ဉာဏ်စွမ်းရည်သည် ပိုမိုမြင့်မားသော စွမ်းဆောင်ရည်၊ ပိုမိုရှုပ်ထွေးသော မော်ဒယ်များနှင့် ပိုမိုကြီးမားသော၊ ပိုမိုအသေးစိတ်ကျသော dataset များဖြင့် အလုပ်လုပ်နိုင်စွမ်းကို ဖြစ်ပေါ်စေသင့်ပြီး ပိုမိုကြီးမားသော parameter မော်ဒယ်များကို အသုံးပြုခြင်းဖြင့် တိကျမှုနှင့် အသုံးဝင်မှုကို မြှင့်တင်ပေးသင့်သည်။
မော်ဒယ်:
ပရိုဆက်ဆာ စွမ်းဆောင်ရည်များ-
ရုပ်ပိုင်းဆိုင်ရာ Properties ကို:
မှတ်ဉာဏ်ပံ့ပိုးမှု:
|
I/O စွမ်းရည်များ-
GPU ပိုကောင်းအောင်လုပ်ခြင်း
ဉာဏ်ရည်တု စွမ်းရည်များ-
ဒရိုက်ပံ့ပိုးမှု-
|
ရုပ်ပုံထုတ်လုပ်ခြင်း မော်ဒယ်များ- အနုပညာသိပ္ပံ
Van Gogh လို ပန်းချီဆွဲချင်တာမျိုး၊ Da Vinci လို ပုံဆွဲချင်တာမျိုး ရှိဖူးလား။ ဒါပေမယ့် မူကြိုကလေးတစ်ယောက်အတွက်တောင် အထင်ကြီးစရာမရှိတဲ့ တုတ်ပုံတွေချည်းပဲ ရချင်နေလား။ Image Generation Models (IGMs) ကမ္ဘာထဲကို ဝင်ရောက်လိုက်ပါ။ ဒါက ထူးခြားတဲ့ အသွင်အပြင်တွေနဲ့ ဦးထုပ်တွေမပါဘဲ အံ့မခန်း အနုပညာရှင်တစ်ယောက်ရဲ့ စက်သင်ယူမှုစနစ်ပါ။
IGM များသည် ရုပ်ပုံအသစ်များဖန်တီးခြင်းကို ကိုင်တွယ်ဖြေရှင်းရန် ဒီဇိုင်းထုတ်ထားသော စက်သင်ယူမှုပုံစံများ၏ အစိတ်အပိုင်းတစ်ခုဖြစ်သည်။ IGM များသည် ဒေတာပုံစံများကို နားလည်ခြင်းနှင့် ပုံတူပွားခြင်းဆိုင်ရာ ပိုမိုကျယ်ပြန့်သော generative modeling နယ်ပယ်တွင် ပါဝင်သည်။ သို့တိုင် ဂဏန်းများ သို့မဟုတ် စာသားများကို ထုတ်လုပ်မည့်အစား ဤပုံစံများသည် ရုပ်ပုံများဖန်တီးခြင်းလုပ်ငန်းတွင် ရှိနေသည်။ မကြာသေးမီလများအတွင်း IGM များသည် အနုပညာလက်ရာအသစ်များမှသည် ထူးဆန်းစွာ လက်တွေ့ကျသော လူ့မျက်နှာများအထိ အရာအားလုံးကို ဖန်တီးပေးသည့် သတင်းများကို ဖန်တီးခဲ့ကြသည်။
ဤမော်ဒယ်များသည် အနုပညာနှင့် ဖျော်ဖြေရေးမှ ကြော်ငြာနှင့် သိပ္ပံနည်းကျသုတေသနအထိ အရာအားလုံးတွင် ၎င်းတို့၏လမ်းကြောင်းကို ရှာဖွေတွေ့ရှိခဲ့သည်။ ၎င်းတို့သည် ဆေးဘက်ဆိုင်ရာရောဂါရှာဖွေရန်အတွက် ဆဲလ်များ၏ပုံရိပ်များကို ဖန်တီးနေကြပြီး၊ အာကာသကို တုပကာ၊ သင်ကိုယ်တိုင် လှည့်စားနိုင်သည့် လက်တွေ့ဆန်သော ဆယ်လ်ဖီများကို ဖန်တီးနေကြသည်။ ဤမော်ဒယ်များ တိုးတက်ပြောင်းလဲလာသည်နှင့်အမျှ ၎င်းတို့ကို လျင်မြန်စွာလည်ပတ်ရန် လိုအပ်ချက်များ တိုးပွားလာနေပါသည်။
ထုတ်လုပ်မှု AI အတွက် Dell PowerEdge XE9680: တည်ငြိမ်သောပျံ့နှံ့မှု၏ အနားသတ်ကို စွမ်းအားပေးသည်
ကောက်ချက်ချစဉ်အတွင်း ပုံရိပ်အသစ်များထုတ်ပေးသည့်အခါ ပျံ့နှံ့မှုနည်းလမ်းများသည် တစ်ပြိုင်တည်းလည်ပတ်နေသော ကြီးမားသော GPU cluster များပေါ်တွင် မူတည်လေ့ရှိပြီး ကျယ်ပြန့်သော hardware runtime လိုအပ်ပါသည်။ သို့သော် Dell ၏ whitepaper တွင် Dell PowerEdge XE9680 server ဖြင့် ဤ generative AI လုပ်ဆောင်မှုများကို သိသိသာသာ မြန်ဆန်စေနိုင်ကြောင်း ဖော်ပြထားသည်။
၎င်းက စက္ကန့်အနည်းငယ်အတွင်း သင့်တင့်လျောက်ပတ်သော ရုပ်ထွက်အရည်အသွေးရှိသော ရုပ်ပုံများစွာမှ ရာပေါင်းများစွာအထိ ထုတ်လုပ်နိုင်စေပါသည်။ Dell က Generative AI အတွက် Dell PowerEdge XE9680 ၏ စွမ်းရည်များကို အသုံးချခြင်းဖြင့် ကြီးမားသော ရုပ်ထွက်အရည်အသွေးမြင့် ရုပ်ပုံများ (Dell အသုံးပြုထားသော 2,096 x 2,096) ကို စက္ကန့်ပိုင်းအတွင်း တစ်ခုတည်းသော စာသားတောင်းဆိုမှုမှ ထုတ်လုပ်နိုင်ကြောင်း ထောက်ပြသည်။
XE9680 ကို စာသားဖြင့်ထုတ်ပေးသည် = “ပျော်ရွှင်နေသောခွေး၏ပုံတူ၊ အနီးကပ်ရိုက်ချက်”
ဤ whitepaper သည် PowerEdge XE9680 server ရှိ HuggingFace Diffusers text-to-image မော်ဒယ်အတွက် ရုပ်ပုံထုတ်လုပ်မှု နှောင့်နှေးမှုကို batch size နှင့် ရုပ်ပုံ resolution ကွဲပြားမှုများကို ထည့်သွင်းစဉ်းစား၍ အကဲဖြတ်သည်။ XE9680 server သည် 2,048 x 2,048 အထိ resolution ရှိသော ရုပ်ပုံများကို ထုတ်လုပ်နိုင်သည်။
အသုတ်အရွယ်အစားများ တိုးလာသည်နှင့်အမျှ အခြေခံအဆောက်အအုံပေါ်တွင် မှတ်ဉာဏ်လိုအပ်ချက်များလည်း မြင့်တက်လာခဲ့သည်။ ထို့ကြောင့် ကြီးမားသော အသုတ်အရွယ်အစားများကို ရုပ်ထွက်အရည်အသွေးနိမ့်သော ရုပ်ပုံများ (ဥပမာ ၂၅၆ x ၂၅၆) ဖြင့် ရရှိနိုင်ပါသည်။ သို့သော် မှတ်ဉာဏ်ကန့်သတ်ချက်များကြောင့် အလွန်မြင့်မားသော ရုပ်ထွက်အရည်အသွေးရှိသော ရုပ်ပုံများ (ဥပမာ ၂၀၄၈ x ၂၀၄၈) သည် တစ်ခု၏ အသုတ်အရွယ်အစားကိုသာ ထုတ်လုပ်နိုင်သည်။
PowerEdge XE9680 ရုပ်ပုံထုတ်လုပ်မှုအကြိမ်ရေ
256 x 256 နှင့် 512 x 512 resolution များတွင် ရုပ်ပုံများကို batch image generation ကို အာရုံစိုက်ခြင်းဖြင့် Generative AI သည် စက္ကန့်ပိုင်းအတွင်း ရုပ်ပုံများစွာကို ထုတ်လုပ်ပေးသည့် Dell PowerEdge XE9680 ၏ အစွမ်းထက်သောစွမ်းရည်များကို ပြသသည်။ ဤစွမ်းရည်သည် ဖန်တီးမှုဒီဇိုင်းစက်ဝန်းများအတွက် လိုအပ်သော အကဲဖြတ်ခြင်း၊ လျင်မြန်စွာချိန်ညှိခြင်းနှင့် နောက်ထပ်အကဲဖြတ်ခြင်းတို့ကို အရှိန်မြှင့်ပေးသည်။ ဤရလဒ်များသည် Dell PowerEdge XE9680 server ရှိ HuggingFace Diffusers package ဖြင့် 512 x 512 resolution တွင် ရုပ်ပုံ ၃၂ ပုံကို စက္ကန့် ၁၀ အတွင်း မည်သို့ထုတ်လုပ်နိုင်ကြောင်း ပြသသည်။ ထို့အပြင် 256 x 256 resolution တွင် ရုပ်ပုံ ၆၄ ပုံကို တူညီသော platform ဖြင့် စက္ကန့် ၅ အတွင်း ဖန်တီးနိုင်ပြီး စီးပွားရေးလုပ်ငန်းများနှင့် ပရော်ဖက်ရှင်နယ်များအတွက် မြန်ဆန်သော prototyping နှင့် ဖန်တီးမှုဒီဇိုင်းစက်ဝန်းများကို ဖန်တီးနိုင်စေပါသည်။
ရုပ်ပုံထုတ်လုပ်ခြင်း စံနှုန်းများ
whitepaper မှ ခွဲခြမ်းစိတ်ဖြာမှုတွင် Dell PowerEdge XE9680 server ကို Lambda မှ သတ်မှတ်ထားသော image generation latency benchmarks များနှင့် နှိုင်းယှဉ် အကဲဖြတ်ခဲ့သည်။ ဤနှိုင်းယှဉ်ချက်တွင် Dell PowerEdge XE9680 server ရှိ 80 GB RAM ပါသည့် NVIDIA H100 GPU တစ်ခုနှင့် Lambda ရှိ ML Labs အဖွဲ့မှ ထုတ်ပြန်သော NVIDIA H100 GPU Stable Diffusion benchmark တို့ ပါဝင်သည်။
Dell PowerEdge XE9680 ရုပ်ပုံထုတ်လုပ်မှု နှောင့်နှေးမှု
XE9680 သည် Lambda ၏ benchmarks များကို ကျော်လွန်ပြီး throughput နှစ်ဆခန့် ရရှိခဲ့သည်။ Dell ၏ တွေ့ရှိချက်များကို NVIDIA H100 GPU လေ့လာမှုမှ အချက်အလက်များကို software-defined အခြေအနေများအောက်တွင် အသုံးပြု၍ Lambda ၏ ဖော်မတ်အတိုင်း တင်ပြထားသည်။ တစ်ခုတည်းသော ကွာခြားချက်မှာ hardware ဖြစ်သည်- Lambda သည် PCIe form factor NVIDIA H100 GPU ကို အသုံးပြုထားပြီး Dell PowerEdge XE9680 server သည် HGX form factor ကို အသုံးပြုထားပြီး ၎င်းသည် စွမ်းဆောင်ရည် ကွာခြားချက်အချို့ကို ရှင်းပြနိုင်သည်။
ပုံရိပ်ထုတ်လုပ်သည့် မော်ဒယ်များ၏ စီးပွားရေးဆိုင်ရာ သက်ရောက်မှု
Stable Diffusion မှတစ်ဆင့် ပုံရိပ်ထုတ်လုပ်ခြင်းသည် ဖန်တီးမှုဆိုင်ရာပညာရှင်များအား ၎င်းတို့၏လုပ်ငန်းကို လျင်မြန်စွာ ပုံစံတူပြုလုပ်ပြီး ပိုမိုကောင်းမွန်အောင်ပြုလုပ်နိုင်စေပြီး စျေးကွက်ရှာဖွေရေးနှင့် ကြော်ငြာဗျူဟာများ၏ ထိရောက်မှုကို မြှင့်တင်ခြင်းနှင့် ဈေးကွက်သို့ရောက်ရှိချိန်ကို လျှော့ချပေးခြင်းကဲ့သို့သော စွမ်းဆောင်ရည်ကို ပေးစွမ်းသည်။ ဗိသုကာ၊ ကြော်ငြာ၊ စျေးကွက်ရှာဖွေရေး၊ တီထွင်ဖန်တီးမှု၊ ရုပ်ရှင်၊ အထူးပြုလုပ်ချက်များ၊ ဓာတ်ပုံပညာနှင့် အနုပညာကဲ့သို့သော နယ်ပယ်များရှိ ပညာရှင်များသည် ဤနည်းပညာကို လက်ခံကျင့်သုံးပြီးဖြစ်သည်။
Stable Diffusion ကဲ့သို့သော Generative AI နည်းပညာများသည် အထူးသဖြင့် အမြန်နှုန်းသည် အရေးကြီးသည့်အခါတွင် လုပ်ငန်းလည်ပတ်မှုများတွင် အသွင်ပြောင်းပြောင်းလဲမှုများကို ယူဆောင်လာနိုင်သည်။ ထုတ်ကုန်ဒီဇိုင်းနှင့် ဖွံ့ဖြိုးတိုးတက်မှုတွင် ဤမော်ဒယ်များသည် အမြင်အာရုံပုံစံငယ်များကို လျင်မြန်စွာ ထုတ်လုပ်ပေးနိုင်ပြီး ဒီဇိုင်းအဖွဲ့များအား သဘောတရားများကို အချိန်နှင့်တပြေးညီ အကဲဖြတ်ပြီး ပိုမိုကောင်းမွန်အောင် ပြုလုပ်နိုင်စေပါသည်။ ၎င်းသည် ဒီဇိုင်းလုပ်ငန်းစဉ်ကို အရှိန်မြှင့်ပေးပြီး ဈေးကွက်သို့ရောက်ရှိရန် အချိန်ကို လျှော့ချပေးပါသည်။
အစိတ်ဝင်စားစရာအကောင်းဆုံး အယူအဆတစ်ခုသည် လက်လီရောင်းဝယ်ရေးလုပ်ငန်းမှ ဆင်းသက်လာသည်။ AI သည် “ဒီထိုင်ခုံကို အနီရောင်နဲ့ပြပါ” သို့မဟုတ် “အဲဒီဆိုဖာက ကျားသစ်ပုံနှိပ်နဲ့ ဘယ်လိုပုံစံဖြစ်မလဲ” ကဲ့သို့သော ဖောက်သည်ဦးစားပေးမှုများအပေါ် အခြေခံ၍ ထုတ်ကုန်ဖွဲ့စည်းပုံအမျိုးမျိုး သို့မဟုတ် အရောင်ရွေးချယ်မှုများ၏ လက်တွေ့ကျသောပုံရိပ်များကို လျင်မြန်စွာထုတ်လုပ်နိုင်သည်။ အိမ်ခြံမြေနှင့် ဆောက်လုပ်ရေးလုပ်ငန်းများအတွက်၊ generative AI သည် အဆောက်အအုံအသစ်များ သို့မဟုတ် ပြန်လည်ပြုပြင်မွမ်းမံသည့်စီမံကိန်းများ၏ မြင်ယောင်မှုများကို လျင်မြန်စွာဖန်တီးနိုင်ပြီး စီစဉ်ခြင်းနှင့် ရောင်းချမှုတင်ဆက်မှုများတွင် အထောက်အကူပြုနိုင်သည်။
လုပ်ငန်းတစ်ခုအတွင်း လေ့ကျင့်ရေးနှင့် ပညာရေးနယ်ပယ်တွင် AI မှ ထုတ်လုပ်သော ရုပ်ပုံများကို ဝန်ထမ်းလေ့ကျင့်ရေးအစီအစဉ်များအတွက် လက်တွေ့ကျသော အခြေအနေများ ဖန်တီးရန် အသုံးပြုနိုင်ပြီး သင်ယူမှုရလဒ်များကို မြှင့်တင်ပေးနိုင်ပါသည်။ ရုပ်ပုံထုတ်လုပ်မှုအမြန်နှုန်းသည် လုပ်ငန်းများ၏ သွက်လက်မှုကို သိသိသာသာ တိုးတက်စေပြီး ဈေးကွက်ပြောင်းလဲမှုများ၊ ဖောက်သည်လိုအပ်ချက်များနှင့် အတွင်းပိုင်းလိုအပ်ချက်များကို ပိုမိုထိရောက်စွာ တုံ့ပြန်နိုင်စေပါသည်။
ပိတ် Thoughts
Dell PowerEdge XE9680 သည် အထင်ကြီးလောက်သော စွမ်းဆောင်ရည်မြင့်ဆာဗာတစ်ခုဖြစ်ပြီး လိုအပ်ချက်များသော AI workloads များကို (အနည်းဆုံး ယခုအချိန်အထိ) အလွယ်တကူ ကိုင်တွယ်နိုင်သည်။ XE9680 ကို ခေတ်စားနေသော AI ဈေးကွက်အတွက် ရည်ရွယ်ထားသော်လည်း၊ ထိုကဲ့သို့သော အစွမ်းထက်သော box အတွက် analytics နှင့် data processing တွင် အခြားစိတ်ဝင်စားဖွယ်ကောင်းသော အသုံးပြုမှုကိစ္စရပ်များ ရှိနိုင်ပါသည်။ XE9680 သည် Dell ၏ Project Helix ကို အခြေခံထားပြီး ၊ ၎င်းသည် အဖွဲ့အစည်းများ၏ AI ပရောဂျက်များကို ပိုမိုအချိန်မီ အွန်လိုင်းတွင် ရရှိစေရန် ကူညီပေးသည့် ဝန်ဆောင်မှုတစ်ခုဖြစ်သည်။
အမေဇုံ