ယနေ့အထိ SpiNNcloud ဖြစ်ခဲ့သော Dresden ကုမ္ပဏီ Sparxity သည် Forschungszentrum Jülich ၏ အင်စတီကျုတစ်ခုဖြစ်ပြီး ဥရောပ၏ ပထမဆုံး exascale စက်ဖြစ်သော JUPITER ၏ မူလနေရာဖြစ်သော Jülich Supercomputing Centre (JSC) တွင် sparse-native computing rack စနစ်တစ်ခုကို ဖြန့်ကျက်မည်ဟု ကြေညာခဲ့သည်။ ထိုစနစ်ကို JUBIS ဟု အမည်ပေးထားပြီး တပ်ဆင်မှုကို ဒေါ်လာသန်းပေါင်းများစွာ ကုန်ကျမည်ဟု ဖော်ပြထားပြီး JSC သည် ၎င်း၏ ရိုးရာ CPU နှင့် GPU စနစ်များအပြင် sparse machine learning မော်ဒယ်များနှင့် ကြီးမားသော HPC simulation များကို လုပ်ဆောင်ရန် အသုံးပြုမည်ဖြစ်သည်။ ကြေငြာချက်သည် ကုမ္ပဏီအမည်အသစ်ကို မိတ်ဆက်ခြင်းနှင့်အတူ နှစ်ဆတိုးလာသည်။
ဖြစ်ရပ်အခြေပြု အကောင်အထည်ဖော်မှုနှင့် Sparxity မှ ၎င်းအပေါ် သက်ရောက်မှုရှိသော ကိန်းဂဏန်းများ
ဟာ့ဒ်ဝဲသည် အဖြစ်အပျက်အပေါ် အခြေခံသည်- အကောင်အထည်ဖော်မှုယူနစ်များသည် input ပြောင်းလဲသွားသည့်အခါတွင်သာ လည်ပတ်သောကြောင့် မော်ဒယ်၏ idle အစိတ်အပိုင်းများသည် လည်ပတ်မှုကို အသုံးမပြုဘဲ data ကို မရွှေ့ပါ။ Sparxity သည် ၎င်းကို လက်တွေ့တွင် sparsity အဖြစ် ဘောင်ခတ်ထားသည်။ ကုမ္ပဏီက JUBIS ကို sparse solver အကောင်အထည်ဖော်မှုကို ၁၀ ဆ ပိုမြန်စေရန်၊ event-based machine learning workloads များအတွက် စွမ်းအင်သုံးစွဲမှု ၁၈ ဆ လျော့နည်းစေရန်နှင့် optimization ပြဿနာများတွင် လက်ခံနိုင်သော ဖြေရှင်းချက်တစ်ခုအတွက် အချိန် ၂၀ ဆ ပိုတိုစေရန် ဒီဇိုင်းထုတ်ထားကြောင်း ပြောကြားခဲ့သည်။ ၎င်းတို့သည် ထုတ်ဝေထားသော baseline system၊ workload၊ batch size သို့မဟုတ် precision မရှိသော vendor ကိန်းဂဏန်းများဖြစ်ပြီး ကျွန်ုပ်တို့သည် ၎င်းတို့ကို လုပ်ဆောင်ခြင်း သို့မဟုတ် audit မလုပ်ခဲ့ပါ။
ဆီလီကွန်ကတော့ SpiNNaker2 ဖြစ်ပြီး Arm-based ချစ်ပ်ဖြစ်ပြီး မူရင်း Arm ဗိသုကာဒီဇိုင်းပညာရှင် Steve Furber စတင်ခဲ့တဲ့ SpiNNaker သုတေသနလိုင်းကနေ ဆင်းသက်လာတာပါ။ ကုမ္ပဏီက သူ့ရဲ့ server board ကို SpiNNaker2 ချစ်ပ် ၄၈ ခုအဖြစ် ဖော်ပြထားပြီး တစ်ခုချင်းစီမှာ Arm cores ၁၅၂ ခုနဲ့ သီးသန့် accelerators တွေပါဝင်ပြီး အဲဒီ board မိသားစုကို Sandia National Laboratories က ၂၀၂၅ ခုနှစ်မှာ ယူဆောင်လာခဲ့တဲ့ စနစ်ထဲကို ထည့်သွင်းခဲ့ပြီး အဲဒီစနစ်မှာ simulated neurons ၁၅၀ သန်းကနေ ၁၈၀ သန်းအထိ အဆင့်သတ်မှတ်ထားပါတယ်။ Sparxity က Jülich rack မှာ board အရေအတွက်ကို မပြောခဲ့ပါဘူး။ သူ့ရဲ့ တပ်ဆင်ထားတဲ့ base တစ်လျှောက်မှာ tape-out သုံးခု၊ ချစ်ပ် ၇၀,၀၀၀ ကျော် ထုတ်လုပ်ခဲ့ပြီး rack ၁၂ ခုကျော် ဖြန့်ကျက်ထားမှုနဲ့ ဖောက်သည် ၃၀ ကျော်ကို ရေတွက်ထားပါတယ်။
“ရှားပါးတဲ့ စက်သင်ယူမှုဟာ AI ရဲ့ စွမ်းဆောင်ရည်ကို အခြေခံအားဖြင့် မြှင့်တင်ဖို့ အကြီးမားဆုံး အခွင့်အလမ်းတွေထဲက တစ်ခုကို ကိုယ်စားပြုပါတယ်” လို့ Jülich Supercomputing Centre ရဲ့ Simulation and Data Lab Neuroscience မှ Dr. Guido Trensch က ပြောပါတယ်။ “Sparxity ကို လက်ခံအသုံးပြုခြင်းအားဖြင့် ကျွန်ုပ်တို့ရဲ့ ကမ္ဘာလုံးဆိုင်ရာ ထူးခြားတဲ့ HPC အခြေခံအဆောက်အအုံကို အခြေခံအားဖြင့် ချဉ်းကပ်မှုအသစ်နဲ့ ဖြည့်စွက်နိုင်ပြီး အာရုံကြောသိပ္ပံမှာ တိုးတက်မှုတွေကို ပိုမိုတိုးတက်အောင် လုပ်ဆောင်နိုင်စေဖို့ သုတေသနအခွင့်အလမ်းအသစ်တွေကို ဖွင့်လှစ်ပေးနိုင်ပါတယ်။”
Jülich မှာ JUBIS ဘယ်မှာ တပ်ဆင်လဲ
JSC သည် ဝယ်ယူမှုနောက်ကွယ်ရှိ ပရောဂျက်ဖြစ်သော ESAB (Event-based Supercomputer for AI and Beyond) ကို ၂၀၂၆ ခုနှစ်တွင် ၎င်း၏ Modular Supercomputing Architecture တွင် စွမ်းအင်ချွေတာသော၊ event-based SpiNNaker2 compute module တစ်ခုထည့်သွင်းရန် စတင်ခဲ့သော သုံးနှစ်ကြာ အခြေခံအဆောက်အအုံ ကြိုးပမ်းမှုတစ်ခုအဖြစ် ဖော်ပြထားပြီး၊ ယင်း framework သည် JUPITER ရှိ CPU cluster နှင့် GPU booster ကို တွဲဖက်အသုံးပြုသည့် framework ပင်ဖြစ်သည် ။ JSC စာရင်းများ၏ ပစ်မှတ်များမှာ AI workloads၊ real-time neuroscience simulation နှင့် ၎င်း၏ Simulation and Data Lab Neuroscience၊ Human Brain Project နှင့် ၎င်း၏ အစောပိုင်း Advanced Computing Architectures pilot တို့ကို အခြေခံ၍ ကျယ်ပြန့်သော သိပ္ပံအသိုင်းအဝိုင်းအတွက် အခြားနယ်ပယ်များဖြစ်သည်။ ရန်ပုံငွေများကို European Regional Development Fund နှင့် EFRE/JTF-Programm NRW 2021-2027 အောက်ရှိ North Rhine-Westphalia ပြည်နယ်မှ ရရှိသည်။
JSC သည် JUPITER AI Factory ကိုလည်း လည်ပတ်နေပြီး Sparxity က ဥရောပရှိ AI စက်ရုံ ၁၉ ရုံအနက် တစ်ရုံဖြစ်ပြီး exascale system တစ်ခုပေါ်တွင် တည်ဆောက်ထားသော တစ်ခုတည်းသောစက်ရုံဖြစ်ကြောင်း မှတ်ချက်ပြုထားသည်။ ထို့ကြောင့် JUBIS သည် dense GPU inference ကို အတိုင်းအတာတစ်ခုအထိ လုပ်ဆောင်ပြီးဖြစ်သော စက်ရုံတစ်ခုတွင် ရောက်ရှိလာပြီး ကုမ္ပဏီက ဖိတ်ခေါ်နေသည့် နှိုင်းယှဉ်ချက်တစ်ခုဖြစ်သည်။ ၎င်း၏ရပ်တည်ချက်မှာ မော်ဒယ်များသည် dense hardware များ အသုံးချနိုင်သည်ထက် ပိုမိုမြန်ဆန်စွာ ပြန့်ကျဲလာနေပြီး mixture-of-experts routing၊ memory layers နှင့် block-sparse attention တို့ကို ဥပမာအဖြစ် အသုံးပြုထားပြီး event-based machine သည် ထို sparsity ကို မြန်နှုန်းအဖြစ်သို့ ပြောင်းလဲပေးသည်ဟူသော အချက်ဖြစ်သည်။ GPU သည် routing overhead ကို ထည့်သွင်းပေးသည်။
ပြန်လည်အမှတ်တံဆိပ်ပြောင်းလဲခြင်းသည် ထုတ်ကုန်မျိုးဆက်နှစ်ခုကြား နယ်နိမိတ်ကို ရေးဆွဲပေးသည်။ Sparxity က ၎င်း၏လက်ရှိစနစ်များသည် HPC နှင့် AI နှစ်မျိုးလုံးကို ဝန်ဆောင်မှုပေးသည်ဟု ပြောကြားခဲ့ပြီး နောက်မျိုးဆက်သည် ပိုမိုကောင်းမွန်ပြီး ပိုမိုပြောင်းလဲလွယ်သော sparsity ကို လိုချင်သော မော်ဒယ်တည်ဆောက်သူများနှင့် တစ်စက္ကန့်လျှင် တိုကင်များ ပိုမိုလိုချင်သော ဒေတာစင်တာများနှင့် neocloud များအတွက် ရည်ရွယ်သည့် AI ကောက်ချက်အတွက် sparsity ကို အပြည့်အဝ ကတိပြုထားသည်။ CEO နှင့် ပူးတွဲတည်ထောင်သူ Hector Gonzalez က Jülich ပူးပေါင်းဆောင်ရွက်မှုသည် supercomputer scale တွင် ထိုချဉ်းကပ်မှု၏တန်ဖိုးကို ပြသနေကြောင်း ပြောကြားခဲ့သည်။ SpiNNcloud ၏ ဝဘ်ဆိုက်တွင် ဆက်ခံသူချစ်ပ် SpiNNext ကို GPU များ၏ စွမ်းအင်ထိရောက်မှုထက် ၇၈ ဆ ပိုများပြီး SpiNNaker2 အတွက် ၁၈ ဆ ပိုများကြောင်း ဖော်ပြထားပြီး၊ မကြာမီ ရရှိနိုင်မည်ဟု မှတ်သားထားသည်။
အမေဇုံ