HPE သည် AMD Helios AI Rack အတွက် ၎င်း၏ပထမဆုံးအမှာစာကို HPE မှ မှာယူထားပြီး၊ ၎င်းသည် အမေရိကန်ပြည်ထောင်စုရှိ Vultr ၏ cloud data center များတွင် 72-GPU rack များကို ဖြန့်ကျက်ရန် Vultr မှ ဒေါ်လာ ၁.၂ ဘီလီယံ ကတိကဝတ်ဖြစ်သည်။ HPE သည် ၎င်း၏ Networking investor day ကျင်းပသည့် စက်တင်ဘာလ ၃၀ ရက်နေ့တွင် အမှာစာကို ကြေညာခဲ့ပြီး၊ ယင်းသဘောတူညီချက်သည် HPE၊ AMD နှင့် Broadcom တို့သည် ဒီဇင်ဘာလတွင် စီစဉ်ထား သော rack-scale ဒီဇိုင်းအတွက် ပထမဆုံးဖောက်သည်သက်သေပြချက်ဖြစ်သည် ။ ထိုသဘောတူညီချက်တွင် HPE သည် Helios rack တစ်ခုစီအတွင်း scale-up Ethernet switching နှင့် software ကို ထောက်ပံ့ပေးသည်။
HPE က ကမ္ဘာ့အကြီးဆုံး ပုဂ္ဂလိကပိုင် cloud အခြေခံအဆောက်အအုံကုမ္ပဏီအဖြစ် ဖော်ပြတဲ့ Vultr က ဇူလိုင်လမှာ ၂၀၂၇ ကနေ ၂၀၂၈ အထိ ဖြန့်ကျက်မှုအတွက် ကြိုတင်မှာယူမှုတွေကို လက်ခံနေတယ်လို့ ပြောကြားခဲ့ပါတယ်။ HPE မှာယူမှုက HPE-built racks တွေကို အဲဒီအစီအစဉ်ရဲ့ နောက်ကွယ်မှာ ထားရှိပေးပါတယ်။ “စွမ်းဆောင်ရည်မြင့် AI အခြေခံအဆောက်အအုံအတွက် ၀ယ်လိုအားဟာ ရရှိနိုင်တဲ့ စွမ်းရည်ထက် ဆက်လက်ကျော်လွန်နေပြီး AMD နဲ့ HPE နဲ့အတူ ကျွန်ုပ်တို့ရဲ့ လုပ်ဆောင်ချက်က Helios rack-scale compute နဲ့ scale-up networking ကို ဖောက်သည်တွေအတွက် အွန်လိုင်းမှာ ပိုမိုမြန်ဆန်စွာ ယူဆောင်လာနိုင်အောင် ကျွန်ုပ်တို့ကို စွမ်းဆောင်ပေးပါတယ်” လို့ Vultr ရဲ့ CEO JJ Kardwell က ပြောပါတယ်။ “အတူတကွ၊ ကျွန်ုပ်တို့ဟာ ဖောက်သည်တွေအတွက် အကြီးမားဆုံးနဲ့ အတောင်းဆိုဆုံး AI လေ့ကျင့်မှုနဲ့ inference workloads တွေကို လုပ်ဆောင်ဖို့ လိုအပ်တဲ့ memory capacity၊ interconnect performance နဲ့ energy efficiency တွေကို ပေးအပ်နေပါတယ်။”
Helios Rack မှာ ဘာတွေပါလဲ
Rack တစ်ခုစီတွင် 6th Gen AMD EPYC “Venice” CPU များပါရှိသော AMD Instinct MI455X GPU ၇၂ လုံး၊ AMD Pensando Vulcano AI NIC များနှင့် ROCm software stack များ ပါရှိသည်။ MI455X သည် AMD ၏ ပထမဆုံး CDNA 5 accelerator ဖြစ်ပြီး GPU တစ်ခုလျှင် HBM4 432GB ပါဝင်ပြီး Rack အပြည့်တစ်ခုတွင် HBM4 31TB၊ မန်မိုရီ bandwidth 1.7PB/s နှင့် FP4 2.9 exaFLOPS အထိ ပေါင်းထည့်နိုင်သည်။ GPU များသည် UALink over Ethernet (UALoE) မှတစ်ဆင့် မန်မိုရီကို မျှဝေအသုံးပြုကြပြီး open scale-up fabric AMD သည် standard Ethernet ပေါ်တွင် လည်ပတ်ပြီး rack အတွင်းရှိ scale-up bandwidth 260TB/s နှင့် scale-out bandwidth 43TB/s ဖြင့် ထွက်ခွာသည်။
HPE ရဲ့ rack အစိတ်အပိုင်းကတော့ အများအားဖြင့် network ပါ- HPE Juniper Networking QFX5252 scale-up Ethernet switch tray ခြောက်ခုဟာ Helios rack တိုင်းမှာ ရှိနေပြီး GPU ၇၂ ခုလုံးကို ချိတ်ဆက်ပေးထားပြီး switching နဲ့ သူ့ရဲ့ software ဟာ Helios အတွက် ရည်ရွယ်ချက်ရှိရှိ တည်ဆောက်ထားတယ်လို့ HPE က ပြောပါတယ်။ ဒီအမိန့်ဟာ ပေါင်းစည်းမှုမတိုင်ခင်က ဆက်ဆံရေးတစ်ခုကိုလည်း တိုးချဲ့ထားပါတယ်- Vultr ဟာ Juniper Networks နဲ့ သုံးနှစ်နီးပါး အလုပ်လုပ်ခဲ့ပြီး Juniper ဟာ HPE ရဲ့ အစိတ်အပိုင်းတစ်ခု ဖြစ်လာပြီးနောက်မှာ ပူးပေါင်းဆောင်ရွက်မှုဟာ ဆက်လက်လုပ်ဆောင်နေတယ်လို့ HPE က ပြောပါတယ်။
အရည်အအေးပေးစနစ်၊ ဝန်ဆောင်မှုများနှင့် HPE ၏ ကွန်ရက်ချိတ်ဆက်မှုဆိုင်ရာ အကြံပြုချက်များ
rack များတွင် HPE ၏ direct liquid cooling ကို အသုံးပြုထားပြီး၊ HPE သည် exascale-derived အဖြစ် သတ်မှတ်ထားပြီး HPE Services သည် ကြီးမားသော AI cluster များအတွက် ဖြန့်ကျက်မှုနှင့် liquid-cooling integration ကို ကိုင်တွယ်သည်။ HPE သည် ၎င်း၏ AI Data Center Solutions portfolio ၏ တစ်စိတ်တစ်ပိုင်းအဖြစ် ရောင်းချပြီး AMD နှင့်အတူ open standard များပေါ်တွင် တည်ဆောက်ထားသော integrated stack တစ်ခုဖြစ်သည်။ “HPE မှ AMD Helios သည် ကျွန်ုပ်တို့၏ ကမ္ဘာလုံးဆိုင်ရာ ဝန်ဆောင်မှုများမှ ပေးအပ်သော rack-scale compute၊ scale-up networking နှင့် direct liquid cooling တို့ဖြင့် ပြီးပြည့်စုံသော AI architecture ကို အင်ဂျင်နီယာပြုရန် HPE ၏ ထူးခြားသောစွမ်းရည်ကို ပြသသည်” ဟု HPE ၏ ဥက္ကဋ္ဌနှင့် CEO ဖြစ်သူ Antonio Neri က ပြောကြားခဲ့သည်။
Vultr သည် AMD Instinct စွမ်းရည်ကို ယခုနှစ်အစောပိုင်းတွင် AMD နှင့် NetApp တို့နှင့်အတူ hybrid cloud reference design တစ်ခုကို တည်ဆောက်ပြီး ဖြစ်ပြီး Microsoft က ဇူလိုင်လတွင် Azure တွင် Helios ကို အတိုင်းအတာတစ်ခုအထိ တိုးမြှင့် မည်ဟု ပြောကြားခဲ့သည် ။
အမေဇုံ