AMD သည် ၎င်း၏ Helios rack-scale platform ပေါ်တွင်တည်ဆောက်ထားသော agentic AI အတွက် open rack reference design တစ်ခုဖြစ်သည့် Helion ကို ယနေ့မိတ်ဆက်ခဲ့သည်။ Helion တွင် ဗားရှင်းနှစ်မျိုးဖြင့် ထွက်ရှိလာသည်- 6th Gen EPYC 9006 Series processors များမှ Zen 6 cores 32,768 အထိပါရှိသော hyperscaler များအတွက် CPU-only rack နှင့် EPYC CPU blades များကို Instinct MI350P GPU ၁၆ ခုအထိ ရောနှောထားသော all-in-one enterprise rack တို့ဖြစ်သည်။ AMD သည် Helion specification ကို Open Compute Project တွင် ပံ့ပိုးရန် စီစဉ်ထားသည်။
Dense Agent Execution နှင့် Inference အတွက် Configure လုပ်နိုင်သော Architectures များ
ဗားရှင်းနှစ်ခုစလုံးတွင် OCP နှင့် ကိုက်ညီသော စံ modular compute board များပေါ်တွင် တည်ဆောက်ထားသော ၂၁ လက်မ ORv3 44OU rack ကို အသုံးပြုထားပြီး တိုက်ရိုက်အရည်အအေးပေးစနစ် သို့မဟုတ် လေအအေးပေးစနစ်၊ 102Tbps အထိ programmable networking နှင့် open-source software stack တို့ ပါဝင်သည်။ hyperscale ဗားရှင်းသည် CPU-only ဖြစ်ပြီး AMD ၏ diagram တွင် Helion CPU rack နှင့် Helios GPU rack တွဲဖက်အဖြစ် ပြသထားသည့်အတိုင်း accelerator infrastructure ကို သီးခြား model inference ပြုလုပ်ထားသည်။ enterprise ဗားရှင်းတွင် CPU နှင့် GPU blades များကို rack တစ်ခုတည်းတွင် ထားရှိပြီး GPU စွမ်းရည်ကို 8-GPU MI350P server အတွဲများတွင် ထည့်သွင်းထားသည်။
AMD သည် agent အတန်းအစားများနှင့် ကိုက်ညီသော CPU node အမျိုးအစားသုံးမျိုးမှ hyperscale rack ကို တည်ဆောက်သည်။ Personal agent များသည် 400W တွင် 256-core Venice processors များပါသည့် dense server များပေါ်တွင် လည်ပတ်ပြီး enterprise agent များသည် 600W တွင် 256-core Venice ပါသည့် balanced server များပေါ်တွင် လည်ပတ်ကာ technical agent များသည် 96-core၊ high-frequency Venice အစိတ်အပိုင်းများပါသည့် performance server များပေါ်တွင် လည်ပတ်သည်။ socket တစ်ခုလျှင် 256 cores ဖြင့် 32,768-core အမြင့်ဆုံးပမာဏသည် single rack တွင် processor 128 ခုအထိ လည်ပတ်သည်။
Enterprise rack သည် node role သုံးခုကိုအသုံးပြုပြီး dense 256-core၊ 400W Venice သို့မဟုတ် 96-core Venice ကို 5.0GHz တွင်လည်ပတ်သော agentic “sandbox” node များဖြင့်စတင်ပြီး inference node များသည် FP4 ပေါင်းစပ် 74 petaflops ဖြင့်အဆင့်သတ်မှတ်ထားသော rack တစ်ခုလျှင် 16 ခုအထိ Instinct MI350P GPU များကိုသယ်ဆောင်သည်။ အထွေထွေရည်ရွယ်ချက် node များသည် database နှင့် storage လုပ်ငန်းအတွက် SP7 သို့မဟုတ် SP8 တွင် Venice ကိုအသုံးပြုသည် သို့မဟုတ် နည်းပညာဆိုင်ရာ compute အတွက် Venice-X ကိုအသုံးပြုသည်။ ပေါင်းစပ်ထားသော token router သည် frontier နှင့် open-source မော်ဒယ်များတစ်လျှောက် agent များ၏ model call များကို ညွှန်ကြားပေးသည်။
ထို bins များသည် AMD မှ ဇူလိုင်လတွင် အသေးစိတ်ဖော်ပြထားသော Venice အစိတ်အပိုင်းများနှင့် ကိုက်ညီသည်- 256-core EPYC 9996 နှင့် EPYC 9956၊ 9956 ကို 400W အဆင့်သတ်မှတ်ထားပြီး 96-core EPYC 9686F မြင့်မားသောကြိမ်နှုန်းအပိုင်း။ GPU host node များအတွက်၊ AMD သည် RDIMM သို့မဟုတ် MRDIMM မှတ်ဉာဏ်ပါရှိသော မြင့်မားသောကြိမ်နှုန်း Venice bin ကို Verano နှင့်အတူ စာရင်းပြုစုထားပြီး ၊ ၎င်းသည် AMD သည် ၂၀၂၇ ခုနှစ် ဒုတိယနှစ်ဝက်အတွက် LPDDR မှတ်ဉာဏ်ကို အခြေခံ၍ တည်ဆောက်ထားသော low-power Zen 6 host processor ဖြစ်သည်။
“Agent AI ဆိုတာ တစ်ခုတည်းသော workload မဟုတ်ပါဘူး” ဟု AMD ၏ Compute and Enterprise AI ဆိုင်ရာ အကြီးတန်းဒုတိယဥက္ကဋ္ဌနှင့် အထွေထွေမန်နေဂျာ Dan McNamara က ပြောကြားခဲ့သည်။ AMD သည် EPYC စွမ်းဆောင်ရည်၊ open software နှင့် ပြောင်းလွယ်ပြင်လွယ်ရှိသော rack ဒီဇိုင်းများကို ပေါင်းစပ်ထားခြင်းကြောင့် ဖောက်သည်များသည် ၎င်းတို့၏ agent workloads များနှင့် ကိုက်ညီသော စနစ်များကို ဖြန့်ကျက်နိုင်သည်ဟု McNamara က ပြောကြားခဲ့သည်။
ဂေဟစနစ် ရည်ညွှန်းဒီဇိုင်း ဖွံ့ဖြိုးတိုးတက်ရေး
AMD က Helion configuration များကို ecosystem မိတ်ဖက်များနှင့်အတူ တီထွင်နေပြီး ၂၀၂၆ ခုနှစ် နိုဝင်ဘာလတွင် ရရှိနိုင်ရန် စီစဉ်ထားကြောင်း ပြောကြားခဲ့သည်။ AMD သည် per-rack power ကိန်းဂဏန်းများ၊ hyperscale version အတွက် node အရေအတွက် သို့မဟုတ် ဈေးနှုန်းကို မထုတ်ပြန်ရသေးပါ။ MiTAC၊ Inventec၊ ASUS၊ ASRock Rack နှင့် GIGABYTE တို့သည်လည်း AMD ၏ Helion မိတ်ဖက်စာရင်းတွင် ပါဝင်ပြီး အောက်ဖော်ပြပါ မိတ်ဖက်များသည် AMD နှင့်အတူ Helion အစီအစဉ်များကို ကြေညာခဲ့သည်-
- Cisco- Cisco Compute ၏ SVP နှင့် GM ဖြစ်သူ Jeremy Foster က agentic AI သည် ဖောက်သည်များ လိုအပ်သည့်အရာများကို ၎င်းတို့၏ အခြေခံအဆောက်အအုံမှ စတင်ပြောင်းလဲစေပြီး စနစ်တစ်လျှောက် ချိတ်ဆက်မှု၊ စီမံခန့်ခွဲမှုနှင့် လုံခြုံရေးအထိ ညွှန်ပြနေသည်ဟု ပြောကြားခဲ့သည်။
- Dell နည်းပညာများ Dell သည် Dell PowerRack တွင် Helion ကို Networking နှင့် Storage အတွက် PowerRack အတွက် extension များဖြင့် ပံ့ပိုးပေးသွားမည်ဖြစ်သည်။ Compute and Networking ၏ SVP ဖြစ်သူ Arun Narayanan က ၎င်းကို “agentic compute ကို ကျယ်ကျယ်ပြန့်ပြန့် ဖြန့်ကျက်ရန် ပြီးပြည့်စုံပြီး အတည်ပြုထားသော လမ်းကြောင်း” ဟု ခေါ်ဆိုသည်။
- ဟွန်ဟိုင်း နည်းပညာအုပ်စု (Foxconn): Hon Hai က hyperscale နှင့် enterprise ဖြန့်ကျက်မှုများအတွက် rack-level system integration နှင့် global manufacturing ကို ကိုးကားဖော်ပြခဲ့သည်။
- HPE: Helios ကို ဖြန့်ကျက်ရန် မကြာသေးမီက ဖောက်သည်သဘောတူညီချက်အပေါ် အခြေခံ၍ HPE သည် AMD နှင့်အတူ လေအေးပေးစနစ်နှင့် တိုက်ရိုက်အရည်အေးပေးစနစ် ကွန်ရက်များ အပါအဝင် ပွင့်လင်းသောစံနှုန်းများကို ဆက်လက်တိုးတက်အောင် လုပ်ဆောင်သွားမည်ဟု ပြောကြားခဲ့သည်။
- Lenovo- Lenovo သည် Helion ကို ၎င်း၏ Lenovo Hybrid AI Advantage ကမ်းလှမ်းချက်နှင့် ချိတ်ဆက်ထားသည်။
- QCT: ဥက္ကဋ္ဌ မိုက်ခ်ယန်က ပွင့်လင်းသောပုံစံသည် QCT အား ကွန်ပျူတာဖွဲ့စည်းပုံများကို စိတ်ကြိုက်ပြင်ဆင်ရန် ပြောင်းလွယ်ပြင်လွယ်ရှိစေကြောင်း ပြောကြားခဲ့သည်။
- စူပါမိုက်ခရို: Supermicro သည် ၎င်း၏ Data Center Building Block Solutions (DCBBS) မှတစ်ဆင့် Helion ကို ORv3 နှင့် ကိုက်ညီသော rack-scale architecture အဖြစ် ဈေးကွက်သို့ ယူဆောင်လာမည်ဖြစ်သည်။
- ဝီဝင်း: ဥက္ကဋ္ဌနှင့် အမှုဆောင်အရာရှိချုပ် William Lin က Helion ကို “အေးဂျင့် AI အခြေခံအဆောက်အအုံအတွက် ပွင့်လင်းပြီး ပြောင်းလွယ်ပြင်လွယ်ရှိသော အုတ်မြစ်” ဟု ခေါ်ဆိုသည်။
အမေဇုံ