Computex တွင် AMD ၏ ဥက္ကဋ္ဌနှင့် CEO ဒေါက်တာ Lisa Su က AMD Instinct accelerator မိသားစုတွင် သိသာထင်ရှားသော တိုးတက်မှုများကို ထုတ်ဖော်ပြသခဲ့သည်။ ကုမ္ပဏီသည် AI စွမ်းဆောင်ရည်နှင့် မှတ်ဉာဏ်စွမ်းရည်များတွင် နှစ်စဉ်တိုးတက်မှုများကို ကတိပြုသည့် accelerator များအတွက် တိုးချဲ့ထားသော နှစ်ရှည်လမ်းပြမြေပုံကို ကြေညာခဲ့သည်။ ၎င်းသည် AI နှင့် ဒေတာစင်တာ workloads အတွက် ဆန်းသစ်တီထွင်မှုခေတ်သစ်တစ်ခုကို အမှတ်အသားပြုသည်။
AMD Instinct MI325X Accelerator ကို မိတ်ဆက်ခြင်း
အပ်ဒိတ်လုပ်ထားသော roadmap သည် ၂၀၂၄ ခုနှစ် စတုတ္ထသုံးလပတ်တွင် ရရှိနိုင်မည့် AMD Instinct MI325X accelerator အသစ်ဖြင့် စတင်သည်။ ဤ accelerator တွင် 288GB HBM3E memory နှင့် တစ်စက္ကန့်လျှင် 6 terabytes memory bandwidth ပါရှိသည်။ ၎င်းသည် Universal Baseboard server ဒီဇိုင်းကို အသုံးပြုထားပြီး AMD Instinct MI300 စီးရီးနှင့် တွဲဖက်အသုံးပြုနိုင်ကြောင်း သေချာစေသည်။
MI325X သည် လုပ်ငန်းနယ်ပယ်တွင် ဦးဆောင်နေသော မှတ်ဉာဏ်စွမ်းရည်နှင့် bandwidth ကို ကြွားဝါပြီး ပြိုင်ဘက်များထက် ၂ ဆ နှင့် ၁.၃ ဆ အသီးသီး ပိုမိုကောင်းမွန်စွာ စွမ်းဆောင်ရည်ရှိသည်။ ၎င်းသည် ပြိုင်ဘက်များထက် ၁.၃ ဆ ပိုမိုကောင်းမွန်သော တွက်ချက်မှုစွမ်းဆောင်ရည်ကို ပေးစွမ်းပြီး AI workloads များအတွက် အစွမ်းထက်သောကိရိယာတစ်ခု ဖြစ်စေသည်။
အနာဂတ်မျိုးဆက်များ- MI350 နှင့် MI400 စီးရီးများ
MI325X ပြီးနောက် AMD CDNA 4 ဗိသုကာပုံစံအသစ်ဖြင့် စွမ်းအားပေးထားသော AMD Instinct MI350 စီးရီးကို ၂၀၂၅ ခုနှစ်တွင် မိတ်ဆက်ရန် မျှော်လင့်ရသည်။ ဤစီးရီးသည် AI inference စွမ်းဆောင်ရည်တွင် သိသိသာသာ ခုန်ပျံကျော်လွှားမှုကို ယူဆောင်လာမည်ဖြစ်ပြီး AMD Instinct MI300 စီးရီးနှင့် နှိုင်းယှဉ်ပါက ၃၅ ဆ အထိ မြင့်တက်လာမည်ဟု ခန့်မှန်းထားသည်။ MI350X accelerator သည် Universal Baseboard ဒီဇိုင်းကို ထိန်းသိမ်းထားပြီး အဆင့်မြင့် 3nm လုပ်ငန်းစဉ်နည်းပညာကို အသုံးပြုထားပြီး FP4 နှင့် FP6 AI datatype များကို ပံ့ပိုးပေးကာ HBM3E မှတ်ဉာဏ် 288GB အထိ ပါရှိမည်ဖြစ်သည်။
ရှေ့ဆက်ကြည့်လျှင် AMD CDNA “Next” ဗိသုကာဖြင့် စွမ်းအားပေးထားသော AMD Instinct MI400 စီးရီးကို ၂၀၂၆ ခုနှစ်တွင် ထွက်ရှိရန် စီစဉ်ထားသည်။ ဤစီးရီးသည် ကြီးမားသော AI လေ့ကျင့်မှုနှင့် ကောက်ချက်ချခြင်းလုပ်ငန်းများအတွက် စွမ်းဆောင်ရည်နှင့် ထိရောက်မှုကို မြှင့်တင်ရန် ဒီဇိုင်းထုတ်ထားသော နောက်ဆုံးပေါ် အင်္ဂါရပ်များနှင့် စွမ်းရည်များကို မိတ်ဆက်ပေးမည်ဖြစ်သည်။
AMD Instinct MI300X Accelerator များ၏ လက်ခံကျင့်သုံးမှုနှင့် သက်ရောက်မှု
AMD Instinct MI300X အရှိန်မြှင့်စက်များကို Microsoft Azure၊ Meta၊ Dell Technologies၊ HPE၊ Lenovo နှင့် အခြားသူများ အပါအဝင် အဓိကမိတ်ဖက်များနှင့် ဖောက်သည်များထံမှ ခိုင်မာသောလက်ခံမှုကို မြင်တွေ့ခဲ့ရသည်။ AMD တွင် Data Center Accelerated Compute ၏ ကော်ပိုရိတ်ဒုတိယဥက္ကဋ္ဌ Brad McCredie က MI300X အရှိန်မြှင့်စက်များ၏ ထူးခြားသောစွမ်းဆောင်ရည်နှင့် တန်ဖိုးအဆိုပြုချက်ကို မီးမောင်းထိုးပြခဲ့ပြီး AI ဆန်းသစ်တီထွင်မှုကို မောင်းနှင်ရာတွင် ၎င်းတို့၏ အရေးပါသောအခန်းကဏ္ဍမှ ပါဝင်ကြောင်း ထောက်ပြခဲ့သည်။ သူက “ကျွန်ုပ်တို့၏ နှစ်စဉ်ထုတ်ကုန်များ၏ အပ်ဒိတ်လုပ်ထားသော အစီအစဉ်ဖြင့်၊ ကျွန်ုပ်တို့သည် ဆန်းသစ်တီထွင်မှုအရှိန်အဟုန်တွင် အဆက်မပြတ်ရှိနေပြီး၊ AI လုပ်ငန်းကို ဦးဆောင်မှုစွမ်းရည်နှင့် စွမ်းဆောင်ရည်ကို ပံ့ပိုးပေးနေပြီး ကျွန်ုပ်တို့၏ဖောက်သည်များသည် ဒေတာစင်တာ AI လေ့ကျင့်ရေးနှင့် ကောက်ချက်ချမှု၏ နောက်ထပ်ဆင့်ကဲဖြစ်စဉ်ကို မောင်းနှင်ရန် မျှော်လင့်ကြသည်” ဟု ပြောကြားခဲ့သည်။
AMD AI ဆော့ဖ်ဝဲလ် ဂေဟစနစ်တွင် တိုးတက်မှုများ
AMD ROCm 6 open software stack သည် ဆက်လက်ရင့်ကျက်နေပြီး AMD Instinct MI300X accelerators များသည် လူကြိုက်များသော large language models (LLMs) အတွက် အထင်ကြီးလောက်သော စွမ်းဆောင်ရည်ကို ပေးစွမ်းနိုင်စေပါသည်။ AMD Instinct MI300X accelerators ရှစ်ခုနှင့် Meta Llama-3 70B ကို အသုံးပြုသော ROCm 6 ကိုအသုံးပြုသည့် server များတွင်၊ ဖောက်သည်များသည် ပြိုင်ဘက်များနှင့် နှိုင်းယှဉ်ပါက 1.3x ပိုမိုကောင်းမွန်သော inference စွမ်းဆောင်ရည်နှင့် token generation ကို ရရှိနိုင်ပါသည်။
ထို့အပြင်၊ ROCm 6 ပါသည့် AMD Instinct MI300X accelerator တစ်ခုတည်းသည် Mistral-7B တွင် inference performance နှင့် token generation throughput တွင် ပြိုင်ဘက်များထက် 1.2x ပိုမိုကောင်းမွန်နိုင်သည်။
AMD ၏ AI မော်ဒယ်များအတွက် အကြီးဆုံး repository ဖြစ်သော Hugging Face နှင့် ပူးပေါင်းဆောင်ရွက်မှုသည် ဂေဟစနစ်၏ ကြံ့ခိုင်မှုကို ပိုမိုအလေးပေးဖော်ပြသည်။ Hugging Face သည် AMD Instinct MI300X accelerators များတွင် ချောမွေ့သော လုပ်ဆောင်နိုင်စွမ်းကို သေချာစေရန် ၎င်းတို့၏ အလွန်ရေပန်းစားသော မော်ဒယ် ၇၀၀,၀၀၀ ကို ညတိုင်း စမ်းသပ်သည်။ AMD သည် PyTorch၊ TensorFlow နှင့် JAX ကဲ့သို့သော လူကြိုက်များသော AI frameworks များဖြင့် ၎င်း၏ upstream လုပ်ငန်းကိုလည်း ဆက်လက်လုပ်ဆောင်နေပြီး ကျယ်ပြန့်သော တွဲဖက်အသုံးပြုနိုင်မှုနှင့် စွမ်းဆောင်ရည် မြှင့်တင်မှုကို သေချာစေသည်။
AMD လမ်းပြမြေပုံ အဓိကအချက်များ
အဓိကမိန့်ခွန်းတွင် AMD သည် AI compute အတွက် တိုးပွားလာသော ၀ယ်လိုအားကို ဖြည့်ဆည်းရန်အတွက် AMD Instinct accelerator roadmap အတွက် အပ်ဒိတ်လုပ်ထားသော နှစ်စဉ် cadence ကို ထုတ်ဖော်ပြသခဲ့သည်။ ၎င်းသည် AMD Instinct accelerators များသည် နောက်မျိုးဆက် frontier AI မော်ဒယ်များ ဖွံ့ဖြိုးတိုးတက်မှုကို ဆက်လက်မောင်းနှင်နေမည်ဖြစ်ကြောင်း သေချာစေသည်။
- AMD Instinct MI325X အရှိန်မြှင့်စက်၂၀၂၄ ခုနှစ် စတုတ္ထသုံးလပတ်တွင် စတင်ရောင်းချမည့် ဤ accelerator တွင် HBM3E မှတ်ဉာဏ် 288GB၊ မှတ်ဉာဏ် bandwidth တစ်စက္ကန့်လျှင် 6 terabytes နှင့် လုပ်ငန်းတွင်း ဦးဆောင်မှတ်ဉာဏ်စွမ်းရည်နှင့် bandwidth တို့ ပါဝင်မည်ဖြစ်သည်။ ၎င်းသည် ပြိုင်ဘက်များနှင့် နှိုင်းယှဉ်ပါက 1.3 ဆ ပိုမိုကောင်းမွန်သော compute စွမ်းဆောင်ရည်ကို ပေးစွမ်းသည်။
- AMD Instinct MI350 စီးရီး၂၀၂၅ ခုနှစ်တွင် MI350X accelerator သည် AMD CDNA 4 ဗိသုကာကို အခြေခံထားပြီး အဆင့်မြင့် 3nm လုပ်ငန်းစဉ်နည်းပညာကို အသုံးပြုမည်ဖြစ်သည်။ ၎င်းသည် FP4 နှင့် FP6 AI datatype များကို ပံ့ပိုးပေးပြီး HBM3E မှတ်ဉာဏ် 288GB အထိ ပါဝင်မည်ဖြစ်သည်။
- AMD Instinct MI400 စီးရီး၂၀၂၆ ခုနှစ်တွင် စီစဉ်ထားသည့် ဤစီးရီးသည် AMD CDNA “Next” ဗိသုကာကို အသုံးချပြီး AI လေ့ကျင့်မှုနှင့် ကောက်ချက်ချမှုစွမ်းဆောင်ရည်ကို မြှင့်တင်ရန် အင်္ဂါရပ်အသစ်များနှင့် စွမ်းရည်များကို မိတ်ဆက်ပေးမည်ဖြစ်သည်။
ကျယ်ပြန့်သော စက်မှုလုပ်ငန်း လက်ခံကျင့်သုံးမှု
AMD Instinct MI300X accelerators များအတွက် ဝယ်လိုအားသည် ဆက်လက်တိုးပွားနေပြီး၊ မိတ်ဖက်များစွာနှင့် ဖောက်သည်များသည် ၎င်းတို့၏ တောင်းဆိုမှုများသော AI workloads များအတွက် ဤ accelerators များကို အသုံးချနေကြသည်။
- မိုက်ကရိုဆော့ဖ AzureAzure OpenAI ဝန်ဆောင်မှုများနှင့် Azure ND MI300X V5 virtual machine အသစ်များအတွက် MI300X accelerators များကို အသုံးပြုခြင်း။
- Dell က Technologies က: Enterprise AI workloads များအတွက် PowerEdge XE9680 တွင် MI300X accelerators များကို ပေါင်းစပ်ခြင်း။
- SupermicroAMD Instinct အရှိန်မြှင့်ကိရိယာများ ပါဝင်သော ဖြေရှင်းချက်များစွာ ပံ့ပိုးပေးခြင်း။
- Lenovo ကThinkSystem SR685a V3 ဖြင့် Hybrid AI ဆန်းသစ်တီထွင်မှုကို စွမ်းအားပေးပါသည်။
- HPEHPE Cray XD675 တွင် AI workloads များကို မြှင့်တင်ရန် MI300X accelerators များကို အသုံးပြုခြင်း။
AMD ၏ တိုးချဲ့ထားသော Instinct accelerator roadmap ကို Computex 2024 တွင် မိတ်ဆက်ခြင်းသည် ကုမ္ပဏီ၏ AI နှင့် data center မဟာဗျူဟာတွင် သိသာထင်ရှားသော မှတ်တိုင်တစ်ခုဖြစ်သည်။ နှစ်စဉ်ထုတ်ကုန် အပ်ဒိတ်များ၊ စွမ်းဆောင်ရည် မြှင့်တင်ခြင်းနှင့် ကျယ်ပြန့်သော စက်မှုလုပ်ငန်း အသုံးပြုမှုအတွက် ကတိကဝတ်ဖြင့် AMD Instinct accelerators များသည် နောက်မျိုးဆက် AI ဆန်းသစ်တီထွင်မှုကို မောင်းနှင်ရန် အသင့်ဖြစ်နေပါပြီ။
အမေဇုံ