Qualcomm Technologies နှင့် Amazon တို့သည် AWS ၏ AI ဒေတာစင်တာများအတွက် AI inference ကို အဓိကပစ်မှတ်အဖြစ် အသုံးပြု၍ စိတ်ကြိုက် silicon ကို အတိုင်းအတာတစ်ခုအထိ ပေးအပ်ရန်အတွက် မျိုးဆက်များစွာ ပူးပေါင်းဆောင်ရွက်မှုတစ်ခုသို့ ဝင်ရောက်ခဲ့ကြသည်။ သဘောတူညီချက်တွင် Qualcomm ၏ ပါဝါထိရောက်သော processing၊ silicon ဒီဇိုင်းနှင့် system-level integration တို့ကို Amazon ၏ AI အခြေခံအဆောက်အအုံနှင့် တွဲဖက်ထားပြီး hyperscale volume တွင် inference ကို လည်ပတ်ခြင်းနှင့်အတူ ပါလာသော compute၊ memory bandwidth၊ networking နှင့် စွမ်းအင်ကန့်သတ်ချက်များကို ရည်ရွယ်ပါသည်။ ကုမ္ပဏီနှစ်ခုလုံးက တိကျသော အစိတ်အပိုင်းများ၊ ပို့ဆောင်မည့်ရက်စွဲများ သို့မဟုတ် ငွေကြေးဆိုင်ရာ စည်းကမ်းချက်များကို မဖော်ပြခဲ့ပါ။
စိတ်ကြိုက်ဆီလီကွန်နှင့် 1.6T Optical ချိတ်ဆက်မှု
compute silicon အပြင်၊ ကုမ္ပဏီနှစ်ခုသည် Amazon ၏ဒေတာစင်တာကွန်ရက်များအတွက် မြင့်မားသောစွမ်းဆောင်ရည်ရှိသော optical ချိတ်ဆက်မှုကို ပူးတွဲတီထွင်နေကြပြီး 1.6T အထိရောက်ရှိနိုင်သော ဖြေရှင်းချက်များနှင့် အနာဂတ်မျိုးဆက်များအတွက် လမ်းပြမြေပုံပေါ်တွင် ရှိနေသည်။ ထိုလုပ်ငန်းသည် Qualcomm ၏ မြန်နှုန်းမြင့် SerDes နှင့် optical DSP နည်းပညာများကို အသုံးပြုထားပြီး၊ ကုမ္ပဏီသည် ဇွန်လ ရင်းနှီးမြှုပ်နှံသူနေ့တွင် Dragonfly C1000 CPU နှင့် AI300 accelerator နှင့်အတူ ချမှတ်ခဲ့သော ချိတ်ဆက်မှုအစုစုနှင့် အတူတူပင်ဖြစ်သည်။ ရည်ရွယ်ချက်မှာ inference clusters များသည် rack များတွင် တိုးချဲ့လာသည်နှင့်အမျှ ကွန်ရက် bandwidth သည် bottleneck မဖြစ်စေရန်ဖြစ်သည်။
ဆက်ဆံရေးသည်လည်း အခြားလမ်းကြောင်းတစ်ခုသို့ ဦးတည်နေပါသည်။ Qualcomm သည် ၎င်း၏ အီလက်ထရွန်းနစ်ဒီဇိုင်းအလိုအလျောက် (EDA) အလုပ်ပမာဏများအတွက် Amazon Bedrock အပါအဝင် AWS AI အခြေခံအဆောက်အအုံကို ပိုမိုကောင်းမွန်စွာအသုံးပြုရန် စီစဉ်ထားပြီး ချစ်ပ်ဒီဇိုင်းစက်ဝန်းများကို တိုတောင်းစေရန် ရည်ရွယ်ထားသည်။ ၎င်းသည် AWS compute ကို Qualcomm မှ Amazon အတွက် တည်ဆောက်ပေးမည့် ဆီလီကွန်အတွက် မော်ဒယ်လ်နှင့် အတည်ပြုခြင်းလုပ်ငန်း၏ နောက်ကွယ်တွင် ရှိနေသည်။
သဘောတူညီချက်က ဘာကိုညွှန်ပြနေလဲ
နှစ်ဖက်စလုံးမှ အမှုဆောင်အရာရှိများသည် တွက်ချက်မှုနှင့် ချိတ်ဆက်မှု အတူတကွ တိုးတက်စေရန် သဘောတူညီချက်ကို ရေးဆွဲခဲ့ကြသည်။ “AI ၀ယ်လိုအား မြင့်တက်လာသည်နှင့်အမျှ ဒေတာစင်တာ အခြေခံအဆောက်အအုံသည် ပိုမိုထိရောက်မှုဖြင့် ပိုမိုကောင်းမွန်သော စွမ်းဆောင်ရည်ကို ပေးဆောင်ရန်အတွက် ကွန်ပျူတာနှင့် ချိတ်ဆက်မှု နှစ်မျိုးလုံးတွင် တိုးတက်မှုများ လိုအပ်လာမည်ဖြစ်သည်” ဟု Qualcomm Incorporated ၏ ဥက္ကဋ္ဌနှင့် CEO ဖြစ်သူ Cristiano Amon က ပြောကြားခဲ့သည်။ AWS ၏ ဒုတိယဥက္ကဋ္ဌ Prasad Kalyanaraman က ပူးပေါင်းဆောင်ရွက်မှုသည် “ခိုင်မာသော မိတ်ဖက်အဖွဲ့အစည်း၏ အုတ်မြစ်ပေါ်တွင် တည်ဆောက်ထားသည်” နှင့် “စိတ်ကြိုက် ဆီလီကွန်နှင့် အဆင့်မြင့် ချိတ်ဆက်မှုတွင် အတူတကွ လုပ်ဆောင်ခြင်းဖြင့် ကျွန်ုပ်တို့၏ ဖောက်သည်များအတွက် ပိုမိုစွမ်းဆောင်ရည်မြင့်မား၊ ထိရောက်ပြီး ကုန်ကျစရိတ်သက်သာသော အခြေခံအဆောက်အအုံကို ပေးအပ်နေပါသည်” ဟု ပြောကြားခဲ့သည်။
Qualcomm က ဒေတာစင်တာထဲကို အပြင်းအထန် တွန်းအားပေးနေချိန်မှာပဲ ဒီကြေငြာချက် ထွက်ပေါ်လာတာပါ။ ဇွန်လ ရင်းနှီးမြှုပ်နှံသူနေ့မှာ CPU၊ AI200၊ AI250 နဲ့ AI300 inference accelerators တွေရဲ့ roadmap နဲ့ connectivity portfolio တစ်ခုကို စားပွဲပေါ်မှာ တင်ခဲ့ပြီး ကုမ္ပဏီဟာ ဇူလိုင်လမှာ Modular ကို ဝယ်ယူမှုကို အပြီးသတ်ခဲ့ပြီး အဲဒီ silicon ကို CUDA ပေါ်မှာ မှီခိုမနေစေတဲ့ software stack တစ်ခု ပေးခဲ့ပါတယ်။ AWS ဟာ Annapurna Labs မှတစ်ဆင့် သူ့ရဲ့ကိုယ်ပိုင် Trainium နဲ့ Inferentia accelerators တွေကို ဒီဇိုင်းထုတ်ပြီးသားဖြစ်တာကြောင့် Qualcomm-built silicon က အဲဒီအစိတ်အပိုင်းတွေနဲ့ ဘယ်နေရာမှာ ကိုက်ညီလဲဆိုတာ မေးခွန်းထုတ်စရာပါ။ ထုတ်ပြန်ချက်မှာ မဖော်ပြထားပေမယ့် အကြီးဆုံး cloud provider ကနေ multi-generation ကတိကဝတ်ဟာ Qualcomm ရဲ့ ဒေတာစင်တာလုပ်ငန်းက ယခုအချိန်အထိ ပြသခဲ့တဲ့ အားအကောင်းဆုံးဖောက်သည်အချက်ပြမှုပါပဲ။
အမေဇုံ