ယနေ့တွင် Amazon Web Services, Inc. (AWS) သည် GPU ဖြင့် လည်ပတ်သော Amazon Elastic Compute Cloud (Amazon EC2) instance အသစ်ဖြစ်သည့် G4 Instance ကို ယေဘုယျအားဖြင့် ရရှိနိုင်ပြီဖြစ်ကြောင်း ကြေညာခဲ့သည်။ ဤ instance အသစ်ကို အပလီကေးရှင်းများအတွက် လုပ်ငန်းနယ်ပယ်တွင် အကုန်အကျအသက်သာဆုံး ML inference ကို ပေးစွမ်းနေစဉ်တွင် စက်သင်ယူမှု (ML) inferencing ကို အရှိန်မြှင့်တင်ရန် ဒီဇိုင်းထုတ်ထားသည်။ ဤ instance အသစ်သည် ဂရပ်ဖစ်များစွာပါဝင်သော workloads များအတွက်လည်း ကုန်ကျစရိတ်သက်သာသော နည်းလမ်းဖြင့် အလွန်ကောင်းမွန်ပြီး remote graphics workstations၊ video transcoding၊ photo-realistic design နှင့် cloud တွင် game streaming ကဲ့သို့သော ဂရပ်ဖစ်များစွာပါဝင်သော အပလီကေးရှင်းများကို တည်ဆောက်ခြင်းနှင့် လည်ပတ်ခြင်းအတွက် အသင့်တော်ဆုံးဖြစ်သည်။
AWS က ML မှာ compute လိုအပ်တဲ့ လုပ်ငန်းစဉ်နှစ်ခု ပါဝင်တယ်လို့ ဖော်ပြထားပါတယ် - လေ့ကျင့်မှုနဲ့ inference ပါ။ လေ့ကျင့်မှုမှာ ခန့်မှန်းချက်တွေ ပြုလုပ်နိုင်တဲ့ မော်ဒယ်တစ်ခု ဖန်တီးဖို့ labeled data တွေကို အသုံးပြုတာ ပါဝင်ပြီး၊ ပါဝါကြီးတဲ့ processor တွေနဲ့ မြန်နှုန်းမြင့် networking လိုအပ်ပြီး compute-intensive task တစ်ခု ဖြစ်ပါတယ်။ Inference ဆိုတာ လေ့ကျင့်ထားတဲ့ machine learning model ကို အသုံးပြုပြီး ခန့်မှန်းချက်တွေ ပြုလုပ်တဲ့ လုပ်ငန်းစဉ်ဖြစ်ပြီး၊ compute job အသေးစားတွေကို တစ်ပြိုင်နက်တည်း လုပ်ဆောင်ဖို့ လိုအပ်ပါတယ်။ ဒီအလုပ်ဟာ NVIDIA ရဲ့ ပါဝါကြီးတဲ့ GPU တွေအတွက် အသင့်တော်ဆုံးပါပဲ။ AWS ဟာ ML အတွက် instance တွေအတွက် မစိမ်းပါဘူး။ လွန်ခဲ့တဲ့ နှစ်နှစ်က P3 instance ကို ပထမဆုံး မိတ်ဆက်ခဲ့ပါတယ်။ ဒါဟာ ကြီးမားတဲ့ ခြေလှမ်းတစ်ခု ဖြစ်ပေမယ့် inferencing က ML workloads တွေအတွက် operational cost အများစုကို ယူထားပါတယ်။
ယင်းကိုဖြေရှင်းရန်အတွက် AWS သည် နောက်ဆုံးပေါ်မျိုးဆက် NVIDIA T4 GPU များ၊ custom 2nd Generation Intel Xeon Scalable (Cascade Lake) processors များ၊ networking throughput 100 Gbps အထိနှင့် local NVMe storage 1.8TB အထိကို အသုံးပြုထားသည့် G4 instance အသစ်များကို ထုတ်ပြန်ခဲ့ပြီး machine learning inference အတွက် အကုန်အကျအသက်သာဆုံး GPU instance များကို ပေးအပ်ခဲ့သည်။ G4 instance အသစ်များသည် ရောနှောထားသော တိကျမှုစွမ်းဆောင်ရည် 65 TFLOP အထိ ပေးစွမ်းနိုင်ပြီး inferencing အတွက် အလွန်ကောင်းမွန်ပါသည်။ G4 များကို train လုပ်ရန် အချိန်နည်းပါးသော အသေးစားနှင့် entry-level machine learning training အလုပ်များအတွက်လည်း ကုန်ကျစရိတ်သက်သာစွာဖြင့် အသုံးပြုနိုင်ပါသည်။ graphics-intensive workloads များအတွက် instance အသစ်များသည် ယခင်မျိုးဆက် G3 instance များထက် graphics စွမ်းဆောင်ရည် 1.8x အထိ တိုးလာပြီး video transcoding စွမ်းရည် 2x အထိ ရှိလာပါသည်။
အသုံးပြုနိုင်မှု
G4 instance များကို On-Demand၊ Reserved Instances သို့မဟုတ် Spot Instances အဖြစ် ဝယ်ယူနိုင်ပါသည်။
အမေဇုံ