AWS re:Invent မိန့်ခွန်းပြောကြားစဉ်အတွင်း AWS နှင့် NVIDIA တို့သည် အတုဥာဏ်ရည် (AI) အတွက် သိသာထင်ရှားသော ဖွံ့ဖြိုးတိုးတက်မှုတစ်ခုကို ကြေညာခဲ့သည်။ AWS ၏ CEO Adam Selipsky သည် NVIDIA ၏ CEO Jensen Huang အား ကုမ္ပဏီနှစ်ခု၏ မဟာဗျူဟာမြောက် ပူးပေါင်းဆောင်ရွက်မှု ကြိုးပမ်းမှုများကို ရှင်းလင်းတင်ပြရန် စင်မြင့်ပေါ်သို့ ဖိတ်ကြားခဲ့သည်။ ဤပူးပေါင်းဆောင်ရွက်မှုသည် အဆင့်မြင့်ဆုံး အခြေခံအဆောက်အအုံ၊ ဆော့ဖ်ဝဲနှင့် ဝန်ဆောင်မှုများကို ပေးအပ်ရန်၊ တီထွင်ဖန်တီးနိုင်သော AI ဆန်းသစ်တီထွင်မှုများကို မြှင့်တင်ရန် စီစဉ်ထားသည်။ ဤပူးပေါင်းဆောင်ရွက်မှုသည် NVIDIA ၏ ခေတ်မီနည်းပညာနှင့် AWS ၏ ခိုင်မာသော cloud အခြေခံအဆောက်အအုံတို့ကို ရောနှောထားပြီး AI ဖွံ့ဖြိုးတိုးတက်မှုတွင် ခေတ်သစ်တစ်ခုကို အမှတ်အသားပြုသည်။
NVIDIA GH200 Grace Hopper Superchips များဖြင့် Cloud AI ကို တော်လှန်ပြောင်းလဲခြင်း
ဤပူးပေါင်းဆောင်ရွက်မှု၏ အဓိကအချက်မှာ AWS မှ NVIDIA ၏ GH200 Grace Hopper Superchips များကို cloud ထဲသို့ မိတ်ဆက်ခြင်းဖြစ်ပြီး cloud ဝန်ဆောင်မှုပေးသူများကြားတွင် ပထမဆုံးအကြိမ်ဖြစ်သည်။ ဤ superchips များသည် cloud-based AI computing တွင် သိသာထင်ရှားသော ခုန်ပျံကျော်လွှားမှုကို ကိုယ်စားပြုသည်။ NVIDIA NVLink နှင့် NVSwitch နည်းပညာများကို အသုံးပြု၍ Grace Hopper Superchips ၃၂ ခုကို ချိတ်ဆက်ပေးသည့် GH200 NVL32 multi-node platform ကို Amazon EC2 instance များတွင် ပေါင်းစပ်ထားမည်ဖြစ်သည်။ ဤ Amazon EC2 instance အသစ်များသည် AI၊ HPC နှင့် graphics workloads အမျိုးမျိုးကို ဖြည့်ဆည်းပေးပါသည်။
GH200 Superchip တစ်ခုစီသည် Arm-based Grace CPU နှင့် NVIDIA Hopper architecture GPU တို့ကို မော်ဂျူးတစ်ခုတည်းတွင် ပေါင်းစပ်ထားပြီး EC2 Instance တစ်ခုတည်းသည် terabyte-scale workloads များကို လည်ပတ်ရန်အတွက် shared memory 20TB အထိ ပံ့ပိုးပေးနိုင်စေပါသည်။ ဤ setup သည် ပူးတွဲဖောက်သည်များအား GH200 Superchips ထောင်ပေါင်းများစွာအထိ တိုးချဲ့နိုင်စေပြီး AI သုတေသနနှင့် အပလီကေးရှင်းများအတွက် မကြုံစဖူး တွက်ချက်မှုစွမ်းအားကို ပေးဆောင်ပါသည်။
ထုတ်လုပ်မှုဆိုင်ရာ AI၊ HPC၊ ဒီဇိုင်းနှင့် သရုပ်ဖော်မှုကို အရှိန်မြှင့်ခြင်း
AWS သည် EC2 instance အသစ်သုံးခုကို မိတ်ဆက်လိုက်သည်- NVIDIA H200 Tensor Core GPU များ ဖြင့် စွမ်းအားပေးထားသော P5e instance များကို ကြီးမားသောနှင့် ခေတ်မီသော generative AI နှင့် HPC workloads များအတွက် ဒီဇိုင်းထုတ်ထားသည်။ NVIDIA L4 နှင့် L40S GPU များဖြင့် စွမ်းအားပေးထားသော G6 နှင့် G6e instance များသည် AI fine-tuning၊ inference၊ graphics နှင့် video workloads များအတွက် သင့်လျော်သည်။ G6e instance များသည် generative AI-enabled 3D applications များတည်ဆောက်ရန် platform တစ်ခုဖြစ်သည့် NVIDIA Omniverse ကို အသုံးပြု၍ 3D workflows၊ digital twins နှင့် applications များ တီထွင်ရန်အတွက် အထူးသင့်လျော်ပါသည်။
NVIDIA GH200 ဖြင့် လည်ပတ်သော EC2 instance များတွင် 4.5TB HBM3e memory ပါဝင်မည်ဖြစ်သည်။ ၎င်းသည် လက်ရှိ H100 ဖြင့် လည်ပတ်သော EC2 P5d instance များနှင့် နှိုင်းယှဉ်ပါက 7.2 ဆ တိုးလာခြင်းဖြစ်သည်။ CPU-to-GPU memory interconnect သည် PCIe ထက် 7 ဆ အထိ bandwidth မြင့်မားစွာ ပံ့ပိုးပေးနိုင်မည်ဖြစ်ပြီး chip-to-chip ဆက်သွယ်မှုများကို အပလီကေးရှင်းများအတွက် ရရှိနိုင်သော စုစုပေါင်း memory ကို တိုးချဲ့နိုင်စေမည်ဖြစ်သည်။
GH200 NVL32 ပါသည့် AWS instance များသည် AWS တွင် အရည်အအေးပေးစနစ်ပါဝင်သည့် ပထမဆုံး AI အခြေခံအဆောက်အအုံဖြစ်လာမည်ဖြစ်သည်။ ၎င်းသည် သိပ်သည်းစွာထုပ်ပိုးထားသော server rack များသည် အမြင့်ဆုံးစွမ်းဆောင်ရည်ဖြင့် ထိရောက်စွာလည်ပတ်ကြောင်းသေချာစေရန် ကူညီပေးပါလိမ့်မည်။ GH200 NVL32 ပါသည့် EC2 instance များသည် နောက်မျိုးဆက် EC2 instance များအတွက် အခြေခံပလက်ဖောင်းဖြစ်သော AWS Nitro System မှလည်း အကျိုးကျေးဇူးရရှိမည်ဖြစ်သည်။ Nitro သည် host CPU/GPU မှ လုပ်ဆောင်ချက်များအတွက် အထူးပြု hardware သို့ I/O ကို လျှော့ချပေးပြီး လုပ်ဆောင်နေစဉ်အတွင်း customer code နှင့် data များကိုကာကွယ်ရန် လုံခြုံရေးတိုးမြှင့်ခြင်းဖြင့် ပိုမိုတသမတ်တည်းရှိသော စွမ်းဆောင်ရည်ကို ပေးဆောင်ပါသည်။
AWS ရှိ NVIDIA ဆော့ဖ်ဝဲသည် ဖန်တီးမှုဆိုင်ရာ AI ဖွံ့ဖြိုးတိုးတက်မှုကို မြှင့်တင်ပေးသည်
နောက်ထပ်ဂိမ်းပြောင်းလဲစေမယ့်ကြေငြာချက်တစ်ခုမှာ AWS မှာလည်ပတ်နေတဲ့ NVIDIA software ဟာ generative AI ဖွံ့ဖြိုးတိုးတက်မှုကို မြှင့်တင်ပေးပါလိမ့်မယ်။ NVIDIA NeMo Retriever microservice ဟာ accelerated semantic retrieval ကို အသုံးပြုပြီး တိကျတဲ့ chatbot တွေနဲ့ summarization tool တွေကို ဖန်တီးဖို့ tool တွေကို ပေးဆောင်သွားမှာပါ။
ဆေးဝါးကုမ္ပဏီများသည် Amazon SageMaker တွင် ရရှိနိုင်ပြီး DGX Cloud တွင် ရောက်ရှိလာမည့် NVIDIA BioNeMo ဖြင့် ဆေးဝါးရှာဖွေတွေ့ရှိမှုကို အရှိန်မြှင့်တင်နိုင်ပါသည်။
NVIDIA NeMo framework ကို အသုံးပြု၍ AWS သည် ရွေးချယ်ထားသော နောက်မျိုးဆက် Amazon Titan LLM များကို လေ့ကျင့်ပေးမည်ဖြစ်သည်။ Amazon Robotics သည် လက်တွေ့ကမ္ဘာတွင် ဖြန့်ကျက်ခြင်းမပြုမီ virtual environments များတွင် autonomous warehouse များကို အလိုအလျောက်လုပ်ဆောင်ခြင်း၊ အကောင်းဆုံးဖြစ်အောင်ပြုလုပ်ခြင်းနှင့် စီစဉ်ခြင်းအတွက် digital twins များကို တည်ဆောက်ရန် NVIDIA Omniverse Isaac ကို အသုံးပြုနေပါသည်။
AWS တွင် Host လုပ်ထားသော NVIDIA DGX Cloud: AI လေ့ကျင့်ရေးကို ဒီမိုကရေစီနည်းကျဖြစ်အောင် ပြုလုပ်ခြင်း
ဒီပူးပေါင်းဆောင်ရွက်မှုရဲ့ နောက်ထပ်အဓိကအချက်ကတော့ AWS မှာ NVIDIA DGX Cloud ကို လက်ခံကျင်းပခြင်းပါပဲ။ ဒီ AI-training-as-a-service ဟာ GH200 NVL32 မှာ ပထမဆုံးပါဝင်လာမယ့် ဝန်ဆောင်မှုဖြစ်ပြီး developer တွေကို တစ်ကြိမ်တည်းမှာ အကြီးဆုံး shared memory ကို ပေးစွမ်းနိုင်ပါတယ်။ AWS မှာ DGX Cloud ဟာ ခေတ်မီ generative AI နဲ့ large language models (LLMs) တွေရဲ့ လေ့ကျင့်မှုကို သိသိသာသာ အရှိန်မြှင့်တင်ပေးမှာဖြစ်ပြီး 1 trillion parameters ထက်ကျော်လွန်နိုင်ပါတယ်။ ဒီဝန်ဆောင်မှုက အရင်က computational infrastructure သိသိသာသာရှိသူတွေအတွက်ပဲ ရရှိနိုင်တဲ့ high-end AI training resources တွေကို အသုံးပြုခွင့်ပေးပါတယ်။
Project Ceiba: ကမ္ဘာ့အမြန်ဆုံး GPU စွမ်းအင်သုံး AI စူပါကွန်ပျူတာ တည်ဆောက်ခြင်း
ရည်မှန်းချက်ကြီးမားသော လှုပ်ရှားမှုတစ်ခုအနေဖြင့် AWS နှင့် NVIDIA တို့သည် ကမ္ဘာ့အမြန်ဆုံး GPU စွမ်းအင်သုံး AI စူပါကွန်ပျူတာကို တည်ဆောက်ရန် Project Ceiba တွင် ပူးပေါင်းဆောင်ရွက်လျက်ရှိသည်။ NVIDIA GH200 Superchips ၁၆,၃၈၄ ခု ပါဝင်ပြီး AI ၏ exaflops ၆၅ ခုကို စီမံဆောင်ရွက်နိုင်သည့် ဤစနစ်ကို NVIDIA ၏ သုတေသနနှင့် ဖွံ့ဖြိုးတိုးတက်ရေးအဖွဲ့အတွက် AWS မှ လက်ခံကျင်းပမည်ဖြစ်သည်။ စူပါကွန်ပျူတာသည် NVIDIA ၏ generative AI ဆန်းသစ်တီထွင်မှုကို မြှင့်တင်ပေးမည်ဖြစ်ပြီး ဒစ်ဂျစ်တယ်ဇီဝဗေဒ၊ ရိုဘော့တစ်၊ အလိုအလျောက်ယာဉ်များနှင့် ရာသီဥတုခန့်မှန်းခြင်းကဲ့သို့သော နယ်ပယ်များတွင် သက်ရောက်မှုရှိမည်ဖြစ်သည်။
AWS မှာ AI ဖွံ့ဖြိုးတိုးတက်မှုရဲ့ ခေတ်သစ်တစ်ခု
AWS နှင့် NVIDIA အကြား ဤတိုးချဲ့ပူးပေါင်းဆောင်ရွက်မှုသည် နည်းပညာတိုးတက်မှုတစ်ခုထက်ပိုပါသည်။ ၎င်းသည် cloud-based AI computing တွင် ပုံစံပြောင်းလဲမှုတစ်ခုဖြစ်သည်။ NVIDIA ၏ အဆင့်မြင့် AI အခြေခံအဆောက်အအုံနှင့် AWS ၏ cloud စွမ်းရည်များကို ပေါင်းစပ်ခြင်းဖြင့် ဤပူးပေါင်းဆောင်ရွက်မှုသည် generative AI ကို မတူညီသောစက်မှုလုပ်ငန်းများတွင် မည်သို့တီထွင်ပြီး အသုံးချပုံကို တော်လှန်ပြောင်းလဲရန် သတ်မှတ်ထားသည်။ ဆေးဝါးများမှသည် အလိုအလျောက်ယာဉ်များအထိ၊ ဤပူးပေါင်းဆောင်ရွက်မှု၏ အကျိုးသက်ရောက်မှုများသည် ကျယ်ပြန့်ပြီး ကျယ်ပြန့်ကာ AI နှင့် အခြားအရာများတွင် ဖြစ်နိုင်ခြေအသစ်များကို ဖွင့်လှစ်ရန် အလားအလာကောင်းများရှိသည်။
အမေဇုံ