NVIDIA မှ Jensen Huang သည် ယခုအပတ် ထိုင်ဝမ်တွင်ကျင်းပသော Computex 2023 တွင် တက်ရောက်နေပြီး generative AI applications၊ data analytics နှင့် recommender systems များအတွက် next-generation မော်ဒယ်များ ဖွံ့ဖြိုးတိုးတက်ရေးကို အလေးပေးသည့် ထုတ်ကုန်အသစ်ကြေငြာချက်များဖြင့် ပြည့်နှက်နေသော keynote တစ်ခုကို ပြောကြားခဲ့ပါသည်။ NVIDIA GH200 Grace Hopper Superchips များဖြင့် စွမ်းအားပေးထားသော NVIDIA DGX supercomputer နှင့် NVIDIA NVLink switch system တို့သည် အဓိကအခန်းကဏ္ဍမှ ပါဝင်ခဲ့သည်။
NVIDIA DGX GH200 သည် NVLink Interconnect နည်းပညာကို NVLink Switch System နှင့် အသုံးပြု၍ GH200 Superchips ၂၅၆ ခုကို GPU တစ်ခုတည်းအဖြစ် ပေါင်းစပ်ပြီး စွမ်းဆောင်ရည် ၁ exaflop နှင့် shared memory ၁၄၄ terabytes ပေးစွမ်းသည်။ ၎င်းသည် NVIDIA DGX A100 စနစ်တစ်ခုတည်းထက် မှတ်ဉာဏ် ၅၀၀ ဆ နီးပါးပိုများသည်။
NVLink နည်းပညာသည် AI ကို အတိုင်းအတာတစ်ခုအထိ ချဲ့ထွင်ပေးသည်
GH200 Superchips များသည် Arm-based NVIDIA Grace CPU နှင့် NVIDIA H100 Tensor Core GPU တို့ကို NVLink-C2C chip interconnects များကို အသုံးပြု၍ ပေါင်းစပ်ထားပြီး ရိုးရာ CPU-to-GPU PCIe ချိတ်ဆက်မှု မလိုအပ်တော့ပါ။ GPU နှင့် CPU ကြားရှိ bandwidth သည် နောက်ဆုံးပေါ် PCIe နည်းပညာနှင့် နှိုင်းယှဉ်ပါက ၇ ဆ တိုးလာပြီး interconnect power သုံးစွဲမှုကို ၅ ဆ ကျော် လျှော့ချပေးကာ DGX GH200 စူပါကွန်ပျူတာများအတွက် 600GB Hopper architecture GPU building block ကို ပံ့ပိုးပေးပါသည်။
ဤသည်မှာ Grace Hopper Superchips များကို NVLink Switch System နှင့် တွဲဖက်အသုံးပြုသည့် ပထမဆုံး စူပါကွန်ပျူတာဖြစ်သည်။ ဤချိတ်ဆက်မှုအသစ်သည် DGX GH200 စနစ်ရှိ GPU အားလုံးကို တစ်ခုတည်းအဖြစ် လုပ်ဆောင်နိုင်စေပြီး NVLink နှင့် တစ်ခုတည်းသော GPU အဖြစ် ပေါင်းစပ်ထားသည့် GPU ရှစ်ခု ကန့်သတ်ချက်နှင့် နှိုင်းယှဉ်ပါက စွမ်းဆောင်ရည်ကို မထိခိုက်စေပါ။ DGX GH200 ဗိသုကာသည် ယခင်မျိုးဆက်ထက် bandwidth ၁၀ ဆ ပိုမိုပေးစွမ်းပြီး တစ်ခုတည်းသော GPU ကို ပရိုဂရမ်ရေးသားခြင်း၏ ရိုးရှင်းမှုဖြင့် ကြီးမားသော AI စူပါကွန်ပျူတာ၏ စွမ်းအားကို ပေးစွမ်းသည်။
AI ရှေ့ဆောင်များ သုတေသနကိရိယာအသစ်များ ရရှိ
စူပါကွန်ပျူတာအသစ်ကို ပထမဆုံးအသုံးပြုခွင့်ရမယ့် ကုမ္ပဏီတွေကတော့ Google Cloud၊ Meta နဲ့ Microsoft တို့ဖြစ်ပြီး သူတို့ရဲ့ AI workload တွေကို စူးစမ်းလေ့လာနိုင်စေမှာပါ။ NVIDIA ဟာ DGX GH200 ဒီဇိုင်းကို cloud service provider တွေနဲ့ တခြား hyperscaler တွေဆီ blueprint အနေနဲ့ ပေးအပ်ဖို့ ရည်ရွယ်ထားပြီး သူတို့ရဲ့ infrastructure အတွက် စိတ်ကြိုက်ပြင်ဆင်နိုင်အောင် လုပ်ဆောင်ပေးသွားမှာပါ။
NVIDIA သုတေသီများနှင့် ဖွံ့ဖြိုးတိုးတက်ရေးအဖွဲ့များသည် DGX GH200 စနစ်လေးခုပါရှိသော NVIDIA Helios စူပါကွန်ပျူတာအသစ်ကို အသုံးပြုခွင့်ရရှိမည်ဖြစ်သည်။ Helios တွင် Grace Hopper Superchips ၁၀၂၄ ခုပါဝင်မည်ဖြစ်ပြီး ယခုနှစ်ကုန်တွင် အွန်လိုင်းအသုံးပြုနိုင်ရန် မျှော်လင့်ရသည်။ Helios စူပါကွန်ပျူတာရှိ စနစ်တစ်ခုစီကို NVIDIA Quantum-2 InfiniBand ကွန်ရက်နှင့် ချိတ်ဆက်ထားပြီး AI မော်ဒယ်ကြီးများကို လေ့ကျင့်ပေးရန်အတွက် 400Gb/s bandwidth data throughput အထိ ရှိပါသည်။
ပေါင်းစပ်ထားပြီး ရည်ရွယ်ချက်ရှိရှိ တည်ဆောက်ထားသည်
DGX GH200 စူပါကွန်ပျူတာများတွင် အကြီးမားဆုံး AI နှင့် data analytics workloads များကို ပံ့ပိုးပေးသည့် turnkey၊ full-stack solution ပေးသည့် NVIDIA software ပါဝင်မည်ဖြစ်သည်။ NVIDIA Base Command software တွင် AI workflow management၊ enterprise-grade cluster management၊ compute၊ storage နှင့် network infrastructure များကို အရှိန်မြှင့်ရန် libraries များနှင့် AI workloads များကို လည်ပတ်ရန်အတွက် အကောင်းဆုံးဖြစ်အောင်ပြုလုပ်ထားသော system software များကို ပံ့ပိုးပေးသည်။ NVIDIA AI Enterprise software တွင် generative AI၊ computer vision၊ speech AI နှင့် အခြားအရာများအပါအဝင် production AI ၏ ဖွံ့ဖြိုးတိုးတက်မှုနှင့် ဖြန့်ကျက်မှုကို ချောမွေ့စေရန် framework ၁၀၀ ကျော်၊ ပြန်လည်လေ့ကျင့်ထားသော model များနှင့် development tools များကို ပံ့ပိုးပေးသည့် development tools များ ပါဝင်မည်ဖြစ်သည်။
အသုံးပြုနိုင်မှု
NVIDIA DGX GH200 စူပါကွန်ပျူတာများကို ယခုနှစ်ကုန်တွင် ရရှိနိုင်မည်ဟု မျှော်လင့်ရသည်။
အမေဇုံ