NVIDIA နှင့် Oracle တို့သည် NVIDIA Vera Rubin NVL72 စနစ်များ ဖြင့် Oracle Cloud Infrastructure (OCI) Superclusters များကို multi-gigawatt scale အထိ တိုးချဲ့ရန် စီစဉ်ထား ပြီး Vera Rubin NVL72 နှင့် NVIDIA Vera CPU နှစ်မျိုးလုံးကို OCI တွင် ယေဘုယျအားဖြင့် ရရှိနိုင်ပါပြီ။ ကုမ္ပဏီများသည် Oracle AI World တွင် နှစ်ခုလုံးကို ကြေညာခဲ့သည်။ တိုးချဲ့မှုသည် အစီအစဉ်တစ်ခုဖြစ်သည်။ ယေဘုယျရရှိနိုင်မှုသည် ဖောက်သည်များ ယခုဝယ်ယူနိုင်သည့် အစိတ်အပိုင်းဖြစ်ပြီး GPU-heavy work of training and serving frontier models နှင့် CPU-heavy work agent များသည် model calls များအကြား လုပ်ဆောင်သည့် training နှင့် serving အတွက် ရည်ရွယ်ပြီး CPU နှင့် GPU စွမ်းရည်ကို သီးခြားစီ ချိန်ညှိထားသည်။
ကုမ္ပဏီများက ပေးဆောင်သော သက်သေအထောက်အထားမှာ NVIDIA Blackwell GPU ၁၀၀,၀၀၀ ကျော်ပါသည့် OCI Supercluster ပေါ်တွင် Abilene တွင် GPT-6 Astra ကို လေ့ကျင့်ပေးပြီး ဝန်ဆောင်မှုပေးခဲ့သော OpenAI ဖြစ်သည်။ “ကျွန်ုပ်တို့၏ frontier မော်ဒယ်များ တိုးတက်လာသည်နှင့်အမျှ အရှိန်အဟုန်ကို လိုက်မီနိုင်သော အခြေခံအဆောက်အအုံများ လိုအပ်ပါသည်” ဟု OpenAI ၏ compute infra အင်ဂျင်နီယာခေါင်းဆောင် Sreekanth Pothanis က ပြောကြားခဲ့သည်။ “OCI ရှိ NVIDIA Vera Rubin သည် မော်ဒယ်လေ့ကျင့်မှုကို အရှိန်မြှင့်တင်ရန်နှင့် တိုးမြင့်လာသော AI workloads များကို ဝန်ဆောင်မှုပေးရန် computing စွမ်းဆောင်ရည်နှင့် စကေးကို ကျွန်ုပ်တို့အား ပေးပါသည်။”
NVL72 Racks နှင့် Supercluster Networking
Vera Rubin NVL72 rack တစ်ခုစီသည် NVLink scale-up networking မှတစ်ဆင့် GPU ၇၂ ခုကို ချိတ်ဆက်ပေးသည်။ OCI Superclusters များသည် ထို rack များကို Oracle Acceleron networking၊ NVIDIA Spectrum-X Ethernet with Spectrum-6 switches နှင့် BlueField-4 DPUs နှင့် gigawatt-class power and cooling တို့နှင့် ပေါင်းစပ်ထားသည်။ Oracle က multiplanar network သည် GPU ထောင်ပေါင်းများစွာတွင် တိုးချဲ့နိုင်သည်ဟု ဆိုသည်။ Vera Rubin build-out သည် OCI တွင်ရှိပြီးသား GB200 နှင့် GB300 NVL72 စနစ်များကို တိုးချဲ့ထားပြီး ကုမ္ပဏီများက မော်ဒယ်များနှင့် workloads များသည် မျိုးဆက်တစ်ခုပြီးတစ်ခု သယ်ဆောင်သွားရသည့် အကြောင်းရင်းအဖြစ် ဘုံ CUDA foundation ကို ထောက်ပြကြသည်။
HGX Rubin NVL8 သည် x86 ဆာဗာများသို့ GPU ရှစ်ခု ယူဆောင်လာသည်
OCI သည် NVIDIA HGX Rubin NVL8 ကို ထည့်သွင်းရန်လည်း စီစဉ်ထား ပြီး ၎င်းသည် NVLink မှတစ်ဆင့် ချိတ်ဆက်ထားသော Rubin GPU ရှစ်ခုပါသည့် x86 server တစ်ခုဖြစ်သည်။ စီစဉ်ထားသော configuration တွင် 64-core Intel Xeon 6 CPU နှစ်ခု၊ 4TB DDR5 memory နှင့် 6.4 Tbps RDMA networking တို့ ပါဝင်ပြီး Oracle သည် x86 application compatibility ကို မစွန့်လွှတ်ဘဲ Rubin GPU များကို ပိုမိုသေးငယ်သော footprint ဖြင့် လိုချင်သည့် လေ့ကျင့်မှု၊ အသေးစိတ်ချိန်ညှိမှုနှင့် ကောက်ချက်ချမှုအတွက် နေရာချထားပေးသည်။ ကုမ္ပဏီနှစ်ခုလုံးက ရက်စွဲကို မပေးခဲ့ပါ။
Vera CPU ပံ့ပိုးမှု အေးဂျင့်ကိရိယာ လုပ်ဆောင်ခြင်း
Vera CPU ကမ်းလှမ်းချက်သည် မော်ဒယ်ခေါ်ဆိုမှုများကြားတွင် အေးဂျင့်တစ်ဦးလုပ်ဆောင်သောအလုပ်ကို ပစ်မှတ်ထားသည်- tool ခေါ်ဆိုမှုများ၊ ကုဒ်လုပ်ဆောင်ခြင်းနှင့် အချက်အလက်ရယူခြင်း။ ထိုအဆင့်များသည် CPU များပေါ်တွင် လုပ်ဆောင်ပြီး ၎င်းတို့ နှေးကွေးစွာလုပ်ဆောင်သောအခါ GPU များသည် စောင့်ဆိုင်းနေကြသည်။ NVIDIA နှင့် Oracle တို့က Vera ၏ single-thread စွမ်းဆောင်ရည်သည် တစ်ဦးချင်း tool ခေါ်ဆိုမှုများနှင့် ကုဒ်လုပ်ဆောင်ခြင်းကို မြန်ဆန်စေပြီး ၎င်း၏ memory bandwidth သည် အေးဂျင့်များအား တစ်ပြိုင်နက်တည်းလုပ်ဆောင်နေစဉ် core များကို ထောက်ပံ့ပေးထားပြီး GPU အားလပ်ချိန်ကို လျှော့ချပေးသည်ဟု ဆိုကြသည်။ ကုမ္ပဏီနှစ်ခုလုံးက စွမ်းဆောင်ရည်ကိန်းဂဏန်းများ သို့မဟုတ် စမ်းသပ်မှုအခြေအနေများကို မပေးထားပါ။
OCI Kubernetes Engine က သုံးစွဲသူတွေကို CPU နဲ့ GPU pool တွေကို သီးခြားစီ ချိန်ညှိနိုင်စေပြီး Oracle Acceleron က မယုံကြည်ရတဲ့၊ AI-generated code တွေကို run နေတဲ့ workload တွေအတွက် hardware-based isolation ကို ပေးပါတယ်။ OpenAI က early-access customer တွေထဲမှာ ပါဝင်ပါတယ်။ “OCI မှာရှိတဲ့ NVIDIA Vera CPU တွေက ကုဒ်ကို execute လုပ်ဖို့နဲ့ ကျွန်ုပ်တို့ရဲ့ အလျင်အမြန် ကြီးထွားလာတဲ့ agentic sandbox workload တွေမှာ tool တွေကို run ဖို့ လိုအပ်တဲ့ ကမ္ဘာ့အဆင့်မီ loaded performance ကို ပေးစွမ်းပါတယ်” လို့ OpenAI ရဲ့ compute ဆိုင်ရာ chief technology officer ဖြစ်သူ Uday Ruddarraju က ပြောပါတယ်။ “ဒီ workload တွေကို အတိုင်းအတာတစ်ခုအထိ ပံ့ပိုးပေးဖို့ Vera ကို OCI မှာ production ထဲ ယူဆောင်လာနေပါတယ်။” အဲဒီ deployment ရဲ့ အတိုင်းအတာကို မဖော်ပြထားပါဘူး။
“AI စက်ရုံများသည် ထုတ်လုပ်နိုင်စွမ်းရှိရမည်၊ တာရှည်ခံရမည် နှင့် ပြောင်းလဲအသုံးပြုနိုင်ရမည်” ဟု NVIDIA ၏ hyperscale နှင့် high-performance computing ဒုတိယဥက္ကဋ္ဌ Ian Buck က ပြောကြားခဲ့ပြီး ဆော့ဖ်ဝဲတိုးတက်မှုများမှတစ်ဆင့် အသုံးဝင်နေမည်ဖြစ်ပြီး ဝယ်လိုအားပြောင်းလဲလာသည်နှင့်အမျှ မတူညီသော မော်ဒယ်များနှင့် workloads များကို ဝန်ဆောင်မှုပေးသည့် အခြေခံအဆောက်အအုံအဖြစ် ရည်မှန်းချက်ကို ဖော်ပြခဲ့သည်။ Oracle Cloud Infrastructure ၏ ဥက္ကဋ္ဌ Mahesh Thiagarajan က ဖောက်သည်လိုအပ်ချက်များ တိုးလာသည်နှင့်အမျှ GPU များကို ထုတ်လုပ်နိုင်စွမ်းရှိပြီး လုံခြုံစေရန် နည်းလမ်းတစ်ခုအဖြစ် Vera Rubin GPU များနှင့် Vera CPU များကို Acceleron ကွန်ရက်နှင့် တွဲဖက်အသုံးပြုခြင်းကို ပုံဖော်ခဲ့သည်။
အမေဇုံ