Supermicro မှ NVIDIA Vera CPU rack ကို ယနေ့ကြေညာလိုက်ပါသည်။ ၎င်းသည် NVIDIA Vera CPU ၂၅၆ ခု၊ cores ၂၂,၅၂၈ ခုနှင့် threads ၄၅,၀၅၆ ခုပါရှိသော 48U၊ 100 ရာခိုင်နှုန်း အရည်ဖြင့်အအေးပေးထားသော rack တစ်ခုဖြစ်ပြီး Supermicro သည် concurrent agent sandboxes ၂၂,၅၀၀ အထိ အသုံးပြုနိုင်ကြောင်း အသိအမှတ်ပြုထားသည်။ ၎င်းသည် Data Center Building Block Solutions (DCBBS) portfolio ၏ အသစ်ဆုံးအဖွဲ့ဝင်ဖြစ်ပြီး Supermicro Vera Rubin NVL72 နှင့်အတူ လည်ပတ်ရန်တည်ဆောက်ထားပြီး ကုမ္ပဏီက ယခုတင်ပို့နေပြီဟု ဆိုသည် သို့မဟုတ် agent orchestration၊ reinforcement learning နှင့် data processing အတွက် dense CPU rack အဖြစ် သီးခြားရပ်တည်ရန်ဖြစ်သည်။ rack ကို ယခုဈေးနှုန်းဖြင့် ရရှိနိုင်ပြီး Supermicro မှ တင်ပို့မည့်ရက်ကို မသတ်မှတ်ရသေးပါ။
၎င်းသည် GTC Berlin တွင် Dell PowerEdge M9882 ပြီးနောက် ယခုအပတ်တွင် ကြေညာခဲ့သော ဒုတိယမြောက် 256-CPU Vera rack ဖြစ်ပြီး နှစ်ခုစလုံးသည် CPU တစ်ခုလျှင် 88 cores ပါရှိသော NVIDIA ၏ Vera CPU Rack ရည်ညွှန်းဒီဇိုင်းကို လိုက်နာသည်။ Dell သည် M9882 ကို Q1 CY27 အတွက် စာရင်းပြုစုထားပြီး ၎င်း၏ memory သို့မဟုတ် networking configuration ကို မထုတ်ပြန်ရသေးပါ။ Supermicro သည် နှစ်ခုစလုံးကို ထုတ်ပြန်ခဲ့ပြီး ၎င်းသည် system vendor မှ Vera CPU rack အတွက် rack-level figures အပြည့်အစုံ၏ ပထမဆုံးသော set ဖြစ်လာစေသည်။
Agent လုပ်ဆောင်မှုအတွက် သီးသန့် CPU စွမ်းရည်
CPU-only rack အတွက် Supermicro ရဲ့ ဥပမာကတော့ agentic AI နဲ့ reinforcement learning တွေက linear inference chains တွေကို CPU ရရှိနိုင်မှုအပေါ် စောင့်ဆိုင်းနေတဲ့ အလယ်အလတ်အဆင့်တွေနဲ့အတူ branched, looped execution အဖြစ် ပြောင်းလဲပေးပါတယ်။ GPU တွေက tokens, code နဲ့ queries တွေကို generate လုပ်ပါတယ်။ CPU-based sandbox တွေက action တွေကို execute လုပ်တယ်၊ result တွေကို assess လုပ်တယ်၊ tool တွေကို run တယ်၊ workflow ကို orchestrate လုပ်တယ်။ GPU ရာပေါင်းများစွာ ဒါမှမဟုတ် ထောင်ပေါင်းများစွာပါတဲ့ AI factory အတိုင်းအတာနဲ့ဆိုရင် Supermicro က ဒါက parallel execution environments ထောင်ပေါင်းများစွာ ဒါမှမဟုတ် သန်းပေါင်းများစွာကို hosting လုပ်တယ်လို့ ပြောပါတယ်၊ ဒါက ဒီ rack အတွက် အရွယ်အစားသတ်မှတ်ထားတဲ့ အလုပ်ပါ။
Supermicro က rack ကို model SRS-VCPU-256-M0 အဖြစ် စာရင်းပြုစုထားပါတယ်- 1U compute trays ၃၂ ခု၊ tray တစ်ခုစီမှာ Vera CPU ရှစ်လုံးအတွက် dual-CPU node လေးခု၊ rack တစ်ခုလျှင် SOCAMM2 LPDDR5X 400TB အထိ၊ aggregate memory bandwidth 300TB/s (CPU တစ်ခုလျှင် 1.2TB/s သို့မဟုတ် core တစ်ခုလျှင် 13.6GB/s)၊ CPU တစ်ခုလျှင် NVLink-C2C bandwidth 1.8TB/s အထိ နှင့် tray တစ်ခုလျှင် E1.S NVMe 32TB အထိ ပါရှိပါတယ်။ tray တစ်ခုစီမှာ CPU တစ်ခုလျှင် 200Gb/s အတွက် NVIDIA BlueField-4 DPU လေးခု ပါဝင်ပြီး rack network များသည် မြောက်-တောင် 400Gb/s အထိ၊ 1U top-of-rack switch နှစ်ခု နှင့် 1G/10G management switch များပါရှိသော NVIDIA Spectrum-X Ethernet converged fabric မှတစ်ဆင့် ဖြစ်ပါတယ်။
sandbox ၂၂,၅၀၀ ကိန်းဂဏန်းနဲ့ thread ၄၅,၀၅၆ ခုကို နှိုင်းယှဉ်ကြည့်ရင် sandbox တစ်ခုစီမှာ thread နှစ်ခုပဲ ရှိပါတယ်။ Supermicro က ဘယ်လို memory allocation၊ workload ဒါမှမဟုတ် software configuration တွေကို အဆင့်သတ်မှတ်ချက်အဖြစ် ယူဆထားလဲဆိုတာ မပြောထားပါဘူး။ ဒါကြောင့် reference configuration ပေါ်လာတဲ့အထိ lightweight sandbox တွေအတွက် sizing ceiling အဖြစ် သတ်မှတ်ပါတယ်။ standalone platform တစ်ခုအနေနဲ့ Supermicro ဟာ database operations၊ cluster management၊ Slurm နဲ့ Kubernetes scheduling၊ data analytics နဲ့ large-scale software build pipelines တွေကို target workloads အဖြစ် စာရင်းပြုစုထားပြီး Supermicro Vera CPU portfolio မှာ liquid မယူနိုင်တဲ့ site တွေအတွက် air-cooled 1U နဲ့ 2U systems တွေ ပါဝင်ပါတယ်။
တတိယမျိုးဆက် MGX သည် AC နှင့် 800 VDC ပါဝါကို ပံ့ပိုးပေးသည်
ဒီ rack ဟာ Supermicro ရဲ့ DLC-2 stack ရဲ့ အစိတ်အပိုင်းဖြစ်တဲ့ တတိယမျိုးဆက် NVIDIA MGX ဒီဇိုင်းကို အသုံးပြုထားတာကြောင့် Supermicro Vera Rubin NVL72 နဲ့ အခြေခံအဆောက်အအုံကို မျှဝေအသုံးပြုပါတယ် ။ Supermicro ဟာ 600 x 1,200 x 2,296mm ရှိတဲ့ 48U MGX v1.2 busbar rack ထဲမှာ 208kW operating power နဲ့ ထည့်သွင်းထားပါတယ်။ ဝယ်ယူသူတွေက 2+1 redundancy မှာ 3U 110kW AC power shelves သုံးခု (415 မှ 480VAC) နဲ့ ဒါမှမဟုတ် power sidecar rack ကနေ လျှပ်စစ်ဓာတ်အားပေးတဲ့ 90kW DC-DC shelves သုံးခုကနေ 800 VDC နဲ့ ချိတ်ဆက်နိုင်ပါတယ်။
800 VDC ဘေးတွဲကားသည် ရိုးရာ UPS အစား ဘက်ထရီ အရန်ယူနစ်များကို အသုံးပြုနိုင်စေပြီး Supermicro က ဤအစီအစဉ်သည် ဒေတာစင်တာကြမ်းပြင်နေရာလွတ်များ ရရှိစေကာ ပါဝါပြောင်းလဲမှု စွမ်းဆောင်ရည်ကို မြှင့်တင်ပေးနိုင်ပြီး အရင်းအနှီးနှင့် လည်ပတ်မှုကုန်ကျစရိတ်ကို လျှော့ချပေးနိုင်ကြောင်း ပြောကြားခဲ့သည်။ အဆိုပါကြေငြာချက်တွင် ထိုအချက်သုံးချက်အနက် တစ်စုံတစ်ရာကို ပမာဏသတ်မှတ်ခြင်း မရှိပါ။ အအေးပေးစနစ်သည် DLC-2 stack မှ လာပါသည်- 5MW အထိ အဆင့်သတ်မှတ်ထားသော in-row coolant distribution unit တစ်ခုသည် rack များစွာကို ဝန်ဆောင်မှုပေးနိုင်သော redundant pumps များပါရှိခြင်း၊ optional rear door heat exchanger တစ်ခုနှင့် facility water မရှိသော နေရာများအတွက် optional 200kW သို့မဟုတ် 500kW liquid-to-air sidecar CDU တစ်ခုတို့ဖြစ်သည်။
Vera Rubin NVL72 အတွက် Supermicro DCBBS Blueprints ကို တည်ဆောက်နေသော သုံးစွဲသူများအတွက်၊ Supermicro သည် သတ်မှတ်ထားသော Spectrum-X network topology၊ hot-aisle containment layouts နှင့် DLC-2 stack မှ redundant in-row CDUs နှင့် rear door heat exchangers များအောက်တွင် NVL72 racks များကို Vera CPU racks များနှင့် တွဲဖက်ပေးသည့် optional design ကို ပေးဆောင်ပါသည်။ Supermicro အဖွဲ့တစ်ဖွဲ့သည် site survey၊ design၊ L11 နှင့် L12 integration နှင့် testing၊ on-site deployment နှင့် CPU rack သည် NVL72 ဖြင့် တင်ပို့သည်ဖြစ်စေ တစ်ခုတည်းဖြစ်စေ စဉ်ဆက်မပြတ် ပံ့ပိုးမှုတို့ကို လွှမ်းခြုံထားသည်။
“အေးဂျင့် AI က ဒေတာစင်တာလိုအပ်ချက်တွေကို ပြောင်းလဲပေးတာနဲ့အမျှ Supermicro ဟာ သူ့ရဲ့ DCBBS portfolio ကို အပြည့်အဝပေါင်းစပ်ထားတဲ့ အခြေခံအဆောက်အအုံနဲ့ တိုးချဲ့နေပါတယ်” လို့ Supermicro ရဲ့ ဥက္ကဋ္ဌနဲ့ CEO ဖြစ်သူ Charles Liang က ပြောပါတယ်။ “လေအေးပေးစနစ် ဖြန့်ကျက်မှုတွေကို ရှာဖွေနေတဲ့ ဖောက်သည်တွေအတွက် Supermicro ရဲ့ NVIDIA Vera CPU portfolio မှာ လေအေးပေးစနစ် 1U နဲ့ 2U စနစ်တွေအပြင် rack-scale အရည်အေးပေးစနစ် ရွေးချယ်စရာတွေ ပါဝင်ပါတယ်။ NVIDIA နဲ့အတူ လုံခြုံပြီး တိုးချဲ့နိုင်တဲ့ အေးဂျင့် AI အတွက် ရည်ရွယ်ချက်ရှိရှိ တည်ဆောက်ထားတဲ့ ဗိသုကာလက်ရာနဲ့ ဖြန့်ကျက်ချိန်ကို အရှိန်မြှင့်တင်ဖို့ ကျွန်ုပ်တို့ ကူညီပေးပါတယ်။”
OpenShell နှင့် Sentry Govern Agent လုပ်ဆောင်ချက်
ဒီ rack ဟာ NVIDIA က ဒီအပတ် GTC Berlin မှာ အသေးစိတ်ဖော်ပြခဲ့တဲ့ NVIDIA OpenShell Reference Architecture ကို natively support လုပ်ပါတယ်။ OpenShell ဟာ Vera CPU တွေပေါ်မှာ runtime မှာ agent တွေကို least-privilege, policy-based controls တွေ ပေးစွမ်းပြီး NVIDIA Sentry ကတော့ BlueField-4 DPU တွေပေါ်မှာ out-of-band monitor အနေနဲ့ policy ကို အကောင်အထည်ဖော်ပေးတဲ့၊ attested telemetry ကို ပံ့ပိုးပေးတဲ့၊ milliseconds အတွင်း ခွင့်ပြုထားတဲ့ နယ်နိမိတ်ပြင်ပကို ရွေ့လျားတဲ့ agent ကို quarantine လုပ်နိုင်တဲ့ monitor အနေနဲ့ runtime မှာ ...ရှိပြီး attested telemetry ကိုလည်း ပေးစွမ်းပါတယ်။ ပြီးတော့ milliseconds အတွင်း ခွင့်ပြုထားတဲ့ နယ်နိမိတ်ပြင်ပကို ရွေ့လျားတဲ့ agent ကို quarantine လုပ်ပေးနိုင်ပါတယ်။ Sentry ဟာ DPU မှာ runtime ရှိနေတာကြောင့် Supermicro က monitoring ဟာ host CPU resources တွေကို မသုံးဘဲ observability နဲ့ auditability ကို production မှာ ထိန်းထားပေးတယ်လို့ ပြောပါတယ်။
“စီးပွားရေးလုပ်ငန်းများသည် agentic AI နှင့် reinforcement learning တို့ကို တိုးချဲ့လာသည်နှင့်အမျှ၊ တစ်ပြိုင်နက်တည်း agent workflow ထောင်ပေါင်းများစွာကို ပံ့ပိုးပေးခြင်းသည် high-density CPU infrastructure အမျိုးအစားအသစ်တစ်ခု လိုအပ်ပါသည်” ဟု NVIDIA ၏ enterprise platform များ၏ ဒုတိယဥက္ကဋ္ဌ Chris Marriott က ပြောကြားခဲ့သည်။ “NVIDIA Vera CPU များနှင့် BlueField-4 DPU များကို Supermicro ၏ liquid-cooled DCBBS architecture နှင့် ပေါင်းစပ်ထားခြင်းကြောင့် ဖောက်သည်များအား ၎င်းတို့၏ AI စက်ရုံများတစ်လျှောက် agent workloads များကို တိုးချဲ့လုပ်ဆောင်နိုင်ရန် သီးသန့် compute နှင့် hardware-based security ကို ပေးစွမ်းပါသည်။”
CPU-only agent rack ဟာ ဒီလမှာ အမျိုးအစားတစ်ခု ဖြစ်လာပါပြီ- AMD ရဲ့ Helion blueprint ဟာ open OCP ဒီဇိုင်းထဲမှာ EPYC cores ၃၂,၇၆၈ ခုအထိ ထည့်သွင်းထားပြီး Dell ရဲ့ M9882 ဟာ CY27 ပထမသုံးလပတ်မှာ ရောက်ရှိလာပြီး Supermicro ရဲ့ version ကို ဒီနေ့မှာ ထုတ်ဝေထားတဲ့ specifications တွေနဲ့ ကိုးကားနိုင်ပါတယ်။ အဲဒီသုံးခုထဲက တစ်ခုမှ မထုတ်ဝေရသေးတာက အမည်ပေးထားတဲ့ workload ပေါ်မှာ တိုင်းတာထားတဲ့ sandbox density ဖြစ်ပြီး AI factory တစ်ခုဟာ NVL72 row တစ်ခုစီမှာ ဒီ rack တွေ ဘယ်လောက်လိုအပ်လဲဆိုတာကို ဆုံးဖြတ်ပေးမယ့် ဂဏန်းဖြစ်ပါတယ်။
အမေဇုံ