Dell Technologies သည် NVIDIA နှင့်အတူ Dell AI Factory ကို ယနေ့ NVIDIA GTC Berlin တွင် တိုးချဲ့ခဲ့ပြီး agentic workload execution အတွက် NVIDIA Vera CPU ၂၅၆ ခု ပါဝင်သော 48U PowerEdge M9882 rack၊ Groq 3 LPU ပေါ်တွင် တည်ဆောက်ထားသော PowerEdge XE9810 rack-scale inference system၊ air-cooled two-socket Vera server၊ GB10 ပါ 64GB Dell Pro Precision နှင့် validated software နှင့် deskside deployment template များ ပါဝင်သည်။ software ကို ယခုရရှိနိုင်ပြီး hardware အသစ်သည် ယခုလမှ ၂၀၂၇ ခုနှစ် အစောပိုင်းအတွင်း ရောက်ရှိမည်ဖြစ်သည်။ Dell က အဆိုပါ platform သည် ပြီးခဲ့သည့် သုံးလပတ်တွင် customer ၅၀၀၀ မှ ၆၅၀၀ အထိ မြင့်တက်လာကြောင်း ပြောကြားခဲ့သည်။
Dell သည် ပိုင်ဆိုင်မှုကုန်ကျစရိတ် တိုးချဲ့မှုအတွက် ၎င်း၏ အကြောင်းပြချက်ကို တည်ဆောက်ထားပြီး ၂၀၂၆ ခုနှစ် စက်တင်ဘာလ Signal65 နှင့် Futurum Group ၏ ခွဲခြမ်းစိတ်ဖြာမှုကို ကိုးကား၍ Dell AI Factory သည် အများပြည်သူသုံး cloud ထက် နှစ်နှစ်အတွင်း ကုန်ကျစရိတ် ၉၀ ရာခိုင်နှုန်းအထိ ပိုမိုထိရောက်ကြောင်း ဖော်ပြထားပြီး ယင်းကိန်းဂဏန်းသည် ဗဟုသုတ၊ အရောင်းနှင့် software ဖွံ့ဖြိုးတိုးတက်မှု ဝန်ထုပ်ဝန်ပိုးများကို လုပ်ဆောင်သည့် deskside နှင့် data center စနစ်များကို ယူဆထားသည်။ ၂၀၃၀ ခုနှစ်တွင် အေးဂျင့် AI သည် ၉၀ ရာခိုင်နှုန်းကျော် ကျဆင်းသွားမည်ဖြစ်ပြီး 24x token သုံးစွဲမှုကို မောင်းနှင်မည်ဟူသော Goldman Sachs နှင့် Gartner ခန့်မှန်းချက်များကိုလည်း Dell ကိုးကားသည်။ ၎င်းတို့သည် ရောင်းချသူများနှင့် ခွဲခြမ်းစိတ်ဖြာသူများ၏ ကိန်းဂဏန်းများဖြစ်ပြီး ကျွန်ုပ်တို့ ၎င်းတို့ကို စာရင်းစစ်ဆေးခြင်း မပြုခဲ့ပါ။
“စီးပွားရေးလုပ်ငန်းများသည် AI အခြေခံအဆောက်အအုံကို IT ဘတ်ဂျက်မေးခွန်းတစ်ခုအဖြစ် စဉ်းစားခဲ့ကြသော်လည်း ယခုအခါ ပြောင်းလဲသွားပါပြီ။ AI အခြေခံအဆောက်အအုံသည် ကုန်ကျစရိတ်ဗဟိုဌာနတစ်ခု မဟုတ်တော့ပါ။ ၎င်းသည် တန်ဖိုးဖန်တီးမှုဗဟိုဌာနတစ်ခုဖြစ်ပါသည်” ဟု Dell Technologies ၏ ဥက္ကဋ္ဌနှင့် အမှုဆောင်အရာရှိချုပ် Michael Dell က ပြောကြားခဲ့သည်။
PowerEdge သည် CPU Execution နှင့် LPU Inference ကို ချဲ့ထွင်သည်
Dell PowerEdge M9882 သည် NVIDIA Vera CPU ၂၅၆ လုံးကို 48U rack တစ်ခုတည်းတွင် ထည့်သွင်းထားပြီး Dell ၏ NVIDIA Vera CPU Rack တည်ဆောက်မှုအဖြစ် ပေါင်းစပ်ထားပြီး CPU ဘက်ခြမ်း၏ agent လုပ်ငန်းများအတွက် ရည်ရွယ်သည်- orchestration၊ tool use၊ code execution နှင့် evaluation၊ မော်ဒယ် inference ကို GPU cluster များသို့ ချန်ထားခဲ့သည်။ Vera CPU တစ်ခုစီတွင် Olympus cores ၈၈ ခု ပါရှိသောကြောင့် rack အပြည့်တွင် cores ၂၂,၅၂၈ ခု ရှိသည်။ NVIDIA ၏ reference design သည် LPDDR5X 400TB၊ aggregate memory bandwidth 300TB/s နှင့် rack တစ်ခုလျှင် BlueField-4 DPU ၆၄ ခုကို သတ်မှတ်သည်။ Dell သည် M9882 ၏ memory သို့မဟုတ် networking configuration ကို မထုတ်ပြန်ရသေးပါ။
Dell ရဲ့ CPU-only rack အတွက် ငြင်းခုံချက်က power နဲ့ cooling ပါ- CPU execution ကို GPU cluster တွေကနေ ခွဲထုတ်လိုက်ခြင်းအားဖြင့် data center ဟာ pool တစ်ခုချင်းစီကို သူ့ရဲ့ workload နဲ့ ချိန်ညှိနိုင်ပြီး over-provisioned mixed-use server တွေထက် power နဲ့ cooling capacity ကို ပိုမိုကောင်းမွန်စွာ အသုံးပြုနိုင်တယ်လို့ Dell က ပြောပါတယ်။ M9882 ဟာ AMD ရဲ့ Helion blueprint ပြီးရင် ဒီလထဲမှာ ကြေညာခဲ့တဲ့ ဒုတိယမြောက် CPU-only agent rack ဖြစ်ပြီး open OCP design မှာ EPYC cores 32,768 အထိ ပါဝင်ပါတယ်။ Dell က M9882 ရရှိနိုင်မှုကို Q1 CY27 အဖြစ် စာရင်းပြုစုထားပါတယ်။
Dell PowerEdge R8822 သည် Vera ကို စံ ၁၉ လက်မ rack များအတွက် air-cooled, two-socket 2U server အဖြစ် ရိုးရာဒေတာစင်တာများသို့ ယူဆောင်လာပါသည်။ Dell သည် agent orchestration, sandboxing, reinforcement learning နှင့် data processing and analytics တို့ကို target workloads အဖြစ် စာရင်းပြုစုထားပြီး chassis သည် double-wide GPU လေးခုအထိ လက်ခံပါသည်။ ၎င်းကို ယခုလတွင် တင်ပို့ရောင်းချပြီး ဖောက်သည်များထံ ရောက်ရှိသော PowerEdge platform အသစ်များထဲမှ ပထမဆုံးဖြစ်လာပါသည်။
Dell PowerEdge XE9810 သည် Dell ၏ ပထမဆုံး Groq LPU rack-scale inference system ဖြစ်ပြီး NVIDIA Groq 3 LPU များပေါ်တွင် တည်ဆောက်ထားသော direct-liquid-cooled compute trays ၁၆ ခု ပါရှိသည်။ Dell သည် ၎င်းကို production agentic AI အတွက် GPU cluster များအတွက် ခွဲထားသော ဖြည့်စွက်ပစ္စည်းအဖြစ် ထားရှိပြီး၊ scale တွင် first token ရရှိရန် တသမတ်တည်း အချိန်ကို ဒီဇိုင်းပစ်မှတ်အဖြစ် သတ်မှတ်ထားသည်။ Dell သည် tray တစ်ခုချင်းစီ၏ LPU အရေအတွက်၊ throughput ကိန်းဂဏန်းများ သို့မဟုတ် system configuration အပြည့်အစုံကို မထုတ်ပြန်ရသေးဘဲ XE9810 ကို CY27 ခုနှစ် ပထမသုံးလပတ်တွင် ထုတ်လုပ်ရန် စီစဉ်ထားသည်။
NVIDIA DSX POD ပါရှိသော Dell Modular Data Center သည် compute၊ storage၊ networking၊ rack-level power နှင့် liquid cooling တို့ကို ပေါင်းစပ်ပြီး စက်ရုံတွင် အတည်ပြုထားသော containerized reference design ဖြင့် တင်ပို့ပေးသောကြောင့် site တစ်ခုသည် ပြင်ဆင်ထားသော power နှင့် ချိတ်ဆက်ပေးပါသည်။ ပြင်ဆင်ထားသော site တွင် ဖြန့်ကျက်မှုသည် ခြောက်လမှ ၁၄ ရက်အထိ ရွေ့လျားနိုင်ပြီး container များထပ်ထည့်ခြင်းဖြင့် စွမ်းရည်တိုးလာနိုင်ကြောင်း Dell က ပြောကြားခဲ့သည်။ ၎င်းကို ၂၀၂၇ ခုနှစ် အစောပိုင်းတွင် စီစဉ်ထားသည်။
ဆက်သွယ်ရေးအော်ပရေတာများအတွက်၊ Dell PowerEdge ဆာဗာများပေါ်ရှိ NVIDIA Aerial RAN Computer (ARC) ပလက်ဖောင်းများသည် RAN နှင့် AI workloads များကို compute footprint တစ်ခုတည်းတွင် လုပ်ဆောင်ပြီး သီးခြား siloed စနစ်များထက် ပိုင်ဆိုင်မှုစုစုပေါင်းကုန်ကျစရိတ် နည်းပါးသည်ဟု Dell က ထောက်ပြသည်။ Dell သည် PowerEdge တွင် ARC framework ကို မကြာမီလာမည်အဖြစ် စာရင်းပြုစုထားသည်။
Deskside စနစ်များတွင် မှတ်ဉာဏ်နှင့် ဖြန့်ကျက်မှုပုံစံများ ထည့်သွင်းပါ
Dell Pro Precision GB10 ပါဝင်တဲ့ စနစ်၊ Dell Pro Max GB10 ပါဝင်တဲ့ စနစ်အဖြစ် ကျွန်ုပ်တို့ သုံးသပ်ခဲ့တဲ့ စနစ် ဟာ အောက်တိုဘာလ ၂၃ ရက်နေ့မှာ NVIDIA ရဲ့ DGX Spark 64GB ကို ဒေါ်လာ ၄,၉၉၉ နဲ့ ရောင်းချမယ့်နေ့မှာပဲ 64GB unified memory configuration ကို ရရှိခဲ့ပါတယ်။ Dell ဟာ ဒေသတွင်းမှာ open-weight မော်ဒယ်တွေကို အသုံးပြုနေတဲ့ တစ်ဦးချင်း developer တွေနဲ့ အဖွဲ့ငယ်လေးတွေအတွက် ရောင်းချပေးနေပြီး 64GB configuration အတွက် ဈေးနှုန်းကိုတော့ မဖော်ပြထားပါဘူး။
Clustering သည် 64GB စနစ်နှစ်ခု သို့မဟုတ် 128GB စနစ်လေးခုအထိ လုပ်ဆောင်နိုင်ပြီး Dell က ဖောက်သည်တစ်ဦးသည် စနစ်တစ်ခုဖြင့် စတင်ပြီး မော်ဒယ်စွမ်းရည်နှင့် တပြိုင်နက်တည်းအသုံးပြုသူများ ပိုမိုများပြားစေရန်အတွက် ရှစ်ခုပါ GB10 cluster အထိ တိုးချဲ့နိုင်ကြောင်း ပြောကြားခဲ့သည်။ ကျွန်ုပ်တို့သည် GB10 စနစ်ရှစ်ခုကို လည်ပတ်ခဲ့ပြီး ၎င်းတို့အနက် နှစ်ခုမှာ Dell ၏ shared storage ကို 100GbE အထက်တွင် အသုံးပြုခဲ့ပြီး fleet သည် Solidigm QLC array တစ်ခုမှ 24.9GiB/s ကို ဆွဲယူခဲ့သည်။
GB300 ပါဝင်တဲ့ Dell Pro Precision ဟာ coherent memory 748GB အထိနဲ့ FP4 compute 20 petaflops ပါဝင်တဲ့ Windows မှာ ထွက်လာတော့မှာဖြစ်ပြီး desk-side Grace Blackwell Ultra စနစ်ကို enterprise တွေ စီမံခန့်ခွဲပြီးသား Windows environment ထဲမှာ ထည့်သွင်းပေးသွားမှာပါ။ မကြာမီထွက်ရှိမယ့်ရက်ကို Dell က မကြေညာသေးပါဘူး။
NVIDIA အတွက် Dell Deskside Agentic AI Solutions၊ reference deployment template များကို GitHub တွင် ယခုရရှိနိုင်ပါပြီ။ launch blueprint ငါးခုတွင် agentic coding၊ agentic VSS၊ NVIDIA NemoClaw၊ Hermes Agent on NemoClaw နှင့် Higher Education AI Lab platform တို့ ပါဝင်သည်။ တစ်ခုချင်းစီတွင် ၎င်း၏အသုံးပြုမှုအတွက် hardware၊ မော်ဒယ်များနှင့် software stack ကို သတ်မှတ်ပေးပြီး ၎င်းတို့သည် developer တစ်ဦးတည်းမှ စနစ် ၁၀၀၀ သို့မဟုတ် ထို့ထက်ပို၍ တိုးချဲ့နိုင်ပြီး platform တစ်ခုတည်းတွင် developer ၉၆ ဦးအထိ ပံ့ပိုးမှုပေးသည်ဟု Dell က ပြောကြားခဲ့သည်။
ဆော့ဖ်ဝဲလ် အတည်ပြုခြင်းနှင့် အုပ်ချုပ်မှုသည် Stack တစ်လျှောက် တိုးချဲ့ထားသည်
ဆော့ဖ်ဝဲအင်ဂျင်နီယာနှင့် ရှည်လျားသော မိုးကုတ်စက်ဝိုင်း အေးဂျင့်တာဝန်များအတွက် တည်ဆောက်ထားသော Apache 2.0 open-weight မော်ဒယ်တစ်ခုဖြစ်သည့် Reflection's Beam ကို ယခုအခါ ပလက်ဖောင်းတွင် အတည်ပြုပြီးဖြစ်ပြီး၊ ဗဟုသုတလက်ထောက်နှင့် Mistral ပါသော အေးဂျင့် AI ပလက်ဖောင်းတို့လည်း ရရှိနိုင်ပါပြီ။ Dynatrace ပါသော AI လေ့လာနိုင်စွမ်းနှင့် Fogsphere ပါသော ကွန်ပျူတာအမြင်တို့သည် ၂၀၂၀ ခုနှစ်၊ စတုတ္ထသုံးလပတ်တွင် နောက်ဆက်တွဲဖြစ်ပေါ်လာပြီး SUSE Linux သည် ၂၀၂၀ ခုနှစ်၊ ပထမသုံးလပတ်အစောပိုင်းတွင် ပံ့ပိုးပေးထားသော လည်ပတ်မှုစနစ်များနှင့် ပူးပေါင်းခဲ့သည်။
Dell ရဲ့ အေးဂျင့်တွေအတွက် လုံခြုံရေးဗိသုကာမှာ အလွှာသုံးလွှာပါဝင်ပါတယ်- hardware-rooted Dell infrastructure၊ platform orchestration အတွက် Red Hat AI Factory software နဲ့ runtime၊ network၊ data နဲ့ infrastructure layer တွေကို လွှမ်းခြုံထားတဲ့ runtime governance အတွက် NVIDIA OpenShell reference architecture တို့ဖြစ်ပါတယ်။ Dell Managed Services for AI ကို CY27 ပထမသုံးလပတ်မှာ ဖြန့်ချိမှာဖြစ်ပြီး resource optimization၊ access governance နဲ့ consumption နဲ့ cost management တို့ကို ထည့်သွင်းထားတာကြောင့် development team တွေအနေနဲ့ AI resource တွေကို self-service access ရရှိမှာဖြစ်ပြီး IT ကတော့ governance နဲ့ financial control တွေကို ထိန်းသိမ်းထားမှာပါ။
အမေဇုံ