NVIDIA သည် မြင့်မားသောစွမ်းဆောင်ရည်ရှိသော computing နှင့် AI ကိုပစ်မှတ်ထားသည့် သိသာထင်ရှားသောလှုပ်ရှားမှုနှစ်ခုကို ကြေညာခဲ့သည်- Slurm workload manager ၏နောက်ကွယ်ရှိကုမ္ပဏီ SchedMD ကိုဝယ်ယူခြင်းနှင့် multi-agent AI အတွက် open model များ၊ data နှင့် tool များဖြစ်သော Nemotron 3 မိသားစုကို မိတ်ဆက်ခြင်း။ ဤကြိုးပမ်းအားထုတ်မှုများသည် HPC၊ generative AI နှင့် enterprise AI အခြေခံအဆောက်အအုံတစ်လျှောက် NVIDIA ၏ရပ်တည်ချက်ကို အားကောင်းစေသည့်အပြင် open, vendor-neutral software ကို အလေးပေးထားသည်။
Slurm နှင့် SchedMD: ပွင့်လင်းပြီး ရောင်းချသူ-ကြားနေ HPC အချိန်ဇယားဆွဲခြင်းကို အားကောင်းစေခြင်း
SchedMD သည် HPC နှင့် AI cluster များအတွက် အကျယ်ပြန့်ဆုံး ဖြန့်ကျက်ထားသော open-source workload manager များထဲမှ တစ်ခုဖြစ်သည့် Slurm ၏ အဓိက developer ဖြစ်သည်။ Slurm ကို tightly coupled parallel workloads များကို လုပ်ဆောင်သည့် ကြီးမားသော cluster များတွင် compute resource များကို queue လုပ်ရန်၊ schedule လုပ်ရန်နှင့် ခွဲဝေပေးရန် အသုံးပြုသည်။ cluster အရွယ်အစားနှင့် model complexity တိုးလာသည်နှင့်အမျှ utilization နှင့် throughput ကို ထိန်းသိမ်းရန်အတွက် ထိရောက်သော scheduling သည် အရေးကြီးလာသည်။
Slurm ရဲ့ HPC မှာ footprint က များပြားပါတယ်။ TOP500 စာရင်းထဲက ထိပ်တန်း ၁၀ နဲ့ ထိပ်တန်း ၁၀၀ စနစ်တွေရဲ့ ထက်ဝက်ကျော်မှာ အသုံးပြုကြပြီး၊ scalability၊ throughput မြင့်မားခြင်းနဲ့ ရှုပ်ထွေးတဲ့ မူဝါဒစီမံခန့်ခွဲမှုအတွက် ပံ့ပိုးမှုတွေကြောင့်ပါ။ AI workloads အတွက် Slurm ဟာ foundation model developer တွေနဲ့ AI builder တွေက GPU-accelerated systems တွေမှာ ကြီးမားတဲ့ model training နဲ့ inference ကို စီစဉ်ဖို့အတွက် အသုံးပြုတဲ့ infrastructure ရဲ့ အဓိကအစိတ်အပိုင်းတစ်ခု ဖြစ်လာပါတယ်။
ဝယ်ယူပြီးနောက် NVIDIA သည် Slurm ကို open-source၊ vendor-neutral software အဖြစ် ဆက်လက်တီထွင်ဖြန့်ဖြူးရန် စီစဉ်ထားသည်။ Slurm သည် ပိုမိုကျယ်ပြန့်သော HPC နှင့် AI အသိုင်းအဝိုင်းအတွက် အသုံးပြုနိုင်ဆဲဖြစ်ပြီး hardware နှင့် software platform အမျိုးမျိုးတွင် မတူညီသောပတ်ဝန်းကျင်များကို ဆက်လက်ပံ့ပိုးပေးသွားမည်ဟု ကုမ္ပဏီက ပြောကြားခဲ့သည်။ NVIDIA သည် SchedMD နှင့် ဆယ်စုနှစ်တစ်ခုကျော် ပူးပေါင်းဆောင်ရွက်ခဲ့ပြီး ဤတရားဝင်ဝယ်ယူမှုသည် မဟာဗျူဟာမြောက် pivot ကိုကိုယ်စားပြုမည့်အစား ထို roadmap ကို အရှိန်မြှင့်တင်ရန် ရည်ရွယ်ပါသည်။
SchedMD ခေါင်းဆောင်ပိုင်းက ယင်းသဘောတူညီချက်ကို HPC နှင့် AI တွင် Slurm ၏ အဓိကအခန်းကဏ္ဍကို အတည်ပြုခြင်းအဖြစ် ရှုမြင်သည်။ NVIDIA ၏ အရှိန်မြှင့်ကွန်ပျူတာကျွမ်းကျင်မှုသည် Slurm ကို အနာဂတ် AI နှင့် supercomputing လိုအပ်ချက်များနှင့် ကိုက်ညီစေရန် မြှင့်တင်ပေးသင့်ပြီး ၎င်း၏ open-source မော်ဒယ်နှင့် အသိုင်းအဝိုင်းပါဝင်ဆောင်ရွက်မှုကို ထိန်းသိမ်းထားကြောင်း ကုမ္ပဏီက မှတ်ချက်ပြုခဲ့သည်။
ဖောက်သည်သက်ရောက်မှုနှင့် ပလက်ဖောင်းပံ့ပိုးမှု
လက်ရှိ SchedMD ဖောက်သည်များအတွက် NVIDIA သည် Slurm ပံ့ပိုးမှု၊ လေ့ကျင့်မှုနှင့် ဖွံ့ဖြိုးတိုးတက်မှုတို့တွင် စဉ်ဆက်မပြတ်ထိန်းသိမ်းရန် ရည်ရွယ်ပါသည်။ လက်ရှိ Slurm ဖြန့်ကျက်မှုများသည် cloud provider များ၊ ထုတ်လုပ်သူများ၊ AI ကုမ္ပဏီများနှင့် အလိုအလျောက်မောင်းနှင်မှု၊ ကျန်းမာရေးစောင့်ရှောက်မှုနှင့် အသက်သိပ္ပံ၊ စွမ်းအင်၊ ငွေကြေးဝန်ဆောင်မှုများ၊ အစိုးရနှင့် အထွေထွေထုတ်လုပ်မှုကဲ့သို့သော ကဏ္ဍများတစ်လျှောက်ရှိ သုတေသနအဖွဲ့အစည်းများကို လွှမ်းခြုံထားသည်။
NVIDIA သည် SchedMD ၏ စနစ်အသစ်များနှင့် ဗိသုကာလက်ရာများကို ဝင်ရောက်ခွင့်ကို အရှိန်မြှင့်တင်ရန်လည်း မျှော်လင့်ထားသည်။ NVIDIA ၏ အရှိန်မြှင့်ထားသော computing platform တွင် စံသတ်မှတ်သည့် သုံးစွဲသူများအတွက် ၎င်းသည် GPU မျိုးဆက်အသစ်များနှင့် စနစ်ဖွဲ့စည်းပုံများအတွက် ပိုမိုမြန်ဆန်သော ပံ့ပိုးမှုအဖြစ်သို့ ပြောင်းလဲသွားသင့်သည်။ တစ်ချိန်တည်းမှာပင်၊ NVIDIA သည် Slurm သည် ကွဲပြားသောပတ်ဝန်းကျင်အမျိုးမျိုးကို ဆက်လက်ပံ့ပိုးပေးသွားမည်ဖြစ်ပြီး၊ ရောနှောရောင်းချသူ cluster များသည် hardware stack တစ်ခုတည်းတွင် ပိတ်မိမနေဘဲ Slurm စွမ်းရည်အသစ်များကို လက်ခံအသုံးပြုနိုင်စေမည်ဟု ထပ်လောင်းပြောကြားခဲ့သည်။
NVIDIA နှင့် SchedMD တို့၏ ပေါင်းစပ်ကြိုးပမ်းအားထုတ်မှုကို HPC နှင့် AI ရှိ open-source software ဂေဟစနစ်ကို အားကောင်းစေရန်၊ စက်မှုလုပ်ငန်းများနှင့် ဖြန့်ကျက်မှုအတိုင်းအတာများတွင် ဆန်းသစ်တီထွင်မှုကို ဖြစ်ပေါ်စေရန် ပိုမိုကျယ်ပြန့်သော အစီအစဉ်၏ တစ်စိတ်တစ်ပိုင်းအဖြစ် ပုံဖော်ထားသည်။
Nemotron 3: Multi-Agent၊ Agentic AI အတွက် Open MoE မော်ဒယ်များ
တစ်ချိန်တည်းမှာပင်၊ NVIDIA သည် ပွင့်လင်းမြင်သာပြီး ထိရောက်သော agent AI စနစ်များတည်ဆောက်ရန်အတွက် မော်ဒယ်များ၊ အချက်အလက်စုစည်းမှုများနှင့် စာကြည့်တိုက်များ၏ ပွင့်လင်းသောဂေဟစနစ်တစ်ခုဖြစ်သည့် Nemotron 3 မိသားစု ကို မိတ်ဆက်ခဲ့သည် ။ အဖွဲ့အစည်းများသည် single-model chatbot များမှ ပိုမိုရှုပ်ထွေးသော multi-agent ဗိသုကာလက်ရာများသို့ ရွေ့လျားလာသည်နှင့်အမျှ agent များအကြား ဆက်သွယ်ရေးကုန်ကျစရိတ်၊ ရှည်လျားသော workflow များတွင် context drift နှင့် မြင့်တက်လာသော inference ကုန်ကျစရိတ်များကဲ့သို့သော စိန်ခေါ်မှုများနှင့် ကြုံတွေ့ရလေ့ရှိသည်။ အရေးကြီးသော စီးပွားရေးလုပ်ငန်းစဉ်များတွင် ထည့်သွင်းထားသော AI စနစ်များကို နားလည်မှုနှင့် ယုံကြည်မှုရှိစေရန် ပွင့်လင်းမြင်သာမှုအတွက် চাহিদার্য চাহিদাလည်း တိုးပွားလာနေသည်။
Nemotron 3 သည် ဤလိုအပ်ချက်များကို အတိုင်းအတာတစ်ခုအထိ ကိုယ်စားလှယ်များစွာ၏ ဝန်ထုပ်ဝန်ပိုးများအတွက် ဒီဇိုင်းထုတ်ထားသော hybrid latent mixture-of-experts (MoE) ဗိသုကာဖြင့် ပစ်မှတ်ထားသည်။ ဤမော်ဒယ်များသည် ခန့်မှန်းနိုင်သော စွမ်းဆောင်ရည်နှင့် ကုန်ကျစရိတ်ပရိုဖိုင်များကို ထိန်းသိမ်းထားစဉ်တွင် ပူးပေါင်းဆောင်ရွက်သော ကိုယ်စားလှယ်အပြုအမူ၊ အထူးပြုကျွမ်းကျင်မှုနှင့် ထိရောက်သော လုပ်ငန်းတာဝန်လမ်းကြောင်းသတ်မှတ်ခြင်းကို ပံ့ပိုးပေးရန် ရည်ရွယ်ပါသည်။
NVIDIA ၏ တည်ထောင်သူနှင့် CEO ဖြစ်သူ Jensen Huang က AI တိုးတက်မှုအတွက် ပွင့်လင်းမြင်သာသော ဆန်းသစ်တီထွင်မှုသည် မရှိမဖြစ်လိုအပ်ကြောင်း အလေးပေးပြောကြားခဲ့သည်။ Nemotron သည် ခေတ်မီ AI ကို အသုံးပြုရလွယ်ကူသော ပလက်ဖောင်းအဖြစ်သို့ ပြောင်းလဲပေးပြီး ကြီးမားသော အေးဂျင့်စနစ်များ ဖွံ့ဖြိုးတိုးတက်မှုကို ပံ့ပိုးရန်အတွက် ပွင့်လင်းမြင်သာမှုနှင့် ထိရောက်မှုကို မြှင့်တင်ပေးကြောင်း ၎င်းက အလေးပေးပြောကြားခဲ့သည်။
ဥရောပ၊ တောင်ကိုရီးယားနှင့် အခြားဒေသများတစ်လျှောက်ရှိ အမျိုးသားနှင့် ဒေသဆိုင်ရာ AI ကြိုးပမ်းမှုများသည် Nemotron ကို ပွင့်လင်းပြီး ဒေသတွင်းထိန်းချုပ်ထားသော AI ဖွံ့ဖြိုးတိုးတက်မှုအတွက် အခြေခံအုတ်မြစ်အဖြစ် စဉ်းစားနေကြပြီးဖြစ်သည်။ Accenture၊ Cadence၊ CrowdStrike၊ Cursor၊ Deloitte၊ Palantir၊ Perplexity နှင့် အခြားသူများ အပါအဝင် အစောပိုင်းအသုံးပြုသူများသည် ထုတ်လုပ်ခြင်း၊ ဆိုက်ဘာလုံခြုံရေး၊ ဆော့ဖ်ဝဲအင်ဂျင်နီယာ၊ မီဒီယာနှင့် ဆက်သွယ်ရေးတို့ကို လွှမ်းခြုံထားသော လုပ်ငန်းစဉ်များထဲသို့ Nemotron မော်ဒယ်များကို ထည့်သွင်းနေကြသည်။
မော်ဒယ်စာရင်း- Nano၊ Super နှင့် Ultra
Nemotron 3 တွင် MoE မော်ဒယ်အလွှာသုံးလွှာပါဝင်ပြီး တစ်ခုချင်းစီသည် မတူညီသော workloads အတန်းအစားများကို ပစ်မှတ်ထားသည်-
- nano သေးငယ်ပြီး ခန့်မှန်းခြေအားဖြင့် ၃၀ ဘီလီယံ ကန့်သတ်ချက်ရှိတဲ့ မော်ဒယ်တစ်ခုဖြစ်ပြီး active တိုကင်တစ်ခုလျှင် ကန့်သတ်ချက် ၃ ဘီလီယံအထိ ဘို့ ထိရောက်သော ကောက်ချက်ချခြင်း။ ၎င်းသည် သငျ့လျြောသော အလုပ်များအတွက် ကဲ့သို့e အမှားပြင်ဆင်ခြင်း၊ အကျဉ်းချုပ်ခြင်း၊ AI ပိုက်လိုင်းနှင့် သတင်းအချက်အလက်ရယူခြင်း၊ နှောင့်နှေးမှုနည်းပါးခြင်းနှင့် ပေးရ များမှာ အရေးကြီးတယ်။ င်း hybrid MoE ဒီဇိုင်းသည် Nemotron 2 Nano ထက် ၄ ဆအထိ တိုကင်ပမာဏကို ပေးစွမ်းပြီး ကျိုးကြောင်းဆင်ခြင်စရိတ်များကို ၆၀ ရာခိုင်နှုန်းအထိ လျှော့ချပေးကာ ಒಟ್ಟಾರೆ ကောက်ချက်ကုန်ကျစရိတ်များကို လျှော့ချပေးပါသည်။၁ သန်းတန် တိုကင် context window ဖြင့် Nemotron 3 Nano သည် ထိန်းသိမ်းရန်s ပြည်နယ်အနှံ့ ပိုမိုများပြားစွာ ရှည်လျားသော လုပ်ငန်းစဉ်များ၊ တိကျမှုကို တိုးတက်ကောင်းမွန်စေခြင်းနှင့် ဝေးလံသော အခြေအနေကို ချိတ်ဆက်ခြင်း။ လွတ်လပ်သော စံနှုန်းများက ၎င်းကို အဆင့်သတ်မှတ်သည် ၎င်း၏ ပွင့်လင်းမြင်သာမှုအရှိဆုံးနှင့် အထိရောက်ဆုံး မော်ဒယ်များထဲတွင် အတန်းအစားအတူ ထိပ်တန်း တိကျမှုအကြား သက်တူရွယ်တူs.
- Super သည် တိုကင်တစ်ခုလျှင် ခန့်မှန်းခြေအားဖြင့် ကန့်သတ်ချက်ပေါင်း ၁၀၀ ဘီလီယံနှင့် တက်ကြွသော ကန့်သတ်ချက်ပေါင်း ၁၀ ဘီလီယံအထိပါရှိသော ပိုမိုတိကျသော ကျိုးကြောင်းဆင်ခြင်ခြင်းပုံစံတစ်ခုဖြစ်သည်။ ၎င်းကို အေးဂျင့်များစွာသည် နှောင့်နှေးမှုနည်းသော လိုအပ်ချက်များအောက်တွင် ရှုပ်ထွေးသော ရည်မှန်းချက်များအောင်မြင်ရန် ပူးပေါင်းဆောင်ရွက်သည့် multi-agent အပလီကေးရှင်းများအတွက် ဒီဇိုင်းထုတ်ထားသည်။ Super သည် အကြီးဆုံးပုံစံများ၏ ကုန်ကျစရိတ်ပရိုဖိုင်ကို မထိခိုက်စေဘဲ အေးဂျင့်များတစ်လျှောက် ကျိုးကြောင်းဆင်ခြင်ခြင်းအနက်၊ ကိရိယာအသုံးပြုမှုနှင့် ညှိနှိုင်းဆောင်ရွက်မှုတို့ကို တိုးချဲ့ရန် လိုအပ်သည့် အခြေအနေများအတွက် သင့်လျော်ပါသည်။
- Ultra သည် ထိပ်တန်းမော်ဒယ်ဖြစ်ပြီး ကြီးမားသော ကျိုးကြောင်းဆင်ခြင်အင်ဂျင်အဖြစ် လုပ်ဆောင်ပေးပြီး တိုကင်တစ်ခုလျှင် ခန့်မှန်းခြေအားဖြင့် ၅၀၀ ဘီလီယံ parameters နှင့် ၅၀ ဘီလီယံအထိ active parameters များပါရှိသည်။ ၎င်းကို နက်ရှိုင်းသောသုတေသန၊ မဟာဗျူဟာစီမံကိန်းရေးဆွဲခြင်းနှင့် အလွန်ရှည်လျားသောအခြေအနေများတွင် အရည်အသွေးမြင့်ကျိုးကြောင်းဆင်ခြင်ခြင်းလိုအပ်သည့် ရှုပ်ထွေးသောဆုံးဖြတ်ချက်ပံ့ပိုးမှုစနစ်များအပါအဝင် အလိုအပ်ဆုံး AI workflows များအတွက် ရည်ရွယ်ပါသည်။
Nemotron 3 Super နှင့် Ultra တို့ကို Blackwell ဗိသုကာပုံစံပေါ်တွင် NVIDIA ၏ 4-bit NVFP4 ဖော်မတ်ကို အသုံးပြု၍ လေ့ကျင့်ပေးထားသည်။ ဤလေ့ကျင့်ရေးဖော်မတ်သည် မှတ်ဉာဏ်အသုံးပြုမှုကို သိသိသာသာလျှော့ချပေးပြီး တိကျမှုမြင့်မားသောဖော်မတ်များနှင့် နှိုင်းယှဉ်နိုင်သော တိကျမှုကို ထိန်းသိမ်းထားစဉ် လေ့ကျင့်မှုပမာဏကို တိုးတက်ကောင်းမွန်စေသည်။ စီးပွားရေးလုပ်ငန်းများနှင့် ဝန်ဆောင်မှုပေးသူများအတွက်၊ ၎င်းသည် ပိုကြီးသောမော်ဒယ်များကို ရှိပြီးသားအခြေခံအဆောက်အအုံပေါ်တွင် လေ့ကျင့်ပေးနိုင်သည် သို့မဟုတ် ပေးထားသောစကေးအတွက် လိုအပ်သော ဟာ့ဒ်ဝဲအသုံးပြုမှုကို လျှော့ချပေးနိုင်သည်။
ဤအဆင့်ဆင့်ခွဲခြားထားသော မိသားစုဖြင့် developer များသည် မော်ဒယ်အရွယ်အစားနှင့် စွမ်းရည်များကို သီးခြား workloads များနှင့် ကုန်ကျစရိတ်ပစ်မှတ်များနှင့် ကိုက်ညီစေပြီး ရှုပ်ထွေးသော၊ အဆင့်များစွာပါဝင်သော workflows များတွင် ပိုမိုမြန်ဆန်ပြီး ပိုမိုတိကျသော ရေရှည်ကျိုးကြောင်းဆင်ခြင်မှုကို ထိန်းသိမ်းထားစဉ်တွင် အေးဂျင့်ဒါဇင်ပေါင်းများစွာမှ ရာပေါင်းများစွာအထိ တိုးချဲ့နိုင်သည်။
လမ်းကြောင်းရှာဖွေခြင်း၊ တိုကင်စီးပွားရေးနှင့် Hybrid Model ဗျူဟာများ
multi-agent စနစ်များ ရင့်ကျက်လာသည်နှင့်အမျှ အဖွဲ့အစည်းများစွာသည် hybrid model ဗျူဟာများကို လက်ခံကျင့်သုံးလာကြသည်။ Frontier ၏ မူပိုင်ခွင့်ရ မော်ဒယ်များကို အရှုပ်ထွေးဆုံး ကျိုးကြောင်းဆင်ခြင်ခြင်းဆိုင်ရာ လုပ်ငန်းတာဝန်များအတွက် အသုံးပြုကြပြီး၊ ထိရောက်ပြီး စိတ်ကြိုက်ပြင်ဆင်နိုင်သော open မော်ဒယ်များသည် ပုံမှန် သို့မဟုတ် domain-specialized workloads များကို ကိုင်တွယ်ကြသည်။ Nemotron 3 ကို ဤကဲ့သို့သော routing-based architecture အတွက် တိကျစွာ ဒီဇိုင်းထုတ်ထားသည်။
ပုံမှန် setup တစ်ခုတွင်၊ agent router သည် tasks များကို real-time ခွဲခြမ်းစိတ်ဖြာသည်။ ၎င်းသည် ၎င်းတို့ကို Nemotron 3 Ultra ကဲ့သို့သော fine-tuned Nemotron မော်ဒယ်သို့ သို့မဟုတ် ထူးခြားသောတန်ဖိုးကို ပေးစွမ်းသည့်အခါ proprietary မော်ဒယ်သို့ ပေးပို့သည်။ ဤချဉ်းကပ်မှုသည် အခက်ခဲဆုံး case များအတွက် စျေးကြီးသော frontier capacity ကို သီးသန့်ထားရှိခြင်းနှင့် high-throughput၊ high-efficiency workloads အတွက် Nemotron ကို အသုံးချခြင်းဖြင့် token economics ကို အကောင်းဆုံးဖြစ်အောင် ကူညီပေးသည်။
AI လက်ထောက်များနှင့် အေးဂျင့်ပလက်ဖောင်းများတည်ဆောက်သည့် မိတ်ဖက်များက ဤလမ်းကြောင်းရှာဖွေမှုဗျူဟာသည် ၎င်းတို့အား ပိုမိုကောင်းမွန်သော တုံ့ပြန်မှုနှင့် ပိုမိုကောင်းမွန်သော ကုန်ကျစရိတ်ထိန်းချုပ်မှုကို ပေးစွမ်းနိုင်စေသည့်အပြင် မတူညီသော မော်ဒယ်ပံ့ပိုးပေးသူများနှင့် လေ့ကျင့်ရေးဗျူဟာကို အချိန်နှင့်အမျှ ပေါင်းစပ်ရန် ပြောင်းလွယ်ပြင်လွယ်ရှိမှုကို ထိန်းသိမ်းထားနိုင်ကြောင်း အစီရင်ခံကြသည်။
ပွင့်လင်းဒေတာ၊ စာကြည့်တိုက်များနှင့် ဘေးကင်းရေးကိရိယာများ
မော်ဒယ်များအပြင် NVIDIA သည် custom agent ဖွံ့ဖြိုးတိုးတက်မှုကို ပံ့ပိုးရန်အတွက် သိသာထင်ရှားသော open resource အစုံကို ထုတ်ပြန်လိုက်ပါသည်။
လေ့ကျင့်ရေးနှင့် RL ဒေတာအစုံများ
NVIDIA သည် မတိုင်မီ၊ နောက်ပိုင်းနှင့် အားဖြည့်သင်ယူမှုအတွက် Nemotron datasets ၃ ထရီလီယံ တိုကင်များကို ပံ့ပိုးပေးနေပါသည်။ ဤ datasets များတွင် domain-specific agent များကို လေ့ကျင့်ပေးရန် သို့မဟုတ် အသေးစိတ်ချိန်ညှိရန် အသုံးပြုနိုင်သည့် ကျိုးကြောင်းဆင်ခြင်ခြင်း၊ coding နှင့် multi-step workflows များပါဝင်သည့် ဥပမာအမျိုးမျိုး ပါဝင်သည်။ Nemotron Agentic Safety Dataset သည် အဖွဲ့များသည် ရှုပ်ထွေးပြီး ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရှိသော စနစ်များ၏ ဘေးကင်းရေးကို အကဲဖြတ်ရန်နှင့် မြှင့်တင်ရန် အသုံးပြုနိုင်သည့် လက်တွေ့ကမ္ဘာ telemetry data ကို ပေးဆောင်သည်။
NeMo Gym နှင့် NeMo RL
အားဖြည့်သင်ယူမှုနှင့် လေ့ကျင့်မှုအပြီးတွင် ရိုးရှင်းစေရန်အတွက် NVIDIA သည် NeMo Gym နှင့် NeMo RL တို့ကို open-source libraries များအဖြစ် ထုတ်ပြန်ခဲ့သည်။ ၎င်းတို့သည် Nemotron မော်ဒယ်များနှင့် ချိန်ညှိထားသော လေ့ကျင့်ရေးပတ်ဝန်းကျင်များနှင့် လေ့ကျင့်မှုအပြီးတွင် အခြေခံများကို ပံ့ပိုးပေးပြီး အခြားဗိသုကာပုံစံများအတွက်လည်း တိုးချဲ့ သို့မဟုတ် လိုက်လျောညီထွေဖြစ်အောင် ပြုလုပ်နိုင်သည်။ NeMo Evaluator ကို benchmark များနှင့် အသုံးပြုမှုကိစ္စရပ်များတွင် မော်ဒယ်ဘေးကင်းရေးနှင့် စွမ်းဆောင်ရည်ကို အကဲဖြတ်ရန် ထည့်သွင်းထားသည်။
ဤကိရိယာများနှင့်ဒေတာစုအားလုံးကို GitHub နှင့် Hugging Face တွင်ရရှိနိုင်ပြီး အဖွဲ့များအနေဖြင့် ၎င်းတို့ကို ရှိပြီးသား MLOps ပိုက်လိုင်းများနှင့် လေ့ကျင့်ရေးလုပ်ငန်းစဉ်များထဲသို့ ပေါင်းစပ်နိုင်စေပါသည်။ Prime Intellect နှင့် Unsloth ကဲ့သို့သော ဂေဟစနစ်ကစားသမားများသည် enterprise user များအတွက် reinforcement learning ကို ရိုးရှင်းစေရန် NeMo Gym လေ့ကျင့်ရေးပတ်ဝန်းကျင်များကို ၎င်းတို့၏ပလက်ဖောင်းများတွင် ပေါင်းစပ်ပြီးဖြစ်သည်။
Nemotron 3 မော်ဒယ်များသည် LM Studio၊ llama.cpp၊ SGLang နှင့် vLLM အပါအဝင် လူကြိုက်များသော inference နှင့် deployment framework များနှင့်လည်း တွဲဖက်အသုံးပြုနိုင်ပြီး ၎င်းတို့သည် ဒေသတွင်းစမ်းသပ်မှုများပြုလုပ်ရန်နှင့် မတူညီသောပတ်ဝန်းကျင်များတွင် ဖြန့်ကျက်ရန် ပိုမိုလွယ်ကူစေသည်။
အသုံးပြုနိုင်မှု
Nemotron 3 Nano ကို အောက်တွင်ဖော်ပြထားသော ဖြန့်ဖြူးရေးလမ်းကြောင်းများစွာမှတစ်ဆင့် ယနေ့ရရှိနိုင်ပါသည်။
မော်ဒယ်ဗဟိုချက်များနှင့် ကောက်ချက်ပေးသူများ- Nemotron 3 Nano မော်ဒယ်ကို Hugging Face နှင့် Baseten၊ DeepInfra၊ Fireworks၊ FriendliAI၊ OpenRouter နှင့် Together AI အပါအဝင် ကောက်ချက်ပေးသူများမှတစ်ဆင့် ရရှိနိုင်ပါသည် ။ ဤဝန်ဆောင်မှုများသည် အဖွဲ့များအား မော်ဒယ်ကို အကဲဖြတ်ရန်နှင့် ရှိပြီးသားအပလီကေးရှင်းများထဲသို့ ပေါင်းစပ်ရန် မြန်ဆန်သောလမ်းကြောင်းကို ပေးသည်။
Enterprise Platforms: Nemotron မော်ဒယ်များကို Couchbase၊ DataRobot၊ H2O.ai၊ JFrog၊ Lambda နှင့် UiPath အပါအဝင် enterprise AI နှင့် data platform များတွင် ပေါင်းစပ်ထားသည်။ ၎င်းသည် ဖောက်သည်များအား Nemotron-powered စွမ်းရည်များကို ၎င်းတို့၏ data၊ orchestration နှင့် automation stack များထဲသို့ တိုက်ရိုက်ထည့်သွင်းနိုင်စေပါသည်။
Public Cloud နှင့် NIM Microservices: public cloud အသုံးပြုသူများအတွက် Nemotron 3 Nano ကို AWS တွင် serverless inference အတွက် Amazon Bedrock မှတစ်ဆင့် ရရှိနိုင်မည်ဖြစ်ပြီး Google Cloud၊ CoreWeave၊ Crusoe၊ Microsoft Foundry၊ Nebius၊ Nscale နှင့် Yotta တို့တွင်လည်း ရရှိနိုင်မည်ဖြစ်သည်။
Nemotron 3 Nano ကို NVIDIA-accelerated infrastructure ပေါ်တွင် လုံခြုံပြီး တိုးချဲ့နိုင်သော ဖြန့်ကျက်မှုအတွက် NVIDIA NIM microservice အဖြစ်လည်း ပေးဆောင်ထားပြီး လုပ်ငန်းများအနေဖြင့် privacy၊ data locality နှင့် performance တို့အပေါ် ပိုမိုထိန်းချုပ်နိုင်စေပါသည်။
Nemotron 3 Super နှင့် Ultra တို့ကို ၂၀၂၆ ခုနှစ် ပထမနှစ်ဝက်တွင် ရရှိနိုင်မည်ဟု မျှော်လင့်ရပြီး အဖွဲ့အစည်းများအနေဖြင့် အစောပိုင်း အေးဂျင့်အသုံးပြုမှုကိစ္စရပ်များအတွက် Nano အဆင့်တွင် စံသတ်မှတ်ရန်နှင့် လိုအပ်ချက်များ တိုးလာသည်နှင့်အမျှ ပိုကြီးသော မော်ဒယ်များသို့ အနာဂတ်ပြောင်းရွှေ့မှုများကို စီစဉ်ရန် အချိန်ပေးပါသည်။
အမေဇုံ