StorageReview.com

NVIDIA skickar Dynamo-recept för AX K2, K-EXAONE, Solar Open 2 och Motif-3 på B200, och gör anspråk på upp till dubbelt så mycket.

AI  ◇  Företag

NVIDIA släppte Dynamo-distributionsrecept för fyra koreanska öppna modeller på AI Day Seoul: SK Telecoms AX K2, LG AI Researchs K-EXAONE 2.0, Upstages Solar Open 2 och Motif Technologies Motif-3. Recepten är anpassade för NVIDIA B200 GPU:er, och NVIDIA säger att de levererar upp till dubbelt så hög prestanda direkt utan att nämna baslinjen, arbetsbelastningen eller serverkonfigurationen bakom den siffran. Recepten hamnade tillsammans med en bredare uppsättning koreanska tillkännagivanden som täckte agentsäkerhet, statlig infrastruktur och startup-investeringar.

NVIDIA-rendering av rader av mörka serverrack med ett glödande grönt chip och en kontur av Sydkorea med dess flagga i förgrunden, som illustrerar NVIDIA Dynamo-recept för koreanska öppna modeller

Dynamo-recept för fyra koreanska öppna modeller

Dynamo är NVIDIAs distribuerade ramverk för inferensserving med öppen källkod för distribution av flera noder i datacenterskala, och det hanterar förfrågningsrouting och kommunikationen mellan GPU:er när en modell sträcker sig över mer än en. Ett recept paketerar servkonfigurationen för en specifik modell så att ett team kan köra den i produktion utan att behöva justera från grunden.

NVIDIA säger att de fyra recepten är avsedda att snabbare få Koreas öppna modeller i produktion och in i de tjänster som finansieras genom regeringens AI for All-initiativ. Inom ramen för det initiativet kommer NVIDIA att arbeta med tre utvalda konsortier och fyra koreanska grundmodellbyggare för att optimera och skala inferens på Dynamo.

Agentsäkerhet

Hyundai Motor Group utforskar NVIDIA NemoClaw-ritningar och NVIDIA OpenShell- körtiden för AI-agenter för företag. OpenShell är en del av NVIDIAs Open Agent Safety Platform och tillhandahåller sandlådebaserad exekvering och policybaserade kontroller över känsliga data, åtkomst till företagsverktyg och autonoma agentåtgärder.

NVIDIA OpenShell Reference Architecture-grafik med tre mörka paneler: en BlueField DPU-chip med ikoner för policy, lås och övervakning, ett Vera Rubin NVL72-beräkningsfack och en Vera CPU-chip med ikoner för dataflöde, effektivitet och säkerhet

AIM Intelligence, ett koreanskt AI-säkerhetsföretag, integrerar sin Starfort-plattform för agentkontroll med OpenShell, och kombinerar OpenShells åtkomstkontroller vid körning med Starforts detektering av skadliga instruktioner och dataläckage. AIM Intelligence överväger ett preliminärt koncepttest inom den offentliga energisektorn, med senare möjligheter till implementering inom företag, industri och robotteknik.

LG AI Research öppnar API-åtkomst till K-EXAONE-2.5, som de utvecklade med hjälp av NVIDIA Nemotron-datauppsättningar, inklusive Nemotron-Personas-Korea, en uppsättning av 7 miljoner helt syntetiska koreanska personas. NVIDIAs inlägg använder två versionsnummer för LG-modellen: API-meddelandet heter K-EXAONE-2.5, och Dynamo-receptet riktar sig mot K-EXAONE 2.0.

Suverän AI-infrastruktur och startups

NVIDIA och Koreas ministerium för vetenskap och IKT utökar sitt samarbete från AI-halvledare och datacenterinfrastruktur till talanger, startups, modeller, agenter och säkerhet. Avtalet ger koreanska NPU- och XPU-företag en möjlighet att utforska NVLink Fusion-ekosystemet, och det första konkreta resultatet är Rebellions R200 och SK Telecom-planen , med NVIDIA GPU:er på prefill, Rebellions NPU:er på decode och system som riktas mot 2028. Samarbetet omfattar även NVIDIAs utbildnings- och certifieringsprogram, hackathons och tekniska seminarier som syftar till att öka GPU-användningen.

På startupsidan tillkännagav NVIDIA en investering i Point2 och planerade investeringar i Motif Technologies, RLWRLD och Upstage, varav två är bland de fyra Dynamo-receptmodellbyggarna. Viceminister för vetenskap och IKT Ryu Je-myung träffade mer än 20 koreanska startups vid ett MSIT-NVIDIA AI Startup Partnership Forum, och NVIDIA har mer än 1 000 koreanska medlemmar i sitt Inception-program.

NVIDIA Dynamo

Engagera dig med StorageReview

Nyhetsbrev | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS-flöde

Harold Fritts

Jag har varit i teknikbranschen sedan IBM skapade Selectric. Min bakgrund är dock att skriva. Så jag bestämde mig för att lämna pre-sales-branschen och återvända till mina rötter, skriva lite men fortfarande vara involverad i teknik.