Společnost NVIDIA na konferenci AI Day Seoul zveřejnila recepty na nasazení Dynama pro čtyři korejské otevřené modely: AX K2 od SK Telecom, K-EXAONE 2.0 od LG AI Research, Solar Open 2 od Upstage a Motif-3 od Motif Technologies. Recepty jsou vyladěny pro grafické procesory NVIDIA B200 a NVIDIA uvádí, že poskytují až 2x vyšší výkon ihned po instalaci, aniž by uváděla základní parametry, pracovní zátěž nebo konfiguraci obsluhy, která se za tímto číslem skrývá. Recepty se objevily spolu s širší sadou korejských oznámení týkajících se zabezpečení agentů, suverénní infrastruktury a investic do startupů.
Recepty dynama pro čtyři korejské otevřené modely
Dynamo je open-source distribuovaný inferenční framework od společnosti NVIDIA pro nasazení s více uzly v datovém centru. Zpracovává směrování požadavků a komunikaci mezi GPU, když model zahrnuje více než jeden uzl. Recept obsahuje konfiguraci pro specifický model, takže jej tým může spustit v produkčním prostředí, aniž by musel ladit od nuly.
NVIDIA uvádí, že tyto čtyři recepty mají za cíl rychleji přesunout korejské otevřené modely do produkčního prostředí a do služeb financovaných v rámci vládní iniciativy AI for All. V rámci této iniciativy bude NVIDIA spolupracovat se třemi vybranými konsorcii a čtyřmi korejskými nadacemi pro tvorbu modelů na optimalizaci a škálování inference v platformě Dynamo.
Zabezpečení agentů
Společnost Hyundai Motor Group zkoumá technologii NVIDIA NemoClaw a běhové prostředí NVIDIA OpenShell pro podnikové agenty s umělou inteligencí. OpenShell je součástí platformy Open Agent Safety Platform od společnosti NVIDIA a poskytuje spouštění v sandboxu a kontroly založené na pravidlech nad citlivými daty, přístupem k podnikovým nástrojům a autonomními akcemi agentů.
Společnost AIM Intelligence, korejská bezpečnostní společnost zabývající se umělou inteligencí, integruje svou platformu pro řízení agentů Starfort s OpenShellem a propojuje tak řízení přístupu za běhu v OpenShellu s detekcí škodlivých instrukcí a úniku dat pomocí Starfortu. AIM Intelligence zvažuje předběžné ověření konceptu ve veřejném energetickém sektoru, přičemž pozdější možností je nasazení v podnikovém, průmyslovém a robotickém sektoru.
Společnost LG AI Research otevírá přístup k API pro K-EXAONE-2.5, který vyvinula s využitím datových sad NVIDIA Nemotron, včetně Nemotron-Personas-Korea, což je sada 7 milionů plně syntetických korejských person. Příspěvky společnosti NVIDIA používají pro model LG dvě čísla verzí: oznámení API označuje K-EXAONE-2.5 a recept Dynamo cílí na K-EXAONE 2.0.
Suverénní infrastruktura umělé inteligence a startupy
Společnost NVIDIA a korejské ministerstvo vědy a informačních a komunikačních technologií (ICT) rozšiřují svou spolupráci od polovodičů umělé inteligence a infrastruktury datových center až po talenty, startupy, modely, agenty a bezpečnost. Dohoda dává korejským společnostem zabývajícím se NPU a XPU cestu k prozkoumání ekosystému NVLink Fusion a prvním konkrétním výsledkem je plán Rebellions R200 a SK Telecom s grafickými procesory NVIDIA pro předběžné doplnění, grafickými procesory Rebellions pro dekódování a systémy cílenými na rok 2028. Spolupráce zahrnuje také školicí a certifikační programy NVIDIA, hackathony a technické semináře zaměřené na zvýšení využití grafických procesorů.
Co se týče startupů, NVIDIA oznámila investici do Point2 a plánované investice do společností Motif Technologies, RLWRLD a Upstage, z nichž dvě patří mezi čtyři tvůrce recepturních modelů pro Dynamo. Náměstek ministra pro vědu a informační a komunikační technologie Ryu Je-myung se setkal s více než 20 korejskými startupy na fóru partnerství MSIT-NVIDIA pro startupy s umělou inteligencí a NVIDIA má ve svém programu Inception více než 1 000 členů se sídlem v Koreji.
Amazon