In occasione dell'AI Day Seoul, NVIDIA ha rilasciato delle ricette di implementazione Dynamo per quattro modelli open coreani: AX K2 di SK Telecom, K-EXAONE 2.0 di LG AI Research, Solar Open 2 di Upstage e Motif-3 di Motif Technologies. Le ricette sono ottimizzate per le GPU NVIDIA B200 e, secondo NVIDIA, offrono prestazioni fino a due volte superiori fin da subito, senza tuttavia specificare il carico di lavoro, la configurazione di servizio o il modello di riferimento. Le ricette sono state presentate insieme a una serie di altri annunci relativi alla Corea, riguardanti la sicurezza degli agenti, le infrastrutture sovrane e gli investimenti nelle startup.
Ricette Dynamo per quattro modelli open coreani
Dynamo è il framework open-source di NVIDIA per la distribuzione di inferenze in ambienti multi-nodo su scala di data center, che gestisce l'instradamento delle richieste e la comunicazione tra le GPU quando un modello si estende su più di una. Una "ricetta" (recipe) impacchetta la configurazione di servizio per uno specifico modello, consentendo a un team di implementarla in produzione senza doverla configurare da zero.
NVIDIA afferma che le quattro ricette sono pensate per accelerare l'implementazione in produzione dei modelli aperti coreani e la loro integrazione nei servizi finanziati dall'iniziativa governativa "AI for All". Nell'ambito di tale iniziativa, NVIDIA collaborerà con tre consorzi selezionati e quattro fondazioni coreane specializzate nello sviluppo di modelli per ottimizzare e scalare l'inferenza su Dynamo.
Sicurezza dell'agente
Hyundai Motor Group sta valutando i modelli NVIDIA NemoClaw e il runtime NVIDIA OpenShell per gli agenti di intelligenza artificiale aziendali. OpenShell fa parte della piattaforma Open Agent Safety di NVIDIA e offre esecuzione in ambiente sandbox e controlli basati su policy per i dati sensibili, l'accesso agli strumenti aziendali e le azioni autonome degli agenti.
AIM Intelligence, un'azienda coreana specializzata in sicurezza informatica basata sull'intelligenza artificiale, sta integrando la sua piattaforma di controllo degli agenti Starfort con OpenShell, combinando i controlli di accesso in fase di esecuzione di OpenShell con il rilevamento di istruzioni dannose e fughe di dati da parte di Starfort. AIM Intelligence sta valutando una prova di concetto preliminare nel settore dell'energia pubblica, con possibili implementazioni future in ambito aziendale, industriale e robotico.
LG AI Research sta aprendo l'accesso API a K-EXAONE-2.5, sviluppato utilizzando i dataset di NVIDIA Nemotron, tra cui Nemotron-Personas-Korea, un set di 7 milioni di profili utente coreani completamente sintetici. I post di NVIDIA utilizzano due numeri di versione per il modello LG: l'annuncio dell'API si riferisce a K-EXAONE-2.5, mentre la ricetta Dynamo si riferisce a K-EXAONE 2.0.
Infrastrutture sovrane di intelligenza artificiale e startup
NVIDIA e il Ministero della Scienza e delle Tecnologie dell'Informazione e della Comunicazione della Corea del Sud stanno ampliando la loro collaborazione, che inizialmente si concentrava su semiconduttori per l'intelligenza artificiale e infrastrutture per data center, includendo talenti, startup, modelli, agenti e sicurezza. L'accordo offre alle aziende coreane produttrici di NPU e XPU la possibilità di esplorare l'ecosistema NVLink Fusion, e il primo risultato concreto è il progetto Rebellions R200 e SK Telecom , che prevede l'utilizzo di GPU NVIDIA in fase di precaricamento, NPU Rebellions in fase di decodifica e sistemi destinati al 2028. La collaborazione comprende anche programmi di formazione e certificazione NVIDIA, hackathon e seminari tecnici volti ad aumentare l'utilizzo delle GPU.
Sul fronte delle startup, NVIDIA ha annunciato un investimento in Point2 e ha pianificato investimenti in Motif Technologies, RLWRLD e Upstage, due delle quali figurano tra i quattro creatori di modelli di ricette Dynamo. Il viceministro della Scienza e delle Tecnologie dell'Informazione e della Comunicazione, Ryu Je-myung, ha incontrato oltre 20 startup coreane in occasione del Forum di partenariato per startup di intelligenza artificiale organizzato da MSIT e NVIDIA, e NVIDIA conta oltre 1,000 membri con sede in Corea nel suo programma Inception.
Amazon