Lors de l'AI Day Seoul, NVIDIA a présenté des modèles de déploiement Dynamo pour quatre plateformes ouvertes coréennes : AX K2 de SK Telecom, K-EXAONE 2.0 de LG AI Research, Solar Open 2 d'Upstage et Motif-3 de Motif Technologies. Optimisées pour les GPU NVIDIA B200, ces configurations offrent, selon NVIDIA, des performances jusqu'à deux fois supérieures dès leur mise en service, sans toutefois préciser la configuration de base, la charge de travail ou le serveur utilisés. Ces modèles ont été dévoilés en même temps qu'une série d'annonces concernant la Corée et portant sur la sécurité des agents, les infrastructures souveraines et les investissements dans les startups.
Recettes Dynamo pour quatre modèles coréens ouverts
Dynamo est le framework open source de NVIDIA pour la gestion des inférences distribuées dans les déploiements multi-nœuds à l'échelle des centres de données. Il gère le routage des requêtes et la communication entre les GPU lorsqu'un modèle s'étend sur plusieurs machines. Une recette contient la configuration de service pour un modèle spécifique, permettant ainsi à une équipe de le déployer en production sans avoir à le paramétrer manuellement.
NVIDIA affirme que ces quatre recettes visent à accélérer la mise en production des modèles ouverts coréens et leur intégration aux services financés par l'initiative gouvernementale « L'IA pour tous ». Dans le cadre de cette initiative, NVIDIA collaborera avec trois consortiums sélectionnés et quatre fondations coréennes spécialisées dans la modélisation afin d'optimiser et de déployer à grande échelle l'inférence sur Dynamo.
Agent de sécurité
Hyundai Motor Group étudie les modèles NVIDIA NemoClaw et l' environnement d'exécution NVIDIA OpenShell pour les agents d'IA d'entreprise. OpenShell fait partie de la plateforme de sécurité Open Agent de NVIDIA et offre une exécution en environnement isolé (sandbox) ainsi que des contrôles basés sur des politiques pour les données sensibles, l'accès aux outils d'entreprise et les actions autonomes des agents.
AIM Intelligence, une entreprise coréenne spécialisée dans la sécurité de l'IA, intègre sa plateforme de contrôle d'agents Starfort à OpenShell, combinant ainsi les contrôles d'accès en temps réel d'OpenShell à la détection des instructions malveillantes et des fuites de données par Starfort. AIM Intelligence étudie actuellement une première preuve de concept dans le secteur public de l'énergie, les déploiements ultérieurs dans les entreprises, l'industrie et la robotique étant envisagés.
LG AI Research ouvre l'accès à son API pour K-EXAONE-2.5, un modèle développé à partir des jeux de données NVIDIA Nemotron, notamment Nemotron-Personas-Korea, un ensemble de 7 millions de profils coréens entièrement synthétiques. NVIDIA mentionne deux versions du modèle LG : l'annonce de l'API fait référence à K-EXAONE-2.5, tandis que la recette Dynamo cible K-EXAONE 2.0.
Infrastructures et startups d'IA souveraine
NVIDIA et le ministère coréen des Sciences et des TIC étendent leur collaboration, initialement axée sur les semi-conducteurs pour l'IA et les infrastructures de centres de données, aux talents, aux startups, aux modèles, aux agents et à la sécurité. Cet accord permet aux entreprises coréennes spécialisées dans les NPU et XPU d'explorer l'écosystème NVLink Fusion. Premier résultat concret : le projet Rebellions R200 et SK Telecom , qui utilise des GPU NVIDIA pour le préremplissage et des NPU Rebellions pour le décodage, avec des systèmes prévus pour 2028. La collaboration comprend également des programmes de formation et de certification NVIDIA, des hackathons et des séminaires techniques visant à optimiser l'utilisation des GPU.
Du côté des startups, NVIDIA a annoncé un investissement dans Point2 et prévoit d'investir dans Motif Technologies, RLWRLD et Upstage, dont deux figurent parmi les quatre concepteurs de modèles de recettes Dynamo. Le vice-ministre des Sciences et des TIC, Ryu Je-myung, a rencontré plus de 20 startups coréennes lors d'un forum de partenariat MSIT-NVIDIA sur les startups spécialisées en IA. Par ailleurs, le programme Inception de NVIDIA compte plus de 1 000 membres basés en Corée.
Amazon