A NVIDIA divulgou receitas de implantação do Dynamo para quatro modelos abertos coreanos no AI Day Seoul: AX K2 da SK Telecom, K-EXAONE 2.0 da LG AI Research, Solar Open 2 da Upstage e Motif-3 da Motif Technologies. As receitas são otimizadas para GPUs NVIDIA B200 e, segundo a NVIDIA, oferecem até o dobro do desempenho sem necessidade de configurações adicionais, sem especificar a linha de base, a carga de trabalho ou a configuração de serviço que justificam esse resultado. As receitas foram divulgadas juntamente com um conjunto mais amplo de anúncios relacionados à Coreia, abrangendo segurança de agentes, infraestrutura soberana e investimentos em startups.
Receitas Dynamo para quatro modelos coreanos de montagem aberta.
O Dynamo é a estrutura de inferência distribuída de código aberto da NVIDIA para implantações em vários nós em escala de data center, e lida com o roteamento de solicitações e a comunicação entre GPUs quando um modelo abrange mais de uma. Uma receita empacota a configuração de serviço para um modelo específico, para que uma equipe possa implementá-la em produção sem precisar fazer ajustes do zero.
A NVIDIA afirma que as quatro receitas visam acelerar a entrada em produção dos modelos abertos coreanos e sua integração aos serviços financiados pela iniciativa governamental "IA para Todos". Dentro dessa iniciativa, a NVIDIA trabalhará com três consórcios selecionados e quatro fundações coreanas de desenvolvimento de modelos para otimizar e escalar a inferência no Dynamo.
Agente de Segurança
O Hyundai Motor Group está explorando os projetos do NVIDIA NemoClaw e o ambiente de execução NVIDIA OpenShell para agentes de IA corporativos. O OpenShell faz parte da Plataforma de Segurança de Agentes Abertos da NVIDIA e oferece execução em sandbox e controles baseados em políticas sobre dados confidenciais, acesso a ferramentas corporativas e ações autônomas de agentes.
A AIM Intelligence, empresa coreana de segurança com inteligência artificial, está integrando sua plataforma de controle de agentes Starfort ao OpenShell, combinando os controles de acesso em tempo de execução do OpenShell com a detecção de instruções maliciosas e vazamento de dados do Starfort. A AIM Intelligence está avaliando uma prova de conceito preliminar no setor público de energia, com possibilidades futuras de implantação em empresas, indústrias e robótica.
A LG AI Research está abrindo o acesso à API do K-EXAONE-2.5, que desenvolveu usando conjuntos de dados do NVIDIA Nemotron, incluindo o Nemotron-Personas-Korea, um conjunto de 7 milhões de personas coreanas totalmente sintéticas. As publicações da NVIDIA usam dois números de versão para o modelo da LG: o anúncio da API menciona K-EXAONE-2.5, e a receita do Dynamo tem como alvo o K-EXAONE 2.0.
Infraestrutura de IA soberana e startups
A NVIDIA e o Ministério da Ciência e TIC da Coreia estão expandindo sua colaboração, que antes se concentrava em semicondutores de IA e infraestrutura de data centers, para abranger talentos, startups, modelos, agentes e segurança. O acordo oferece às empresas coreanas de NPU e XPU um caminho para explorar o ecossistema NVLink Fusion, e o primeiro resultado concreto é o plano da Rebellions R200 e da SK Telecom , com GPUs NVIDIA no pré-carregamento, NPUs da Rebellions na decodificação e sistemas com previsão de conclusão para 2028. A colaboração também abrange programas de treinamento e certificação da NVIDIA, hackathons e seminários técnicos com o objetivo de aumentar a utilização de GPUs.
No âmbito das startups, a NVIDIA anunciou um investimento na Point2 e planeja investir na Motif Technologies, RLWRLD e Upstage, duas das quais estão entre as quatro empresas que desenvolvem modelos de receitas para o Dynamo. O vice-ministro da Ciência e TIC, Ryu Je-myung, reuniu-se com mais de 20 startups coreanas em um Fórum de Parceria para Startups de IA entre o Ministério da Ciência e Tecnologia da Informação e Comunicação (MSIT) e a NVIDIA, e a empresa conta com mais de 1,000 membros na Coreia do Sul em seu programa Inception.
Amazon