StorageReview.com

NVIDIA lanza recetas Dynamo para AX K2, K-EXAONE, Solar Open 2 y Motif-3 en B200, afirmando hasta 2x

AI  ◇  Empresa

NVIDIA presentó recetas de implementación de Dynamo para cuatro modelos abiertos coreanos en AI Day Seoul: AX K2 de SK Telecom, K-EXAONE 2.0 de LG AI Research, Solar Open 2 de Upstage y Motif-3 de Motif Technologies. Las recetas están optimizadas para las GPU NVIDIA B200, y NVIDIA afirma que ofrecen hasta el doble de rendimiento de forma predeterminada, sin especificar la configuración base, la carga de trabajo ni la configuración de servicio que respaldan esta cifra. Las recetas se presentaron junto con una serie de anuncios más amplios sobre Corea del Sur, que abarcan la seguridad de los agentes, la infraestructura soberana y las inversiones en startups.

Renderizado por NVIDIA de filas de racks de servidores oscuros con un chip verde brillante y el contorno de Corea del Sur con su bandera en primer plano, ilustrando las recetas de NVIDIA Dynamo para modelos abiertos coreanos.

Recetas de dinamo para cuatro modelos coreanos de código abierto

Dynamo es el marco de trabajo de código abierto de NVIDIA para la inferencia distribuida en implementaciones multinodo a escala de centro de datos. Gestiona el enrutamiento de solicitudes y la comunicación entre GPU cuando un modelo abarca más de una. Una receta empaqueta la configuración de servicio para un modelo específico, de modo que un equipo pueda implementarlo en producción sin necesidad de realizar ajustes desde cero.

NVIDIA afirma que las cuatro recetas tienen como objetivo acelerar la puesta en producción de los modelos abiertos coreanos y su integración en los servicios financiados por la iniciativa gubernamental IA para Todos. En el marco de esta iniciativa, NVIDIA colaborará con tres consorcios seleccionados y cuatro fundaciones coreanas de desarrollo de modelos para optimizar y escalar la inferencia en Dynamo.

Seguridad del agente

Hyundai Motor Group está explorando los planos de NVIDIA NemoClaw y el entorno de ejecución NVIDIA OpenShell para agentes de IA empresariales. OpenShell forma parte de la plataforma Open Agent Safety de NVIDIA y proporciona ejecución en entornos aislados y controles basados ​​en políticas sobre datos confidenciales, acceso a herramientas empresariales y acciones de agentes autónomos.

Gráfico de la arquitectura de referencia de NVIDIA OpenShell con tres paneles oscuros: un chip DPU BlueField con iconos de política, bloqueo y monitorización, una bandeja de cómputo Vera Rubin NVL72 y un chip CPU Vera con iconos de rendimiento, eficiencia y seguridad.

AIM Intelligence, una empresa coreana de seguridad basada en IA, está integrando su plataforma de control de agentes Starfort con OpenShell, combinando los controles de acceso en tiempo de ejecución de OpenShell con la detección de instrucciones maliciosas y fugas de datos de Starfort. AIM Intelligence está evaluando una prueba de concepto preliminar en el sector energético público, con la posibilidad de implementarla posteriormente en empresas, industria y robótica.

LG AI Research está abriendo el acceso a la API de K-EXAONE-2.5, que desarrolló utilizando conjuntos de datos de NVIDIA Nemotron, incluido Nemotron-Personas-Korea, un conjunto de 7 millones de perfiles de usuario coreanos totalmente sintéticos. Las publicaciones de NVIDIA utilizan dos números de versión para el modelo de LG: el anuncio de la API lo denomina K-EXAONE-2.5, y la receta de Dynamo apunta a K-EXAONE 2.0.

Infraestructura de IA soberana y startups

NVIDIA y el Ministerio de Ciencia y TIC de Corea están ampliando su colaboración, que abarca desde semiconductores de IA e infraestructura de centros de datos hasta talento, startups, modelos, agentes y seguridad. El acuerdo ofrece a las empresas coreanas de NPU y XPU la oportunidad de explorar el ecosistema NVLink Fusion, y el primer resultado concreto es el plan Rebellions R200 y SK Telecom , con GPU de NVIDIA para la precarga, NPU de Rebellions para la decodificación y sistemas previstos para 2028. La colaboración también incluye programas de formación y certificación de NVIDIA, hackatones y seminarios técnicos destinados a aumentar la utilización de las GPU.

En el ámbito de las startups, NVIDIA anunció una inversión en Point2 y planeó inversiones en Motif Technologies, RLWRLD y Upstage, dos de las cuales se encuentran entre los cuatro creadores de modelos de recetas de Dynamo. El viceministro de Ciencia y TIC, Ryu Je-myung, se reunió con más de 20 startups coreanas en un foro de colaboración entre MSIT y NVIDIA para startups de IA, y NVIDIA cuenta con más de 1,000 miembros con sede en Corea en su programa Inception.

NVIDIA Dynamo

Interactuar con StorageReview

Boletín informativo | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Canal RSS

harold fritts

He estado en la industria de la tecnología desde que IBM creó Selectric. Mi experiencia, sin embargo, es la escritura. Así que decidí dejar el negocio de preventa y volver a mis raíces, escribir un poco pero seguir involucrado en tecnología.