WEKA anunció su integración estratégica con el diseño de referencia de la Plataforma de Datos de IA de NVIDIA. Obtuvo certificaciones de almacenamiento de NVIDIA cruciales para proporcionar una infraestructura optimizada, específicamente diseñada para IA con agentes y modelos de razonamiento complejo. Junto con este anuncio, WEKA presentó su innovadora función Augmented Memory Grid y certificaciones adicionales de Arquitecturas de Referencia de NVIDIA Cloud Partner (NCP), como NVIDIA GB200 NVL72 y Almacenamiento de Sistemas Certificado por NVIDIA para implementaciones de fábricas de IA a escala empresarial.
Acelerando los agentes de IA
La Plataforma de Datos de IA de NVIDIA representa un avance significativo en la infraestructura de IA empresarial, integrando a la perfección la arquitectura NVIDIA Blackwell, las DPU NVIDIA BlueField, la red Spectrum-X y el software NVIDIA AI Enterprise. Al combinar esta infraestructura avanzada de NVIDIA con la Plataforma de Datos WEKA, las empresas pueden implementar una base de almacenamiento altamente escalable, diseñada específicamente para cargas de trabajo de inferencia de IA de alto rendimiento.
Esta solución integrada aborda directamente las crecientes demandas de la IA empresarial, proporcionando a los agentes de consulta de IA un acceso ágil y sin interrupciones a inteligencia empresarial crítica, lo que se traduce en una mejora significativa del rendimiento de inferencia y la precisión del razonamiento. La Plataforma de Datos de WEKA garantiza que los sistemas de IA puedan transformar rápidamente los datos en inteligencia procesable, lo que facilita el razonamiento sofisticado que requieren los modelos de IA de próxima generación.
Cuadrícula de memoria aumentada WEKA
Los modelos de IA de Agentic evolucionan continuamente y pueden gestionar ventanas de contexto más amplias, un mayor número de parámetros y requisitos de memoria más significativos. Estos avances suelen superar los límites de la capacidad de memoria de las GPU tradicionales, lo que crea cuellos de botella en la inferencia de IA. WEKA aborda estos desafíos con su revolucionaria solución Augmented Memory Grid, una innovación que amplía la memoria disponible para las cargas de trabajo de IA, proporcionando incrementos a escala de petabytes, mucho más allá de las limitaciones actuales de un solo terabyte.
La Red de Memoria Aumentada de WEKA mejora significativamente la inferencia de IA al combinar el software de la plataforma de datos de WEKA con las tecnologías de computación y redes aceleradas de NVIDIA. Esta combinación permite un acceso a velocidad cercana a la de la memoria con una latencia de microsegundos, lo que mejora drásticamente el rendimiento del procesamiento de tokens y la eficiencia general de la inferencia de IA.
Las principales ventajas de la cuadrícula de memoria aumentada de WEKA incluyen:
-
Latencia drásticamente reducida : en pruebas con 105,000 tokens, la cuadrícula de memoria aumentada de WEKA ofreció una notable mejora de 41 veces en el tiempo hasta el primer token en comparación con los métodos de recálculo tradicionales.
-
Rendimiento de tokens optimizado : la solución de WEKA gestiona de forma eficiente las cargas de trabajo de inferencia en todos los clústeres, logrando un mayor rendimiento de tokens a un coste total reducido, lo que disminuye el coste por token procesado hasta en un 24 % en todo el sistema.
Estas mejoras de rendimiento se traducen directamente en una mayor eficiencia económica, lo que permite a las empresas acelerar la innovación impulsada por IA sin comprometer las capacidades del modelo ni el rendimiento de la infraestructura.
WEKApod Nitro
Los dispositivos WEKApod Nitro Data Platform han obtenido múltiples certificaciones NVIDIA, lo que establece a WEKA como un proveedor líder de almacenamiento de alto rendimiento para IA empresarial:
-
Certificación NVIDIA Cloud Partner (NCP) : WEKApod Nitro es una de las primeras soluciones de almacenamiento certificadas para las arquitecturas de referencia NCP de NVIDIA, incluidas HGX H200, B200 y GB200 NVL72. Estos dispositivos permiten a los proveedores de servicios y desarrolladores admitir clústeres de GPU masivos (hasta 1,152 GPU en una configuración de 8U) manteniendo una densidad de rendimiento y una eficiencia energética excepcionales.
-
Certificación de almacenamiento de sistemas NVIDIA : Los dispositivos WEKApod Nitro han recibido la nueva certificación de almacenamiento empresarial de NVIDIA, lo que garantiza la compatibilidad con las arquitecturas de referencia empresariales y las mejores prácticas de NVIDIA. Esta certificación valida que la plataforma de datos de WEKA ofrece un rendimiento, eficiencia y escalabilidad óptimos para implementaciones exigentes de IA y HPC en entornos empresariales.
Nilesh Patel, director de producto de WEKA, destacó el potencial transformador de esta colaboración con NVIDIA. Al comparar este desarrollo con los avances en el sector aeroespacial, Patel afirmó: «Así como romper la barrera del sonido abrió nuevas fronteras, la Red de Memoria Aumentada de WEKA rompe la barrera de la memoria de la IA, expandiendo drásticamente la memoria de la GPU y optimizando la eficiencia de los tokens. Esta innovación transforma radicalmente la economía de los tokens de IA, permitiendo una innovación más rápida y menores costos sin sacrificar el rendimiento».
Rob Davis, vicepresidente de Tecnología de Redes de Almacenamiento de NVIDIA, destacó la importancia de esta integración: «Las empresas que implementan IA de agentes y modelos de razonamiento requieren una eficiencia y escalabilidad sin precedentes. La combinación de las tecnologías NVIDIA y WEKA garantiza que los agentes de IA puedan acceder y procesar datos con una velocidad y precisión inigualables durante la inferencia».
Disponibilidad
- La arquitectura de referencia NCP de WEKA para los sistemas NVIDIA Blackwell estará disponible en marzo.
- La capacidad de cuadrícula de memoria aumentada WEKA estará disponible de forma general para los clientes de la plataforma de datos WEKA en la primavera de 2025.
Amazon