En SC25, WEKA presentó la nueva generación de sus dispositivos WEKApod, dirigidos a organizaciones que necesitan escalar la IA y la computación de alto rendimiento manteniendo un control estricto de los costos, el consumo de energía y el espacio físico. Las nuevas plataformas WEKApod Prime y WEKApod Nitro están diseñadas para abordar una creciente crisis de eficiencia de infraestructura, donde las inversiones en GPU a menudo superan la capacidad de los sistemas de almacenamiento y redes necesarios para su pleno aprovechamiento.
El objetivo de diseño de esta generación es claro: eliminar la tradicional disyuntiva entre rendimiento y coste, al tiempo que se aumenta la densidad y la eficiencia para que cada unidad de rack y kilovatio ofrezca una mayor capacidad de IA utilizable.
La crisis de eficiencia de la infraestructura
Las empresas y los proveedores de servicios en la nube para IA se ven presionados a demostrar la rentabilidad de sus inversiones en infraestructura de IA, que crecen a un ritmo vertiginoso. Las costosas GPU suelen estar infrautilizadas debido a la limitación de almacenamiento, los ciclos de entrenamiento prolongados alargan el tiempo de obtención de valor, los costes de inferencia reducen los márgenes y el gasto en la nube aumenta a medida que crecen los volúmenes de datos no estructurados.
Al mismo tiempo, los centros de datos se enfrentan a limitaciones importantes en cuanto a espacio en rack, suministro eléctrico y capacidad de refrigeración. Simplemente añadir más hardware no es una estrategia sostenible. Los sistemas de almacenamiento que exigen elegir entre un rendimiento extremo y un coste manejable ya no se ajustan a la economía de las implementaciones de IA a gran escala. Cada nodo en una plataforma de IA debe contribuir a una mayor utilización de la GPU y a un menor coste por modelo entrenado y servido.
La familia WEKApod de próxima generación está diseñada para abordar este problema directamente, combinando hardware denso y de bajo consumo con la pila de software NeuralMesh de WEKA para mantener las GPU ocupadas y los costes de infraestructura bajo control.
WEKApod Prime: Economía de flash mixto sin penalizaciones de rendimiento
WEKApod Prime se posiciona como la solución principal para las organizaciones que buscan optimizar la rentabilidad del almacenamiento sin sacrificar el rendimiento. Ofrece una mejora del 65 % en la relación precio-rendimiento gracias a la distribución inteligente de los datos en una combinación de medios flash y la optimización de las escrituras en función de las características de la carga de trabajo.
Prime utiliza la tecnología AlloyFlash de WEKA para combinar múltiples clases de unidades en una sola configuración. En lugar de crear una jerarquía de caché multinivel tradicional con movimiento de datos explícito y las habituales penalizaciones por escritura, AlloyFlash ofrece un rendimiento constante en todas las operaciones. Las escrituras están diseñadas para mantener el máximo rendimiento en lugar de verse limitadas bajo carga, lo cual es fundamental para los puntos de control de entrenamiento, el registro de eventos y otros flujos de trabajo de IA con gran volumen de escritura.
Desde el punto de vista del diseño físico, WEKApod Prime admite hasta 20 unidades en un servidor 1U o 40 unidades en un formato 2U. Esto permite una alta densidad de capacidad y rendimiento en espacios reducidos. WEKA reporta una densidad de capacidad 4.6 veces superior a la de la generación anterior, junto con IOPS de escritura 5 veces mayores por unidad de rack. La eficiencia energética también es un aspecto clave, ofreciendo una densidad de potencia 4 veces mejor, con aproximadamente 23 000 IOPS por kW y alrededor de 1.6 PB por kW, con una reducción del 68 % en el consumo de energía por terabyte.
Para los operadores que diseñan clústeres de IA modernos, esto se traduce en una capa de almacenamiento capaz de seguir el ritmo del rendimiento de la GPU sin sobrepasar las limitaciones de energía y espacio existentes. Para tareas con uso intensivo de escritura, como el entrenamiento de modelos, la creación de puntos de control y el preprocesamiento de datos, es menos probable que el sistema de almacenamiento se convierta en un factor limitante, evitando así que los aceleradores queden inactivos.
Empresas pioneras como el Centro Danés para la Innovación en IA (DCAI) utilizan WEKApod Prime para lograr lo que describen como un rendimiento y una eficiencia propios de hiperescala en un formato compacto. DCAI destaca la capacidad de aumentar la capacidad de IA por kilovatio y por metro cuadrado como un factor clave para la viabilidad económica de su infraestructura y para una implementación más rápida de IA para sus clientes.
WEKApod Nitro: Densidad de rendimiento para fábricas de IA
Mientras que Prime se centra en la relación precio-rendimiento y la eficiencia de capacidad, WEKApod Nitro está diseñado para entornos de IA con cientos o miles de GPU que requieren la máxima densidad de rendimiento. Nitro se basa en hardware actualizado que ofrece aproximadamente el doble de rendimiento y una relación precio-rendimiento un 60 % superior a la de la generación anterior.
Las configuraciones Nitro incluyen la tarjeta de red NVIDIA ConnectX-8 SuperNIC, que proporciona un ancho de banda de red de 800 Gb/s en un formato 1U con 20 unidades SSD TLC. Este diseño de alto ancho de banda está pensado para entornos donde la red y el almacenamiento deben adaptarse a las características de escalabilidad horizontal de los clústeres de GPU para evitar cuellos de botella durante el entrenamiento a gran escala y la inferencia de alto rendimiento.
Tanto Prime como Nitro están disponibles como dispositivos listos para usar, compatibles con NVIDIA DGX SuperPOD y con la certificación de NVIDIA Cloud Partner (NCP). Para los equipos de ventas técnicas y los arquitectos de soluciones, esto es fundamental, ya que permite reducir los plazos de implementación. En lugar de invertir semanas en la integración, la optimización y la validación, los clientes pueden utilizar WEKApod como un componente prevalidado en arquitecturas basadas en DGX y compatibles con NCP, lo que reduce el tiempo de puesta en producción y acelera la generación de ingresos para los nuevos servicios de IA.
NVIDIA posiciona su tecnología de red Spectrum-X Ethernet y ConnectX-8 como la base fundamental de la arquitectura WEKApod. Desde la perspectiva del diseño del sistema, esto refuerza la importancia de eliminar los cuellos de botella de datos entre el almacenamiento, la interconexión y los nodos GPU para optimizar el rendimiento general de la IA.
NeuralMesh y flexibilidad definida por software
En cuanto a las plataformas de hardware, WEKApod utiliza NeuralMesh, que WEKA describe como el primer sistema de almacenamiento diseñado específicamente para acelerar la IA a gran escala. NeuralMesh proporciona la capa de almacenamiento definido por software, además de las funcionalidades empresariales que se esperan en los entornos modernos.
Los dispositivos WEKApod ofrecen funcionalidades NeuralMesh mediante configuraciones pre-validadas listas para usar y una utilidad de configuración mejorada, diseñada para brindar una experiencia plug-and-play en lugar de un proyecto de integración complejo. Las organizaciones pueden comenzar con tan solo ocho servidores y ampliar su capacidad a cientos a medida que aumenta la demanda, sin necesidad de rediseñar el entorno de almacenamiento.
NeuralMesh incluye funciones empresariales esenciales como protección de datos distribuida, instantáneas instantáneas, acceso multiprotocolo, almacenamiento por niveles automatizado, cifrado y compatibilidad con nubes híbridas. Esto significa que el rendimiento y la densidad optimizados por IA no comprometen la resiliencia de los datos, la gobernanza ni la flexibilidad operativa.
Al combinar estas capacidades de software con hardware de alta densidad, WEKApod pretende servir no solo como un almacenamiento de archivos u objetos de alto rendimiento, sino también como una plataforma de datos fundamental para fábricas de IA y despliegues de almacenamiento de objetos a gran escala y lagos de datos de IA.
Abordar los resultados comerciales para diferentes segmentos de clientes
El impacto comercial de la familia WEKApod de próxima generación se plantea de forma diferente para cada público objetivo, pero se centra en un mejor retorno de la inversión en infraestructura y una mayor utilización de las inversiones existentes.
Para los proveedores de nube de IA y las neonubes emergentes, la mejora del 65 % en la relación precio-rendimiento se traduce directamente en mayores márgenes en las ofertas de GPU como servicio. La capacidad de dar soporte a más clientes en la misma infraestructura, manteniendo los SLA de rendimiento, mejora la rentabilidad y la planificación de la capacidad. La naturaleza llave en mano de las implementaciones de WEKApod también reduce el tiempo de incorporación de nuevos clientes, lo que permite una generación de ingresos más rápida.
Para las empresas que implementan entornos de IA internos, WEKApod se presenta como una solución para reducir los ciclos de implementación de meses a días. Su integración llave en mano, la prevalidación y las funcionalidades empresariales permiten a los equipos de TI configurar el almacenamiento para cargas de trabajo de IA sin necesidad de conocimientos especializados en sistemas de archivos paralelos ni optimización del rendimiento. Asimismo, la mayor densidad y eficiencia pueden reducir el consumo energético por terabyte hasta en un 68 % y evitar el escalado proporcional de la infraestructura del centro de datos a medida que crecen las capacidades de IA.
Para los desarrolladores e investigadores de IA, la principal ventaja reside en una mayor utilización de la GPU y ciclos de entrenamiento más cortos. El diseño de WEKApod busca alcanzar tasas de utilización de la GPU superiores al 90 % al garantizar que la capa de almacenamiento y la infraestructura no representen cuellos de botella. Un entrenamiento de modelos más rápido y un menor tiempo de iteración proporcionan una ventaja competitiva en entornos donde la velocidad de experimentación impulsa los resultados empresariales. Los menores costos de inferencia, gracias a un almacenamiento y una red eficientes, también pueden hacer que nuevas aplicaciones de IA sean económicamente viables, aplicaciones que de otro modo serían prohibitivas a gran escala.
Ajay Singh, director de producto de WEKA, considera que estas actualizaciones son cruciales para rentabilizar las inversiones en IA. En su opinión, WEKApod Prime ofrece una relación precio-rendimiento significativamente mejor sin sacrificar el rendimiento, mientras que WEKApod Nitro aumenta la densidad de rendimiento para aprovechar mejor las GPU. En conjunto, esto permite un desarrollo de modelos más rápido, un mayor rendimiento de inferencia y un mejor retorno de la inversión en infraestructura informática.
Los nuevos dispositivos WEKApod Prime y Nitro posicionan a WEKA firmemente en el mercado del almacenamiento para IA y HPC, centrándose en la convergencia de alto rendimiento, densidad y eficiencia. Prime rompe con la tradicional relación entre rendimiento y coste mediante la gestión inteligente de memoria flash mixta y AlloyFlash. Por su parte, Nitro está dirigido a entornos de IA con gran cantidad de GPU, ofreciendo conectividad de red de alto rendimiento y un formato compacto.
Junto con el paquete de software NeuralMesh y configuraciones listas para usar con certificación NVIDIA, WEKApod busca resolver desafíos tanto técnicos como comerciales: mantener las GPU en funcionamiento, gestionar la energía y el espacio del centro de datos y reducir el tiempo necesario para lanzar al mercado servicios impulsados por IA. Para los equipos de ventas técnicas y los arquitectos de soluciones, la propuesta de valor se centra en una mayor utilización, mejores márgenes y una implementación más rápida, respaldada por mejoras cuantificables en densidad, eficiencia y relación precio-rendimiento.
Amazon