Dell Technologies ha anunciado dos importantes actualizaciones de su plataforma Dell AI Platform con AMD, dirigidas a organizaciones que están pasando de implementaciones piloto de IA a entornos de producción completos. Las mejoras se centran en una infraestructura de entrenamiento de alto rendimiento y una arquitectura modular que equilibra el coste, la escalabilidad y el control operativo.
La primera actualización introduce una configuración a gran escala con nodos de servidor Dell PowerEdge XE9785 equipados con GPU AMD Instinct MI355X y CPU AMD EPYC. Está diseñada para cargas de trabajo de IA exigentes, incluyendo entrenamiento de modelos, preentrenamiento e inferencia de alto rendimiento. La plataforma integra la red Dell PowerSwitch y el almacenamiento PowerScale, lo que garantiza una infraestructura consistente en todas las implementaciones.
El uso de GPU AMD Instinct MI355X aumenta la capacidad de memoria por nodo, lo que permite admitir modelos más grandes y una escalabilidad más eficiente en clústeres. Esta configuración está dirigida a empresas y proveedores de servicios con cargas de trabajo de IA continuas que requieren un rendimiento predecible a gran escala.
La segunda mejora amplía la arquitectura modular AI Factory de Dell para admitir las GPU AMD Instinct MI350P PCIe junto con las CPU AMD EPYC. Esta configuración utiliza servidores Dell PowerEdge XE7745 y R7725, redes PowerSwitch y almacenamiento PowerScale, y se integra con la plataforma de datos de IA de Dell. Se presenta como una solución rentable para organizaciones que pasan de la fase piloto a la producción, permitiendo el escalado incremental de los recursos de computación, memoria, almacenamiento y red para solucionar cuellos de botella específicos.
Ambas configuraciones se basan en la pila de software AMD ROCm y son compatibles con marcos de trabajo abiertos como PyTorch y vLLM. La integración con la plataforma de automatización de Dell proporciona capacidades de implementación y gestión del ciclo de vida que simplifican el aprovisionamiento y el escalado del clúster.
Dell también citó los resultados de un estudio de Omdia que compara las implementaciones locales con las alternativas de nube pública. Según el informe, una configuración con servidores PowerEdge XE9785 equipados con GPU AMD Instinct MI355X puede ofrecer un costo total de propiedad hasta un 65 % menor, gracias a la eficiencia de la infraestructura y los ecosistemas de software abiertos.
El diseño modular apunta a una escalabilidad predecible de la IA.
Dell basa la plataforma actualizada en un diseño modular que permite una transición fluida desde las pruebas a pequeña escala hasta la producción empresarial. Las organizaciones pueden comenzar con una configuración de un solo nodo utilizando tan solo dos GPU, y luego escalar añadiendo nodos de cómputo, capacidad de GPU, almacenamiento y ancho de banda de red según aumente la demanda. Este enfoque permite reutilizar las inversiones iniciales en infraestructura, escalando de forma controlada.
La plataforma también está diseñada para ofrecer flexibilidad en la carga de trabajo. La estandarización basada en el conjunto de software de IA empresarial de AMD y sus marcos de trabajo abiertos permite una amplia gama de casos de uso de IA sin necesidad de infraestructuras especializadas. Esto facilita la portabilidad de los modelos y reduce la sobrecarga operativa de gestionar múltiples entornos.
La seguridad y la gobernanza siguen siendo fundamentales en el diseño de la plataforma. Al priorizar la implementación local, Dell reduce la exposición a riesgos externos y mantiene el control sobre la ubicación de los datos. El gestor de recursos de IA empresarial de AMD proporciona capacidades de gobernanza adicionales, incluidos controles de políticas y gestión de accesos, para ayudar a las organizaciones a garantizar la protección de datos y el cumplimiento normativo.
Amazon