Dell Technologies a annoncé deux mises à jour majeures de sa plateforme d'IA Dell avec AMD, destinées aux entreprises passant de déploiements pilotes d'IA à des environnements de production complets. Ces améliorations portent sur une infrastructure d'entraînement haute performance et une architecture modulaire offrant un équilibre optimal entre coût, évolutivité et contrôle opérationnel.
La première mise à jour introduit une configuration à grande échelle composée de serveurs Dell PowerEdge XE9785 équipés de GPU AMD Instinct MI355X et de processeurs AMD EPYC. Elle est conçue pour les charges de travail d'IA exigeantes, notamment l'entraînement et le pré-entraînement de modèles, ainsi que l'inférence à haut débit. La plateforme intègre le réseau Dell PowerSwitch et le stockage PowerScale, garantissant ainsi une infrastructure cohérente pour tous les déploiements.
L'utilisation de GPU AMD Instinct MI355X augmente la capacité de mémoire par nœud, permettant la prise en charge de modèles plus volumineux et une mise à l'échelle plus efficace entre les clusters. Cette configuration s'adresse aux entreprises et aux fournisseurs de services disposant de charges de travail d'IA continues exigeant des performances prévisibles à grande échelle.
La seconde amélioration étend l'architecture modulaire d'IA de Dell pour prendre en charge les GPU PCIe AMD Instinct MI350P associés aux processeurs AMD EPYC. Cette configuration utilise les serveurs Dell PowerEdge XE7745 et R7725, le réseau PowerSwitch et le stockage PowerScale, et s'intègre à la plateforme de données d'IA de Dell. Elle se positionne comme une solution économique pour les entreprises passant de la phase pilote à la production, permettant une mise à l'échelle progressive des ressources de calcul, de mémoire, de stockage et de réseau afin de résoudre des problèmes spécifiques.
Les deux configurations reposent sur la plateforme logicielle AMD ROCm et prennent en charge des frameworks ouverts tels que PyTorch et vLLM. L'intégration avec la plateforme Dell Automation offre des fonctionnalités de déploiement et de gestion du cycle de vie qui simplifient le provisionnement et la mise à l'échelle des clusters.
Dell a également cité les conclusions d'une étude d'Omdia comparant les déploiements sur site aux alternatives de cloud public. Selon ce rapport, une configuration comprenant des serveurs PowerEdge XE9785 équipés de GPU AMD Instinct MI355X permet de réduire le coût total de possession jusqu'à 65 %, grâce à l'efficacité de l'infrastructure et aux écosystèmes logiciels ouverts.
La conception modulaire vise une mise à l'échelle prévisible de l'IA
Dell conçoit sa plateforme mise à jour selon une architecture modulaire, offrant une transition fluide des tests à petite échelle à la production en entreprise. Les entreprises peuvent démarrer avec une configuration à nœud unique utilisant seulement deux GPU, puis évoluer en ajoutant des nœuds de calcul, de la capacité GPU, du stockage et de la bande passante réseau au fur et à mesure de la demande. Cette approche permet de réutiliser les investissements initiaux dans l'infrastructure tout en assurant une mise à l'échelle progressive et maîtrisée.
La plateforme est également conçue pour une grande flexibilité en matière de charge de travail. La standardisation sur la suite logicielle d'IA d'entreprise et les frameworks ouverts d'AMD prend en charge un large éventail de cas d'utilisation de l'IA sans nécessiter d'infrastructures cloisonnées spécialisées. Ceci permet la portabilité des modèles et réduit les coûts opérationnels liés à la gestion de plusieurs environnements.
La sécurité et la gouvernance demeurent au cœur de la conception de la plateforme. En privilégiant le déploiement sur site, Dell réduit son exposition aux risques externes et conserve la maîtrise de la localisation des données. La solution AMD Enterprise AI Resource Manager offre des fonctionnalités de gouvernance supplémentaires, notamment des contrôles de politiques et la gestion des accès, afin d'aider les organisations à respecter les exigences en matière de protection des données et de conformité.
Amazon