Dell Technologies a lancé la plateforme de données IA Dell, un ensemble de technologies de données et de stockage alignées sur l'écosystème d'IA de NVIDIA, conçu pour aider les entreprises à passer des projets pilotes d'IA aux systèmes multi-agents à l'échelle de la production. Cette plateforme vise à pallier une contrainte bien connue de l'IA en entreprise : des données trop lentes, cloisonnées ou mal gouvernées pour prendre en charge les charges de travail d'IA à forte valeur ajoutée.
À mesure que les organisations s'efforcent de déployer des agents d'IA et des flux de travail à contexte long, elles constatent souvent que le facteur limitant n'est pas le choix du modèle, mais la capacité d'accéder aux données, de les structurer et de les gouverner au sein de systèmes fragmentés. Dell positionne sa plateforme de données IA comme faisant partie de Dell AI Factory avec NVIDIA , offrant ainsi une solution combinée de moteurs de données, de traitement accéléré par GPU et de stockage à haut débit.
Dell cite des tests internes démontrant une indexation vectorielle jusqu'à 12 fois plus rapide, un traitement des données 3 fois plus rapide et un temps d'obtention du premier jeton 19 fois plus rapide par rapport aux « méthodes de calcul traditionnelles », grâce à une accélération assurée par les GPU NVIDIA et les bibliothèques CUDA-X intégrées à la couche de données.
Automatisation du cycle de vie des données d'IA avec Dell Data Engines
Au cœur de la plateforme de données d'IA de Dell se trouve un ensemble de moteurs de données Dell, accélérés par l'infrastructure d'IA NVIDIA, pour automatiser le cycle de vie des données d'IA et réduire le temps de préparation des données tout en préservant les contrôles de l'entreprise.
Le moteur d'orchestration de données Dell, basé sur la technologie issue de l'acquisition de Dataloop par Dell, est conçu pour gérer les données de leur ingestion jusqu'à leur préparation pour l'IA. Il détecte automatiquement les sources de données structurées, non structurées et multimodales, puis les étiquette, les enrichit et les transforme en ensembles de données gouvernés, adaptés à l'entraînement et à l'inférence. La plateforme combine des pipelines automatisés avec un apprentissage actif et une supervision humaine pour améliorer itérativement la qualité des ensembles de données et la précision des modèles, tout en garantissant la gouvernance.
Pour accélérer le déploiement, le moteur d'orchestration des données inclut une Marketplace proposant des flux de travail de données prédéfinis intégrant des microservices NVIDIA NIM, des modèles d'IA NVIDIA et plus de 200 modèles, applications et gabarits supplémentaires. Cette approche de type Marketplace vise à réduire le délai de rentabilisation en fournissant des composants réutilisables pour les modèles d'IA d'entreprise courants.
Intégration avec NVIDIA AI Blueprints, NIM et Nemotron
La plateforme de données IA de Dell s'aligne sur le modèle AI-Q de NVIDIA pour la création d'agents d'IA capables de fournir des informations exploitables à partir des données d'entreprise. Dell intègre des moteurs de données accélérés par NVIDIA pour une préparation, une extraction et un raisonnement efficaces des données issues de sources structurées et non structurées, en mettant l'accent sur la génération augmentée par l'extraction et les flux de travail automatisés.
Les entreprises peuvent accéder à une bibliothèque de contenus NVIDIA, comprenant :
- Modèles d'IA NVIDIA préconfigurés pour les agents et applications courants
- Microservices NVIDIA NIM pour le déploiement et l'inférence de modèles
- Le modèle NVIDIA Nemotron 3 Super via le Dell Enterprise Hub sur Hugging Face
Cette intégration permet aux clients d'associer la couche de données et la pile de stockage de Dell à l'écosystème de modélisation, d'inférence et de microservices de NVIDIA dans une configuration prise en charge.
Prise en charge des cartes graphiques NVIDIA STX, Vera Rubin NVL72 et Spectrum-X
Dell aligne également son portefeuille d'infrastructures sur l'architecture modulaire de référence STX de NVIDIA. L'entreprise prévoit de prendre en charge NVIDIA STX, basé sur les processeurs graphiques NVIDIA Vera Rubin NVL72, les DPU NVIDIA BlueField-4 et le réseau Ethernet NVIDIA Spectrum-X. L'objectif est de fournir une plateforme modulaire et évolutive pour la gestion et le traitement des données d'IA, intégrant étroitement les GPU, les DPU et le réseau haute performance aux solutions de stockage et aux logiciels de données de Dell.
Cette approche basée sur STX cible les environnements qui doivent gérer, traiter et récupérer de grands volumes de données pour l'entraînement, le réglage fin et l'inférence en temps réel, tout en maintenant l'isolation des performances et un débit prévisible.
Assistant IA pour l'analyse SQL
Au sein de Dell Data Analytics Engine, Dell introduit un assistant IA offrant une interface conversationnelle pour l'analyse SQL. Cet assistant permet aux utilisateurs métiers et techniques de :
- Données structurées et régies par des requêtes utilisant le langage naturel plutôt que du SQL brut
- Visualisez les résultats des requêtes à des fins d'analyse et de collaboration.
- Travailler dans le cadre des limites de gouvernance existantes tout en élargissant l'accès aux données aux experts non-SQL
Pour les organisations déployant des agents d'IA qui ont besoin de données structurées de haute qualité, cet assistant axé sur SQL vise à réduire la dépendance aux compétences spécialisées en ingénierie des données et à accélérer les cycles de décision.
NVIDIA RTX PRO Blackwell et CUDA-X dans la couche de données
L'un des points clés de la conception de la plateforme de données IA de Dell réside dans l'intégration directe des GPU NVIDIA au sein de la couche de données. Dell utilise des GPU NVIDIA RTX PRO Blackwell Server Edition pour accélérer le traitement des données au plus près de leur emplacement.
Les bibliothèques NVIDIA CUDA-X, telles que cuDF pour les opérations sur les données structurées en colonnes et cuVS pour l'indexation vectorielle, fonctionnent de concert avec les moteurs de données de Dell afin de décharger et de paralléliser les charges de travail. Dell annonce des gains de performance jusqu'à 3 fois supérieurs pour les requêtes SQL et jusqu'à 12 fois supérieurs pour l'indexation vectorielle par rapport aux approches traditionnelles centrées sur le processeur.
En intégrant l'accélération GPU dans le flux de données, Dell vise à alimenter les pipelines d'entraînement et d'inférence de l'IA en aval avec des données préparées et indexées à un rythme correspondant à la consommation du GPU, qui constitue un goulot d'étranglement courant dans les environnements d'IA à l'échelle de la production.
Stockage : Maintenir l'utilisation des GPU à grande échelle
À mesure que les charges de travail d'IA dépassent le stade de l'expérimentation, la bande passante et la latence du stockage deviennent souvent le facteur limitant, immobilisant ainsi des GPU coûteux. Dell réagit en proposant des moteurs de stockage optimisés pour l'IA, conçus pour maintenir des performances élevées malgré l'augmentation de la capacité et du nombre de nœuds.
Système de fichiers Dell Lightning
Le système de fichiers Dell Lightning est un système de fichiers parallèle haute performance optimisé pour les charges de travail d'entraînement et d'inférence en intelligence artificielle. Dell annonce un débit allant jusqu'à 150 Go/s par unité de rack, offrant des performances supérieures aux systèmes de fichiers flash et parallèles traditionnels.
Lightning utilise une architecture basée sur une architecture de type fabric qui permet un accès direct et à haut débit des nœuds de calcul au stockage, afin de maintenir une utilisation optimale des GPU à grande échelle. Ce système s'intègre à l'infrastructure d'IA basée sur NVIDIA et est parfaitement adapté aux clusters d'entraînement à forte densité de GPU où un débit soutenu est essentiel.
Stockage Dell Exascale
Dell Exascale Storage se présente comme un système de stockage 3-en-1 dédié à l'IA et au calcul haute performance, prenant en charge le stockage simultané de fichiers, d'objets et de fichiers parallèles sur les serveurs Dell PowerEdge. Sur une plateforme matérielle unique, les entreprises peuvent déployer :
- Dell PowerScale pour système de fichiers à extension horizontale
- Stockage d'objets Dell ObjectScale pour S3
- Système de fichiers Dell Lightning pour un système de fichiers parallèle à haut débit
Cette approche convergente cible les charges de travail exigeantes en IA et en HPC, notamment le trading haute fréquence et les « néoclouds », où coexistent protocoles mixtes et exigences de débit extrêmes. Le stockage exascale prend en charge les cartes réseau NVIDIA SuperNIC CX-8 et CX-9 et des liaisons réseau jusqu'à 800 GbE. Dell annonce des performances allant jusqu'à 6 To/s par rack pour les charges de travail d'IA nécessitant l'ingestion rapide de très grands ensembles de données.
Déchargement du cache KV avec NVIDIA CMX et stockage Dell
Pour prendre en charge les charges de travail d'IA à contexte long et d'IA multi-agents, Dell et NVIDIA activent le déchargement du cache KV de la mémoire GPU vers un stockage partagé. Grâce aux technologies de stockage en mémoire NVIDIA CMX et aux capacités d'accélération de l'inférence, le cache KV peut être déployé sur le stockage Dell CMX et sur les réseaux haut débit via PowerScale, ObjectScale et Lightning File System.
En déplaçant le cache KV de la mémoire GPU limitée vers un stockage partagé haute performance, les organisations peuvent :
- Augmenter la longueur de contexte effective pour les grands modèles de langage
- Assurer la continuité des interactions de longue durée entre agents
- Améliorez l'utilisation du GPU en libérant de la VRAM pour le calcul plutôt que pour le cache.
Ceci est particulièrement pertinent pour les agents d'IA qui doivent consulter de vastes données historiques ou maintenir de longues conversations avec état sans épuiser la mémoire GPU.
PowerScale pNFS pour des performances optimales avec les fichiers volumineux
L’architecture pNFS (Parallel Network File System) pilotée par logiciel de Dell PowerScale est optimisée pour le traitement de fichiers volumineux dans les environnements d’IA. Dell annonce des performances jusqu’à six fois supérieures pour les fichiers volumineux par rapport à NESv3.12.
pNFS répartit l'accès aux fichiers entre les nœuds afin de maintenir une bande passante élevée et de réduire les points chauds, assurant ainsi un flux de données constant vers les charges de travail GPU. L'objectif est de minimiser les goulots d'étranglement d'E/S et de réduire le temps d'inactivité du GPU, notamment lors des entraînements avec des fichiers de points de contrôle et des ensembles de données volumineux.
Dell AI Factory avec NVIDIA : Échelle et retour sur investissement
Dell lance sa plateforme de données IA et des améliorations en matière de stockage alors que Dell célèbre les deux ans de Dell AI Factory en partenariat avec NVIDIA. Selon Dell, plus de 4 000 clients déploient la suite AI Factory, et les premiers utilisateurs font état d'un retour sur investissement multiplié par 2.6 dès la première année.
Le portefeuille Dell AI Factory comprend des infrastructures, des logiciels, des solutions et des services conçus pour déployer l'IA à grande échelle, des projets pilotes isolés à la production. La plateforme de données IA, les moteurs de données et la pile de stockage présentés ici visent à optimiser l'accès aux données et les performances lors de ce déploiement, qui, dans de nombreux environnements, se sont révélés plus complexes que la mise en place de clusters GPU ou de modèles.
La plateforme de données IA de Dell avec NVIDIA offre une architecture intégrée et axée sur les données qui combine l'automatisation du cycle de vie, le traitement des données accéléré par GPU et le stockage à haut débit, le tout conçu pour garantir une utilisation optimale des agents et des modèles d'IA.
Amazon