Dell Technologies heeft het Dell AI Data Platform geïntroduceerd, een reeks data- en opslagtechnologieën die aansluiten op het AI-ecosysteem van NVIDIA. Het platform is ontworpen om bedrijven te helpen de overstap te maken van AI-pilots naar grootschalige, agentgestuurde systemen. Het platform pakt een bekend probleem aan in AI-omgevingen voor bedrijven: data die te traag, te gefragmenteerd of slecht beheerd is om hoogwaardige AI-workloads te ondersteunen.
Naarmate organisaties AI-agenten en workflows met lange contexten proberen te implementeren, ontdekken ze vaak dat de beperkende factor niet de modelkeuze is, maar de mogelijkheid om data in gefragmenteerde systemen te benaderen, te structureren en te beheren. Dell positioneert het AI Data Platform als onderdeel van de Dell AI-fabriek met NVIDIA, wat een gecombineerde set van data-engines, GPU-versnelde verwerking en opslag met hoge doorvoer oplevert.
Dell verwijst naar interne benchmarks die aantonen dat vectorindexering tot 12 keer sneller is, gegevensverwerking tot 3 keer sneller en de tijd tot het eerste token tot 19 keer sneller is in vergelijking met "traditionele computermethoden". Deze versnelling wordt mogelijk gemaakt door NVIDIA GPU's en CUDA-X-bibliotheken die in de datalaag zijn geïntegreerd.
Het automatiseren van de data-levenscyclus van AI met Dell Data Engines
De kern van het Dell AI Data Platform wordt gevormd door een reeks Dell-data-engines, versneld door de NVIDIA AI-infrastructuur, om de levenscyclus van AI-data te automatiseren en de voorbereidingstijd van data te verkorten, terwijl de controle over de bedrijfsprocessen behouden blijft.
De Dell Data Orchestration Engine, gebaseerd op technologie van Dell's overname van Dataloop, is ontworpen om data te beheren vanaf de invoer tot aan datasets die geschikt zijn voor AI. Het systeem detecteert automatisch gestructureerde, ongestructureerde en multimodale databronnen, labelt, verrijkt en transformeert deze vervolgens tot beheerde datasets die geschikt zijn voor training en inferentie. Het platform combineert geautomatiseerde pipelines met actief leren en menselijke feedback om de datasetkwaliteit en modelnauwkeurigheid iteratief te verbeteren zonder de governance uit het oog te verliezen.
Om de implementatie te versnellen, bevat de Data Orchestration Engine een Marketplace met vooraf gebouwde dataworkflows die NVIDIA NIM-microservices, NVIDIA AI-blueprints en meer dan 200 extra modellen, applicaties en templates integreren. Deze marketplace-achtige aanpak is bedoeld om de time-to-value te verkorten door herbruikbare componenten te bieden voor veelvoorkomende AI-patronen binnen de onderneming.
Integratie met NVIDIA AI Blueprints, NIM en Nemotron
Het Dell AI Data Platform sluit aan op NVIDIA's AI-Q-blauwdruk voor het bouwen van AI-agents die bruikbare inzichten leveren op basis van bedrijfsdata. Dell integreert door NVIDIA versnelde data-engines ter ondersteuning van efficiënte data-voorbereiding, -opvraging en -redenering uit gestructureerde en ongestructureerde bronnen, met een focus op retrieval-ondersteunde generatie en agentische workflows.
Bedrijven hebben toegang tot een bibliotheek met NVIDIA-content, waaronder:
- Voorgeconfigureerde NVIDIA AI-blauwdrukken voor veelvoorkomende agent- en applicatiepatronen
- NVIDIA NIM-microservices voor modelimplementatie en inferentie
- Het NVIDIA Nemotron 3 Super-model via de Dell Enterprise Hub op Hugging Face
Deze integratie stelt klanten in staat om de datalaag en opslagstack van Dell te combineren met het ecosysteem van NVIDIA voor modellering, inferentie en microservices in een ondersteunde configuratie.
Ondersteuning voor NVIDIA STX, Vera Rubin NVL72 en Spectrum-X.
Dell stemt zijn infrastructuurportfolio ook af op NVIDIA's modulaire STX-referentieontwerp. Het bedrijf is van plan NVIDIA STX te ondersteunen, aangedreven door de NVIDIA Vera Rubin NVL72, NVIDIA BlueField-4 DPU's en NVIDIA Spectrum-X Ethernet-netwerken. Het doel is een modulair, schaalbaar platform te bieden voor AI-databeheer en -verwerking dat GPU, DPU en krachtige netwerken nauw koppelt aan Dell's opslag- en datasoftware.
Deze op STX gebaseerde aanpak is gericht op omgevingen die grote hoeveelheden data moeten beheren, verwerken en ophalen voor training, finetuning en realtime inferentie, met behoud van prestatie-isolatie en voorspelbare doorvoer.
AI-assistent voor SQL-analyse
Binnen de Dell Data Analytics Engine introduceert Dell een AI-assistent die een conversationele interface biedt voor SQL-analyses. De assistent stelt zakelijke en technische gebruikers in staat om:
- Opdrachten voor gestructureerde data worden uitgevoerd met behulp van natuurlijke taal in plaats van ruwe SQL.
- Visualiseer zoekresultaten voor analyse en samenwerking.
- Werk binnen de bestaande governance-kaders en breid tegelijkertijd de toegang tot gegevens uit naar experts die geen SQL-kennis hebben.
Voor organisaties die AI-agenten inzetten en behoefte hebben aan hoogwaardige, gestructureerde data, is deze op SQL gerichte assistent bedoeld om de afhankelijkheid van gespecialiseerde data-engineeringvaardigheden te verminderen en besluitvormingscycli te versnellen.
NVIDIA RTX PRO Blackwell en CUDA-X in de datalaag
Een belangrijk ontwerpkenmerk van het Dell AI Data Platform is de integratie van NVIDIA GPU's rechtstreeks in de datalaag. Dell gebruikt NVIDIA RTX PRO Blackwell Server Edition GPU's om de gegevensverwerking te versnellen, dicht bij de plek waar de gegevens zich bevinden.
De NVIDIA CUDA-X-bibliotheken, zoals cuDF voor kolomgeoriënteerde bewerkingen op gestructureerde data en cuVS voor vectorindexering, draaien samen met de data-engines van Dell om dataworkloads te ontlasten en te paralleliseren. Dell meldt prestatieverbeteringen tot wel 3x voor SQL-query's en tot wel 12x voor vectorindexering in vergelijking met traditionele, CPU-intensieve benaderingen.
Door GPU-acceleratie in het datapad te integreren, wil Dell ervoor zorgen dat de AI-trainings- en inferentiepipelines stroomafwaarts worden voorzien van voorbereide, geïndexeerde data met een snelheid die aansluit op het GPU-verbruik, wat een veelvoorkomend knelpunt is in AI-omgevingen op productieschaal.
Opslag: GPU's optimaal benutten op grote schaal
Naarmate AI-workloads de experimentele fase voorbijgaan, worden opslagbandbreedte en latentie vaak de beperkende factor, waardoor kostbare GPU's ongebruikt blijven. Dell reageert hierop met AI-geoptimaliseerde opslagengines die zijn ontworpen om hoge prestaties te blijven leveren naarmate de capaciteit en het aantal nodes toenemen.
Dell Lightning-bestandssysteem
Het Dell Lightning File System is een krachtig parallel bestandssysteem dat is afgestemd op AI-training en inferentieworkloads. Dell specificeert snelheden tot 150 GB/s per rackunit, met prestatievoordelen ten opzichte van traditionele flash-only en parallelle bestandssystemen.
Lightning maakt gebruik van een op fabric gebaseerde architectuur die directe toegang met hoge bandbreedte mogelijk maakt van rekenknooppunten naar opslag, met als doel de GPU-benutting op grote schaal te behouden. Het systeem integreert met op NVIDIA gebaseerde AI-infrastructuur en is uitermate geschikt voor trainingsclusters met een hoge GPU-dichtheid waar een constante doorvoer cruciaal is.
Dell Exascale-opslag
Dell Exascale Storage wordt gepresenteerd als een 3-in-1 opslagsysteem voor AI en high-performance computing, dat gelijktijdige bestands-, object- en parallelle bestandsopslag ondersteunt op Dell PowerEdge-servers. Op één hardwareplatform kunnen organisaties het volgende implementeren:
- Dell PowerScale voor schaalbare bestandssystemen
- Dell ObjectScale voor S3-compatibele objectopslag
- Dell Lightning File System voor een parallel bestandssysteem met hoge doorvoer.
Deze gecombineerde aanpak is gericht op veeleisende AI- en HPC-workloads, waaronder high-frequency trading en 'neoclouds', waar gemengde protocollen en extreme doorvoereisen naast elkaar bestaan. Exascale Storage ondersteunt NVIDIA CX-8 en CX-9 SuperNIC's en netwerkverbindingen tot 800 GbE, en Dell claimt prestaties tot 6 TB/s per rack voor AI-workloads die zeer grote datasets snel moeten verwerken.
KV Cache Offload met NVIDIA CMX en Dell Storage
Om AI-workloads met lange contexten en agentische AI te ondersteunen, maken Dell en NVIDIA het mogelijk om KV Cache-taken van GPU-geheugen naar gedeelde opslag te verplaatsen. Dankzij de NVIDIA CMX-geheugenopslagtechnologieën en inferentieversnellingsmogelijkheden kan KV Cache worden ingezet op Dell CMX Storage en snelle netwerken via PowerScale, ObjectScale en Lightning File System.
Door de KV-cache te verplaatsen van het beperkte GPU-geheugen naar krachtige, gedeelde opslag, kunnen organisaties het volgende bereiken:
- Verhoog de effectieve contextlengte voor grote taalmodellen.
- Zorg voor continuïteit bij langdurige interacties tussen agenten.
- Optimaliseer het GPU-gebruik door VRAM vrij te maken voor berekeningen in plaats van cachegeheugen.
Dit is met name relevant voor AI-agenten die uitgebreide historische gegevens moeten raadplegen of langdurige, actuele gesprekken moeten voeren zonder het GPU-geheugen te overbelasten.
PowerScale pNFS voor prestaties bij grote bestanden
Dell PowerScaleDe softwaregestuurde Parallel Network File System (pNFS)-architectuur van Dell is geoptimaliseerd voor de verwerking van grote bestanden in AI-omgevingen. Dell meldt tot wel zes keer snellere prestaties voor grote bestanden in vergelijking met NESv3.12.
pNFS verdeelt de toegang tot bestanden over meerdere knooppunten om een hoge bandbreedte te behouden en knelpunten te verminderen, waardoor de gegevensstroom naar GPU-workloads wordt bevorderd. Het doel is om I/O-knelpunten te minimaliseren en de inactieve GPU-tijd te verminderen, met name in trainingsscenario's met grote checkpointbestanden en datasets.
Dell AI Factory met NVIDIA: schaalbaarheid en rendement
Het Dell AI Data Platform en de verbeteringen op het gebied van opslag komen op het moment dat Dell de tweejarige mijlpaal van de Dell AI Factory met NVIDIA viert. Volgens Dell implementeren meer dan 4,000 klanten de AI Factory-stack, waarbij early adopters een rendement op investering (ROI) tot wel 2.6x in het eerste jaar rapporteren.
Het bredere Dell AI Factory-portfolio omvat infrastructuur, software, oplossingen en services die zijn ontworpen om AI van geïsoleerde pilotprojecten naar grootschalige productie te brengen. Het hier beschreven AI-dataplatform, de data-engines en de opslagstack zijn bedoeld om de aspecten van data-toegang en prestaties tijdens dit traject aan te pakken, die in veel omgevingen complexer zijn gebleken dan het opzetten van GPU-clusters of -modellen.
Het Dell AI Data Platform met NVIDIA biedt een geïntegreerde, datacentrische architectuur die lifecycle-automatisering, GPU-versnelde dataverwerking en opslag met hoge doorvoer combineert, allemaal ontworpen om AI-agenten en -modellen optimaal te benutten.
Amazon