Dell Technologies har introducerat Dell AI Data Platform, en uppsättning data- och lagringstekniker i linje med NVIDIAs AI-ekosystem, utformade för att hjälpa företag att gå från AI-pilotprojekt till agentsystem i produktionsskala. Plattformen är utformad för att hantera en välbekant begränsning inom företags-AI: data som är för långsam, isolerad eller dåligt styrd för att stödja högvärdiga AI-arbetsbelastningar.
När organisationer försöker operationalisera AI-agenter och långsiktiga arbetsflöden upptäcker de ofta att den begränsande faktorn inte är modellvalet utan möjligheten att komma åt, strukturera och styra data över fragmenterade system. Dell positionerar AI-dataplattformen som en del av Dell AI Factory med NVIDIA , vilket tillhandahåller en kombinerad stack av datamotorer, GPU-accelererad bearbetning och lagring med hög genomströmning.
Dell citerar interna riktmärken som visar upp till 12 gånger snabbare vektorindexering, 3 gånger snabbare databehandling och 19 gånger snabbare time-to-first-token jämfört med "traditionella beräkningsmetoder", med acceleration driven av NVIDIA GPU:er och CUDA-X-bibliotek integrerade i datalagret.
Automatisera AI-datalivscykeln med Dell Data Engines
Kärnan i Dell AI-dataplattformen finns en uppsättning Dell-datamotorer, accelererade av NVIDIAs AI-infrastruktur, för att automatisera AI-datalivscykeln och minska dataförberedelsetiden samtidigt som företagets kontroller bibehålls.
Dell Data Orchestration Engine, baserad på teknik från Dells förvärv av Dataloop, är utformad för att hantera data från inmatning till AI-klara datamängder. Den upptäcker automatiskt strukturerade, ostrukturerade och multimodala datakällor, märker sedan, berikar och omvandlar dem till styrda datamängder som är lämpliga för träning och inferens. Plattformen kombinerar automatiserade pipelines med aktiv inlärning och Human-in-the-loop-granskning för att iterativt förbättra datamängdens kvalitet och modellens noggrannhet utan att offra styrning.
För att påskynda distributionen inkluderar Data Orchestration Engine en Marketplace med förbyggda dataarbetsflöden som innehåller NVIDIA NIM-mikrotjänster, NVIDIA AI-ritningar och mer än 200 ytterligare modeller, applikationer och mallar. Denna marknadsplatsliknande metod är avsedd att förkorta tiden till värde genom att tillhandahålla återanvändbara komponenter för vanliga AI-mönster för företag.
Integration med NVIDIA AI-ritningar, NIM och Nemotron
Dell AI-dataplattformen är i linje med NVIDIAs AI-Q-ritning för att bygga AI-agenter som levererar handlingsbara insikter över företagsdata. Dell integrerar NVIDIA-accelererade datamotorer för att stödja effektiv dataförberedelse, hämtning och resonemang över strukturerade och ostrukturerade källor, med fokus på hämtningsförstärkt generering och agentiska arbetsflöden.
Företag kan få tillgång till ett bibliotek med NVIDIA-innehåll, inklusive:
- Förbyggda NVIDIA AI-ritningar för vanliga agent- och applikationsmönster
- NVIDIA NIM-mikrotjänster för modelldistribution och inferens
- NVIDIA Nemotron 3 Super-modellen via Dell Enterprise Hub på Hugging Face
Den här integrationen gör det möjligt för kunder att para ihop Dells datalager och lagringsstack med NVIDIAs modell-, inferens- och mikrotjänstekosystem i en konfiguration som stöds.
Stöd för NVIDIA STX, Vera Rubin NVL72 och Spectrum-X
Dell anpassar också sin infrastrukturportfölj till NVIDIAs modulära STX-referensdesign. Företaget planerar att stödja NVIDIA STX, som drivs av NVIDIA Vera Rubin NVL72, NVIDIA BlueField-4 DPU:er och NVIDIA Spectrum-X Ethernet-nätverk. Avsikten är att tillhandahålla en modulär, skalbar plattform för AI-datahantering och -bearbetning som nära kopplar GPU, DPU och högpresterande nätverk med Dells lagrings- och dataprogramvara.
Denna STX-baserade metod riktar sig till miljöer som behöver hantera, bearbeta och hämta stora mängder data för träning, finjustering och realtidsinferens, samtidigt som prestandaisolering och förutsägbart dataflöde bibehålls.
AI-assistent för SQL Analytics
Inom Dell Data Analytics Engine introducerar Dell en AI-assistent som tillhandahåller ett konversationsgränssnitt för SQL-analys. Assistenten gör det möjligt för både affärs- och tekniska användare att:
- Frågestyrda, strukturerade data med naturligt språk istället för rå SQL
- Visualisera frågeresultat för analys och samarbete
- Arbeta inom befintliga styrningsgränser samtidigt som du utökar dataåtkomsten till icke-SQL-experter
För organisationer som använder AI-agenter och behöver strukturerad data av hög kvalitet är denna SQL-fokuserade assistent avsedd att minska beroendet av specialiserade datatekniska färdigheter och påskynda beslutscyklerna.
NVIDIA RTX PRO Blackwell och CUDA-X i datalagret
En viktig designpunkt för Dell AI-dataplattformen är integrationen av NVIDIA-grafikprocessorer direkt i datalagret. Dell integrerar NVIDIA RTX PRO Blackwell Server Edition-grafikprocessorer för att accelerera databehandling nära där data finns.
NVIDIA CUDA-X-bibliotek, som cuDF för kolumnära operationer på strukturerad data och cuVS för vektorindexering, körs tillsammans med Dells datamotorer för att avlasta och parallellisera dataarbetsbelastningar. Dell rapporterar prestandaförbättringar på upp till 3x för SQL-frågor och upp till 12x för vektorindexering jämfört med traditionella, CPU-centrerade metoder.
Genom att bädda in GPU-acceleration i datavägen strävar Dell efter att hålla nedströms AI-tränings- och inferenspipelines matade med förberedd, indexerad data i en takt som matchar GPU-förbrukningen, vilket är en vanlig flaskhals i AI-miljöer i produktionsskala.
Lagring: Att hålla GPU:erna utnyttjade i stor skala
I takt med att AI-arbetsbelastningar går bortom experimenterande blir lagringsbandbredd och latens ofta den begränsande faktorn, vilket lämnar dyra GPU:er inaktiva. Dell svarar med AI-optimerade lagringsmotorer som är utformade för att upprätthålla hög prestanda i takt med att kapaciteten och antalet noder ökar.
Dell Lightning-filsystem
Dell Lightning-filsystemet är ett högpresterande parallellt filsystem som är anpassat för AI-utbildning och inferensarbetsbelastningar. Dell specificerar upp till 150 GB/s per rackenhet, med prestandafördelar jämfört med traditionella flashbaserade och parallella filsystem.
Lightning använder en fabric-baserad arkitektur som möjliggör direkt åtkomst med hög bandbredd från beräkningsnoder till lagring, med syftet att bibehålla GPU-utnyttjandet i stor skala. Systemet integreras med NVIDIA-baserad AI-infrastruktur och är väl lämpat för GPU-täta träningskluster där hållbar dataflöde är avgörande.
Dell Exascale-lagring
Dell Exascale Storage presenteras som ett 3-i-1-lagringssystem för AI och högpresterande databehandling, med stöd för samtidig fil-, objekt- och parallell fillagring på Dell PowerEdge-servrar. På en enda hårdvaruplattform kan organisationer driftsätta:
- Dell PowerScale för skalbart filsystem
- Dell ObjectScale för S3-kompatibel objektlagring
- Dell Lightning-filsystem för ett parallellt filsystem med hög genomströmning
Denna konvergerade metod riktar sig mot krävande AI- och HPC-arbetsbelastningar, inklusive högfrekvent handel och "neoclouds", där blandade protokoll och extrema dataflödeskrav samexisterar. Exascale Storage stöder NVIDIA CX-8 och CX-9 SuperNIC och upp till 800 GbE-nätverkslänkar, och Dell anger prestanda på upp till 6 TB/s per rack för AI-arbetsbelastningar som måste mata in mycket stora datamängder snabbt.
KV-cacheavlastning med NVIDIA CMX och Dell Storage
För att stödja långsiktiga och agentiska AI-arbetsbelastningar möjliggör Dell och NVIDIA avlastning av KV Cache från GPU-minne till delad lagring. Med hjälp av NVIDIA CMX-minneslagringstekniker och inferensaccelerationsfunktioner kan KV Cache distribueras på Dell CMX Storage och höghastighetsnätverk över PowerScale, ObjectScale och Lightning File System.
Genom att flytta KV-cachen från begränsat GPU-minne till högpresterande delad lagring kan organisationer:
- Öka effektiv kontextlängd för stora språkmodeller
- Bibehåll kontinuitet för långvariga agentinteraktioner
- Förbättra GPU-utnyttjandet genom att frigöra VRAM för beräkning snarare än cache
Detta är särskilt relevant för AI-agenter som behöver referera till omfattande historisk data eller upprätthålla långa, tillståndssäkra konversationer utan att förbruka GPU-minne.
PowerScale pNFS för prestanda i stora filer
Dell PowerScales programvarudrivna arkitektur för Parallel Network File System (pNFS) är optimerad för dataflöde för stora filer i AI-miljöer. Dell rapporterar upp till 6 gånger snabbare prestanda för stora filer jämfört med NESv3.12.
pNFS distribuerar filåtkomst över noder för att bibehålla hög bandbredd och minska hotspots, vilket hjälper till att hålla dataflödet till GPU-arbetsbelastningar uppe. Målet är att minimera I/O-flaskhalsar och minska GPU-inaktiv tid, särskilt i träningsscenarier med stora kontrollpunktsfiler och datauppsättningar.
Dell AI Factory med NVIDIA: Skalning och avkastning på investeringen
Dell AI Data Platform och lagringsförbättringar lanseras samtidigt som Dell markerar tvåårsmilstolpen för Dell AI Factory med NVIDIA. Enligt Dell driftsätter fler än 4 000 kunder AI Factory-stacken, och tidiga användare rapporterar upp till 2.6 gånger ROI under det första året.
Dell AI Factorys bredare portfölj omfattar infrastruktur, programvara, lösningar och tjänster som är utformade för att flytta AI från isolerade pilotprojekt till storskalig produktion. AI-dataplattformen, datamotorerna och lagringsstacken som beskrivs här är avsedda att hantera dataåtkomst- och prestandaaspekterna av den resan, vilket i många miljöer har visat sig vara mer utmanande än att hålla GPU-kluster eller modeller i schack.
Dell AI-dataplattformen med NVIDIA erbjuder en integrerad, datacentrerad arkitektur som kombinerar livscykelautomation, GPU-accelererad databehandling och högkapacitetslagring, allt utformat för att hålla AI-agenter och modeller fullt utnyttjade.
Amazon