Storagereview har arbetat med Graid på ett flertal projekt, inklusive vår senaste recension, Storage at GPU Speed, och de fortsätter att imponera. I den här podcasten pratar Brian med sin vän Kelley Osburn, Senior Director of OEM and Channel Business Development på Graid Technology.
Kelley ansvarar för att utveckla och genomföra OEM- och kanalförsäljningsstrategin, hantera viktiga partnerskap och relationer samt utöka företagets marknadsnärvaro och intäkter. Han utnyttjar sin expertis inom flashminne, datalagring, virtualisering, moln, DevOps och containrar/Kubernetes för att leverera värdeskapande lösningar till våra kunder och partners.
Graid Technology levererar RAID-funktionalitet i företagsklass för AI-arbetsbelastningar med minimala infrastrukturförändringar. Istället för ett dedikerat RAID-kort i hårdvara eller en anpassad enhet erbjuds AE som en programvarulicens och använder endast en liten andel av en befintlig NVIDIA GPU. Detta gör det möjligt för organisationer att uppnå lagringsprestanda och tillförlitlighet i företagsklass utan att förbruka ytterligare PCIe-kortplatser, kräva infrastrukturförändringar eller avsevärt påverka GPU-prestanda för tränings- och inferensarbetsbelastningar.
Brian och Kelley fördjupar sig i Graid-lösningens funktionalitet, varför den är avgörande i dagens AI-landskap och vad framtiden har att erbjuda.
Om du är intresserad av att förbättra RAID-prestanda för AI-arbetsbelastningar utan att lägga till fler GPU:er till dina befintliga rack, så levererar den här podcasten.
Om du inte har tid att lyssna på hela podden har vi uppdelat den i fem minuter långa segment så att du enkelt kan hoppa runt för att få den information du behöver.
Lyssnarens guide
Varför Graid? Problemet är löst! [00-05]
- Traditionell RAID/MD-RAID stötte på väggen med NVMe och PCIe Gen4/5/6 – hårda flaskhalsar i x16-banor.
- Osäkra tillfälliga åtgärder: RAID 0 + ögonblicksbilder/kontrollpunkter ökar risken och administrationskostnaderna.
- CPU-bunden matematik i MD-RAID avleder cykler från appar; GPU:er utmärker sig vid parallell paritet/EC matematik.
- Graid avlastar till GPU:n och använder peer-to-peer-vägar, så data kringgår kortet (ingen x16-drossel).
- Anekdot: Servrar med 16–44 hårddiskar förstärker den fysiska filmatchningen hos äldre hårdvaru-RAID.
Springa ifrån "x16-gränser" [05-10]
- Prisvärda GPU:er (A2000/A400) fungerar som trafikpoliser, inte datafärjor – peer-to-peer NVMe-routing.
- Riktiga byggen: ~200 GB/s med ~24 hårddiskar; nya sökvägar driver ~300 GB/s/server.
- Designavvägningar: ~24 x4-diskar för maximal prestanda; 40+ diskar vid x2 gynnar kapacitet/IOPS.
- Litet format: Lågkostnadsutgåvan stöder upp till ~12 hårddiskar – perfekt för AI-stationära datorer.
- Skämt: ”Hur kan det vara snabbare än x16?” – eftersom datan inte passerar genom GPU:n.
AI-utgåva: Använd befintliga GPU:er för beräkning [12-15]
- Kör Graid på H100/Blackwell, du äger redan; ingen extra plats för ett RAID-GPU.
- Litet format: ~6/144 SM på H100; "stängs av" vid inaktivitet för att frigöra resurser.
- GPU Direct Storage flyttar data direkt från NVMe till GPU-minne (lägre latens/hopp).
- Behåll platser för mid-riser för 400/800G nätverkskort och andra acceleratorer.
- Anekdot: ”Mata odjuret.” Förhindra att grafikkorten svälter på IO.
Labpåverkan och kantmönster [15-20]
- Måttlig påverkan av tokens/sek under inferens; lagring och AI når sällan en topp samtidigt.
- Edge-distributioner: En 2U med 2 GPU:er för insamling, lätt tåg och inferens i stor skala.
- Bevara IO-platser genom att dela befintliga GPU:er med Graid.
- Exempel: YOLO-liknande djurliv, detaljhandel och andra färdiga inferensmodeller.
- Tips: Storleksanpassa lagringen för att undvika svält under sprängda rörledningar.
Integritet, namnrymder och skala [20-25]
- RAID är mer relevant vid kanten: Motståndskraft håller GPU:erna produktiva vid fel.
- Tillfälliga fel: Upptäck felaktiga läsningar, återskapa från paritet i farten och flytta data.
- Stora namnrymder: Hårddiskar i 61/122/256 TB-klassen gör stora skyddade pooler värdefulla.
- Skala via NVMe‑oF JBOFs (RoCE/RDMA); 24-96+ råa enheter kräver fortfarande programvaru-RAID.
- Färdplan: Högre antal enheter + raderingskodning för flexibla skyddsdomäner.
Bortom AI: Databaser, streaming, analys [26-30]
- Databaser/HFT: Redis, Aerospike och Oracle drar nytta av snabba och konsekventa skrivningar.
- Splunk/logginmatning: Ihållande dataflöde förhindrar droppar och mottryck.
- Media: Flera 8K-strömningsservrar kan minska det totala antalet servrar för en arbetsbelastning.
- Densitets-/effektbegränsningar gynnar högre prestanda per RU i samlokaliseringar.
- Ombyggnader: Paritet flödar genom GPU; liten ökning av latens, sällan app-synlig.
Färdplan, PCIe Gen6, hur man engagerar sig [30-35]
- Programvara först: att flytta Gen4 till Gen5 ökar prestandan eftersom Graid inte finns i datasökvägen.
- Gen6-flash (~28 GB/s x4) ökar behovet av att ta bort chokepoints.
- Peer-to-peer + GPU-avlastad matematik låser upp nya PCIe-generationer utan hårdvarubortfall.
- Hur man köper: Dell-katalogen, Supermicro OEM, kanaler (CDW) och Amazon.
- Möt Graid: En NVIDIA Inception-partner med montrar på GTC Washington och San Jose.
Amazon