Storagereview a collaboré avec Graid sur de nombreux projets, notamment notre test le plus récent, « Stockage à la vitesse du GPU », et leurs performances restent impressionnantes. Dans ce podcast, Brian s'entretient avec son amie Kelley Osburn, directrice principale du développement commercial OEM et des partenaires chez Graid Technology.
Kelley est responsable du développement et de la mise en œuvre de la stratégie commerciale OEM et des canaux de distribution, de la gestion des partenariats et des relations clés, ainsi que du développement de la présence sur le marché et du chiffre d'affaires de l'entreprise. Il met à profit son expertise en mémoire flash, stockage de données, virtualisation, cloud, DevOps et conteneurs/Kubernetes pour proposer des solutions à valeur ajoutée à nos clients et partenaires.
La technologie Graid offre des fonctionnalités RAID de niveau professionnel pour les charges de travail d'IA, avec des modifications d'infrastructure minimales. Au lieu d'une carte RAID matérielle dédiée ou d'une appliance personnalisée, AE est proposé sous forme de licence logicielle et n'utilise qu'une faible partie d'un GPU NVIDIA existant. Cela permet aux entreprises d'atteindre des performances et une fiabilité de stockage de niveau professionnel sans consommer d'emplacements PCIe supplémentaires, sans nécessiter de modifications d'infrastructure ni impacter significativement les performances du GPU pour les charges de travail d'entraînement et d'inférence.
Brian et Kelley se penchent sur les fonctionnalités de la solution Graid, pourquoi elle est essentielle dans le paysage actuel de l'IA et ce que l'avenir nous réserve.
Si vous souhaitez améliorer les performances RAID pour les charges de travail d'IA sans ajouter de GPU supplémentaires à vos racks existants, ce podcast est fait pour vous.
Si vous n'avez pas le temps d'écouter l'intégralité du podcast, nous l'avons divisé en segments de cinq minutes afin que vous puissiez facilement naviguer pour obtenir les informations dont vous avez besoin.
Guide de l'auditeur
Pourquoi Graid ? Problème résolu ! [00 – 05]
- Le RAID/MD-RAID traditionnel rencontre un obstacle avec NVMe et PCIe Gen4/5/6 : goulots d'étranglement x16 voies.
- Solutions provisoires non sécurisées : RAID 0 + snapshots/points de contrôle augmentent les risques et les frais d'administration.
- Les calculs liés au processeur dans MD-RAID détournent les cycles des applications ; les GPU excellent en parité parallèle/EC mathématiques.
- Grid se décharge sur le GPU et utilise des chemins peer-to-peer, de sorte que les données contournent la carte (pas de starter x16).
- Anecdote : les serveurs de 16 à 44 disques amplifient l’inadéquation des voies physiques du RAID matériel hérité.
Dépasser « limites x16 » [05-10]
- Les GPU abordables (A2000/A400) agissent comme un agent de la circulation et non comme un ferry de données : routage NVMe peer-to-peer.
- Constructions réelles : environ 200 Go/s avec environ 24 lecteurs ; les nouveaux chemins poussent environ 300 Go/s/serveur.
- Compromis de conception : environ 24 disques x4 pour des performances optimales ; plus de 40 disques x2 favorisent la capacité/les IOPS.
- Petit format : l'édition économique prend en charge jusqu'à environ 12 disques, idéale pour les ordinateurs de bureau IA.
- Plaisanterie : « Comment peut-il être plus rapide que x16 ? » — parce que les données ne traversent pas le GPU.
Édition IA : utiliser les GPU de calcul existants [12 – 15]
- Exécutez Graid sur H100/Blackwell, vous le possédez déjà ; aucun emplacement supplémentaire pour un GPU RAID.
- Empreinte minuscule : ~6/144 SM sur H100 ; « abandon » en cas d'inactivité pour libérer des ressources.
- Le stockage direct GPU déplace les données de NVMe vers la mémoire GPU directement (latence/sauts inférieurs).
- Conservez les emplacements mid-riser pour les cartes réseau 400/800G et autres accélérateurs.
- Anecdote : « Nourrir la bête. » Empêcher les GPU de manquer de ressources en E/S.
Impact du laboratoire et motifs de bordure [15 – 20]
- Impact modeste des jetons/sec lors de l'inférence ; le stockage et l'IA atteignent rarement leur pic en même temps.
- Déploiements Edge : un seul 2U avec 2 GPU pour la capture, le train léger et l'inférence à grande échelle.
- Préservez les emplacements d'E/S en partageant les GPU existants avec Graid.
- Exemples : modèles d’inférence de type YOLO pour la faune, la vente au détail et d’autres modèles prêts à l’emploi.
- Conseil : dimensionnez le stockage pour éviter la famine en cas d'éclatement des canalisations.
Intégrité, espaces de noms et échelle [20 – 25]
- Le RAID est plus pertinent à la périphérie : la résilience maintient la productivité des GPU en cas de panne.
- Erreurs transitoires : détectez les mauvaises lectures, reconstruisez à partir de la parité à la volée et déplacez les données.
- Grands espaces de noms : les disques de classe 61/122/256 To rendent les grands pools protégés précieux.
- Mise à l'échelle via les JBOF NVMe‑oF (RoCE/RDMA) ; 24-96+ appareils bruts nécessitent encore RAID logiciel.
- Feuille de route : nombre de disques plus élevé + codage d'effacement pour des domaines de protection flexibles.
Au-delà de l'IA : bases de données, streaming, analyses [26 – 30]
- Bases de données/HFT : Redis, Aerospike et Oracle bénéficient d'écritures rapides et cohérentes.
- Ingestion Splunk/log : un débit soutenu empêche les chutes et la contre-pression.
- Médias : les serveurs de flux multi-8K peuvent réduire le nombre total de serveurs pour une charge de travail.
- Les contraintes de densité/puissance favorisent des performances plus élevées par RU dans les colocations.
- Reconstructions : la parité circule via le GPU ; légère augmentation de la latence, rarement visible par l'application.
Feuille de route, PCIe Gen6, comment s'engager [30-35]
- Logiciel d'abord : le passage de Gen4 à Gen5 améliore les performances puisque Graid n'est pas dans le chemin de données.
- Le flash Gen6 (~28 Go/s x4) amplifie la nécessité de supprimer les points d'étranglement.
- Les mathématiques peer-to-peer + déchargement GPU débloque de nouvelles générations PCIe sans changement de matériel.
- Comment acheter : catalogue Dell, Supermicro OEM, chaînes (CDW) et Amazon.
- Découvrez Graid : un partenaire NVIDIA Inception avec des stands au GTC Washington et San Jose.
Amazon