Lors de l'événement SC25 à Saint-Louis, Brian a retrouvé son ami de longue date, Mark Klarzynski, fondateur et directeur technique par intérim de PEAK:AIO. Si vous suivez StorageReview, vous connaissez peut-être déjà nos articles sur PEAK:AIO, qu'il s'agisse d'actualités générales, d' intelligence artificielle médicale ou de protection animale.
Comme l'explique Mark, il a « passé sa vie dans le secteur du stockage et il connaît Brian depuis très longtemps ». Cela se ressent dans une conversation très franche et décontractée sur le matériel et les logiciels, et leur évolution.
Dans ce très court podcast, Brian et Mark discutent de développement logiciel, des serveurs Dell PowerEdge et des serveurs GPU. Mark est enthousiaste quant aux progrès réalisés dans la conception matérielle, notamment le Dell PowerEdge R7725xd , équipé de processeurs AMD EPYC.
Ce court podcast aborde de nombreux sujets et mérite d'être écouté d'une traite. Toutefois, si vous n'avez pas 20 minutes à y consacrer, nous l'avons divisé en segments de cinq minutes pour que vous puissiez naviguer librement.
0:00 – 5:00
- Le logiciel PEAK:AIO libère tout le potentiel des performances extrêmes du Dell 7725XD.
- Le matériel moderne (processeurs, NVMe, réseaux) est enfin suffisamment performant pour que les logiciels puissent « s'effacer ».
- PEAK:AIO a supprimé des décennies de fonctionnalités de stockage héritées pour se rapprocher au plus près du matériel nu.
- Leur surprise : le boîtier Dell offrait des performances bien supérieures aux attentes ; ils pensaient que les tests étaient erronés.
- Philosophie : Créer des choses simple et stable C'est plus compliqué que de simplement les rendre rapides.
5:00 – 10:00
- PEAK:AIO a choisi de rester indépendant plutôt que de devenir une fonctionnalité au sein de la gamme de produits d'un fournisseur de renom.
- Ils travaillent directement avec des équipes de recherche (par exemple, sur des modèles de cancer du cerveau), ce qui est plus gratifiant que de simplement accélérer les bases de données.
- Priorité initiale : compresser ce qui nécessitait auparavant 4 à 10 nœuds de stockage en un seul serveur puissant.
- Les systèmes de fichiers parallèles traditionnels étaient conçus pour une connectivité 10GbE + disque dur ; désormais, une bande passante NVMe et PCIe massive est requise.
- Avec Los Alamos, ils sont en train de construire un NFS ouvert et moderne Tissu – sans verrouillage propriétaire.
10:00 – 15:00
- Liste de souhaits en matière de matériel : plus de lignes PCIe et la norme PCIe Gen 6 pour débloquer encore plus de bande passante.
- Vision : Des serveurs GPU qui sont des boîte de modèle, boîte d'inférence et nœud de stockage Tout en un, mais faisant partie d'un espace de noms plus vaste.
- Commencez modestement avec un serveur GPU ; lorsque l'espace de stockage est saturé, ajoutez un 7725XD et laissez PEAK:AIO s'étendre et se rééquilibrer automatiquement.
- Les clients souhaitent augmenter leur capacité de stockage uniquement lorsque les projets d'IA prouvent leur valeur, et non pas acheter une baie gigantesque d'emblée.
- Les aspects économiques sont importants : on ne peut pas justifier un système de stockage à 1 million de dollars derrière un serveur GPU à 300 000 dollars pour les hôpitaux et les budgets similaires.
15:00 – 20:00
- Stratégie : Utiliser serveurs standard plus le logiciel PEAK:AIO pour remplacer les baies de stockage spécialisées et coûteuses.
- Les constructeurs comme Dell gèrent les problèmes matériels fondamentaux ; PEAK:AIO se concentre sur les logiciels, la stabilité et les performances.
- Systèmes de surveillance et d'intelligence prédictive intégrés ; des années d'expérience sur le terrain sans aucune interruption de service de leur plateforme.
- Résultats du projet commun : ~70 millions d’IOPS sur un seul nœud et un débit de plusieurs centaines de Go/s — des chiffres records pour eux.
- Étape suivante : mettre en place les modèles à l'intérieur le nœud de stockage (avec une capacité CPU/GPU de réserve) permet ainsi une inférence en interne, et non sur le réseau.
Amazon