Podcast n° 142 : Quel avenir pour le stockage à l’ère de l’IA ?

Brian et son équipe ont récemment atterri à Montréal pour visiter les installations du laboratoire Hypertec et observer certaines tendances intéressantes en matière de refroidissement par immersion auprès du chef de file du domaine.

Après la visite du laboratoire et les démonstrations de produits, Brian s'entretient avec Scott Shadley, directeur de la communication stratégique chez Solidigm. Scott et Brian ont une discussion animée et franche sur l'évolution du refroidissement, du stockage flash et l'abandon des formats de disques durs traditionnels.

Cependant, il n'est pas question que de technologie d'immersion. Brian et Scott abordent les défis liés à l'intégrité du signal dans les systèmes PCIe Gen5/6 et le compromis entre performance et fiabilité. Bien entendu, un podcast ne serait pas complet sans une section consacrée à l'IA ; nous traitons donc de sujets tels que la croissance des données pilotée par l'IA, la résilience des RAID et la gestion du rayon d'action des disques de grande capacité.

Scott évoque la stratégie de Solidigm, qui consiste à développer des produits répondant aux besoins des clients plutôt que de deviner les attentes du secteur. Cette approche n'est efficace que si les fournisseurs collaborent étroitement avec leurs clients pour bien comprendre leurs problématiques. Scott aborde ensuite la collaboration avec NVIDIA. Son enthousiasme est palpable. Brian, quant à lui, a bien sûr du mal à cacher son sourire, compte tenu de l'ampleur de l'événement.

Ce podcast aborde tous les sujets, des premiers disques Fibre Channel à la mémoire flash et au NVMe, et explore également les applications de l'informatique de périphérie, le déchargement de l'inférence IA et les développements des SSD qualifiés pour l'immersion.

Ce podcast est incontournable pour quiconque s'intéresse à l'évolution du refroidissement par immersion et du stockage flash, ainsi qu'à l'importance cruciale d'un écosystème de partenaires solide pour la réussite client. Si vous avez 35 minutes de libre, écoutez-le ou regardez-le en entier ; cela en vaut vraiment la peine. Si vous souhaitez approfondir des sujets spécifiques, nous l'avons divisé en segments de cinq minutes.

0:00 – 5:00 | Refroidissement par immersion et tendances industrielles

Points forts:

• Ouverture à Montréal avec Solidigm et Hypertec.
• Discussion de refroidissement par immersion, Refroidissement par liquide ou par airet la visite des installations d'Hypertec.
• Mention de l'OCP et de la façon dont les ingénieurs de centres de données « deviennent des plombiers » en raison de la généralisation des infrastructures de refroidissement liquide.
• La collaboration de Solidigm avec ses partenaires sur solutions de refroidissement liquide directes sur puce est co-conçu avec NVIDIA.
• Philosophie de l'innovation ouverte : Solidigm contribue aux normes industrielles par le biais de la SNIA en matière de propriété intellectuelle afin de garantir l'interopérabilité.
• Accent sur innovation axée sur le client plutôt que de courir après la prochaine génération d'interfaces PCIe.

5:00 – 10:00 | Évolution du stockage flash et des facteurs de format

Points forts:

• Réflexions sur les premières solutions flash d'entreprise (Intel X25, SSD SAS/Fibre Channel).
• Transition des disques durs traditionnels aux SSD et le moment décisif avec NVMe.
• Émergence de nouveaux facteurs de forme (EDSFF) → E1.S, E1.L, E3).
• Discussion sur la manière La normalisation évolue au-delà des conceptions traditionnelles de disques durs de 2.5" et 3.5".
• Défis de conception liés aux environnements d'immersion et aux plateformes flash haute densité.
• Importance de la stabilité thermique : Un environnement stable améliore l'endurance et la fiabilité.
• Les innovations en matière de refroidissement sont directement liées à une durée de vie plus longue et à une efficacité accrue des SSD.

10h00 – 15h00 | Générations PCIe, intégrité du signal et conception de systèmes

Points forts:

• Parler de conception de connecteur défis liés aux environnements de plaques froides de nouvelle génération et PCIe Gen 5 et 6.
• Les problèmes d'intégrité du signal augmentent avec PCIe 3→5→6 : Chaque génération accroît sa sensibilité au bruit.
• Analogie : l'évolution du PCIe de la 3G à la 5G : plus de nœuds, une distance plus courte, des tolérances plus strictes.
• Le point de vue de Solidigm : optimiser architecture et densité du système au lieu de rechercher la vitesse de rotation brute.
• De nombreuses entreprises clientes restent sur la génération 4 car elle est « suffisamment rapide » pour les charges de travail distribuées.
• Passer d'une performance pure à une approche holistique débit, fiabilité et efficacité.

15h00 – 20h00 | Fiabilité, capacité et confiance des clients

Points forts:

• Les performances sont équilibrées avec qualité, longévité et constance.
• Les SSD atteignent la « fiabilité d'une barrette DIMM ». De nombreux clients cessent de changer de disque ; ils tombent en panne « avec élégance ».
• La satisfaction et la confiance des clients sont des priorités absolues ; Solidigm obtient d'excellents résultats dans les évaluations des fournisseurs.
• L'essor des disques ultra-denses comme modèles 122 To (Famille D5‑P5336) et discussion sur l'adoption.
• Les grandes capacités ne sont plus des produits phares.
• Défi de fabrication : les disques plus petits sont plus difficiles à produire à mesure que la densité de la mémoire NAND augmente.
• Disques dimensionnés pour coût total de possession (TCO) optimisation ; approche visant à « remplacer les disques rotatifs ».

20h00 – 25h00 | Croissance des données, IA et problématiques liées au rayon d'action

Points forts:

• Le secteur passe de la suppression des données à tout approvisionner by Formation et inférence de l'IA .
• Tendance « souveraineté des données » : les ensembles de données de formation régionaux entraînent des besoins en capacités plus localisés.
• Une demande croissante pour stockage local massif pour adapter des modèles globaux comme GPT.
• Discussion sur le « rayon d’explosion » et le risque de perdre 100 Disque dur TB.
• Le RAID matériel pour NVMe est de retour ; les reconstructions de parité accélérées par GPU gagnent du terrain.
• La reconstruction des SSD est rapide. Le véritable souci est l'indisponibilité du service plutôt que la perte définitive de données.
• De nombreux opérateurs maintenant conception d'architectures à défaillance sur place au lieu d'échanges manuels.

25:00 – 30:00 | Orientations futures, intelligence artificielle de pointe et opportunités d'innovation

Points forts:

• Réflexions sur les pénuries de stocks à l'échelle de l'industrie, provoquées par l'essor de l'IA et les retards d'approvisionnement en mémoire NAND.
• Opportunité unique de repenser les architectures et les possibilités nouveaux formats ou mémoire flash intégrée + réseau.
• Innovation de pointe : NVIDIA Spark et Jetson Ces produits brouillent les frontières entre les centres de données et les ordinateurs de bureau.
• Exploration de Déchargement NVMe pour l'inférence et la génération augmentée par récupération (RAG).
• J'espère un avenir où les innovations en matière de stockage occuperont une place centrale au GTC, aux côtés du calcul et de la DRAM.
• Accent sur Collaboration intersectorielle. SNIA De nouveaux groupes de travail « Storage.AI » intègrent les efforts d'alignement en matière de stockage, de réseau et d'IA.

30:00 – 34:00 | Conclusion et tests sur site

Points forts:

• Retour aux serveurs d'immersion Hypertec pour des tests en conditions réelles avec des disques Solidigm.
• Discussion de avantages de stabilité thermiqueDes températures constantes signifient l'absence de limitation de vitesse.
• Solidigm travaille à SSD entièrement qualifiés pour les liquides d'immersion à base d'hydrocarbures.
• Conversation de clôture : Enthousiasme partagé concernant l’expérimentation pratique, la constance des performances et l’innovation matérielle.
• Conclusion et au revoir de Montréal.