Podcast n° 143 : Les SSD KIOXIA 245 To sont arrivés !

Maulik Sompura de KIOXIA se joint à Brian pour une discussion approfondie et instructive sur l'actualité de Flash et les événements marquants du secteur. Le sujet est d'actualité, compte tenu de l'essor considérable de l'IA et des charges de travail modernes.

Maulik Sompura est directeur principal de la planification et de la gestion des produits chez KIOXIA. Il possède plus de 13 ans d'expérience dans les domaines de la mémoire NAND, des mémoires et des SSD, dont les six dernières années chez KIOXIA. Il a également travaillé chez Intel et Toshiba.

La conversation s'étend au-delà du stockage et de la mémoire, abordant le refroidissement liquide, les hyperscalers et les formats de mémoire. Sont également évoqués les logiciels libres, les nouvelles usines de fabrication de semi-conducteurs, les problématiques de mise à l'échelle et les craintes d'un nouvel épisode de forte croissance suivi d'un krach similaire à celui de la Covid-19.

Il s'agit d'une conversation instructive qui vous incitera à une réflexion à long terme. Le podcast est divisé en segments de cinq minutes, vous permettant ainsi d'accéder directement à la partie qui vous intéresse le plus. Cependant, il vaut vraiment la peine de le regarder en entier.

Brian et Maulik lancent la discussion en évoquant l'évolution radicale des SSD et du stockage flash, notamment sous la pression de l'IA et des centres de données hyperscale.

0:00–5:00 : Les hyperscalers tirent les ficelles en toute discrétion

• Les gammes de SSD ont connu une complexité explosée : de nombreux formats, niveaux d’endurance et performances.
• L'essor de l'IA a placé le stockage juste derrière les GPU/HBM au rang de priorité absolue.
• Les hyperscalers (Meta, Google, Amazon, etc.) dictent des exigences détaillées en matière de disques durs, et ces conceptions personnalisées déterminent en fin de compte ce que les entreprises obtiennent.
• Les spécifications OCP contribuent à unifier et à simplifier le chaos en offrant à tous une cible commune sur NVMe.
• L'industrie s'efforce activement de réduire le nombre de références et de converger vers des formats modernes comme l'E3, même si les formats plus anciens persistent.

5h00–10h00 : Disques E3, E2 et de classe pétaoctet

• Le format E3 s'impose comme le format d'entreprise privilégié pour la génération 6+ en raison de ses meilleures caractéristiques de puissance et de dissipation thermique.
• Les disques 2.5 pouces resteront disponibles pendant des années en raison de leur long cycle de vie, mais les nouvelles conceptions évoluent vers le format EDSFF.
• L'E2 est un format SSD plus grand, privilégiant la capacité, considéré comme un véritable remplacement de disque dur pour les capacités extrêmes.
• Grâce à l'empilement avancé de la mémoire NAND, un seul disque E2 pourrait éventuellement atteindre 1 PB.
• Les hyperscalers atténuent les risques liés aux disques géants grâce au partitionnement, au codage d'effacement et à l'analyse prédictive ; les temps de reconstruction des SSD de grande capacité restent bien meilleurs que ceux des disques durs de grande capacité.

10h00-15h00 : Le refroidissement liquide arrive aussi pour les SSD

• Les systèmes d'entraînement de l'IA favorisent l'adoption généralisée du refroidissement liquide, et cela s'étend désormais au stockage.
• Les SSD au format E3 sont en cours de refonte pour un contact direct avec les plaques froides (planéité de la surface, matériaux et détails des connecteurs).
• Les SSD Gen5 refroidis par liquide ouvriront la voie à la Gen6, où la puissance et la chaleur seront encore plus élevées.
• Les entreprises hésitent à introduire de l'eau dans les centres de données, mais la hausse des coûts de l'énergie et la densité des GPU rendront le refroidissement liquide de plus en plus difficile à éviter.

15h00–20h00 : Stockage IA : capacité, performances et contraintes sur l’infrastructure

• L'IA fait évoluer le stockage selon deux axes : capacité massive et très hautes performances.
• Le disque dur KIOXIA de 245 To (avec des piles QLC de 32 niveaux) cible les lacs de données et les grands référentiels, et non pas seulement les charges de travail génériques.
• Dans un boîtier moderne, le stockage peut atteindre 250 à 280 Go/s ; le goulot d'étranglement devient de plus en plus l'infrastructure réseau, et non les disques.
• Les hyperscalers se lancent dans une course effrénée vers le 400/800 GbE et des cartes réseau/DPU plus intelligentes, tandis que les clients du marché intermédiaire peinent à suivre ce niveau d'investissement dans l'infrastructure.
• Les bases de données traditionnelles et Fibre Channel restent présentes, mais les bases de données vectorielles et les systèmes de stockage de données axés sur l'IA font leur apparition.

20h00–25h00 : Logiciel plus intelligent et véritable super-cycle Flash

• KIOXIA ne se contente pas de livrer des disques, elle investit également dans des logiciels (par exemple, ISAAC) pour réduire les besoins en HBM/DRAM tout en préservant les performances en IA.
• La stratégie est globale : améliorer les coûts et l’efficacité au niveau du système, et pas seulement grâce à une mémoire NAND plus rapide.
• De nouvelles usines comme Kitakami (K2) montent en puissance, mais les fournisseurs restent prudents après les cycles de croissance et de récession de l'ère Covid qui ont coûté à l'industrie environ 30 milliards de dollars.
• La miniaturisation des puces NAND (plus de couches, lithographie plus fine) devient plus coûteuse et plus rapide, de sorte que l'offre augmentera, mais de manière contrôlée.
• Beaucoup y voient un « super-cycle » pluriannuel alimenté par l'IA et la croissance des données, et non une simple reprise passagère d'un ou deux ans.

25:00 – Fin : L'IA partout, Flash vs. Disque dur, et apprendre du calcul haute performance

• Les données ne cessent de croître et sont rarement supprimées ; l'IA se déploie partout où ces données se trouvent, y compris en périphérie, dans les sauvegardes et sur les niveaux secondaires.
• Les SSD haute capacité peuvent fournir environ 100 Po par rack, contre plusieurs racks de disques durs pour la même capacité, avec des performances et une efficacité bien supérieures.
• Les performances des disques durs ne sont pas proportionnelles à leur capacité ; les SSD offrent des performances IOPS/Go et un débit nettement supérieurs, améliorant ainsi le coût total de possession et favorisant la technologie flash à grande échelle.
• Des salons comme OCP et Supercomputing (SC) sont les premiers à présenter l'avenir : des racks larges, des barres omnibus de 800 V, des systèmes de refroidissement exotiques et des conceptions d'alimentation.
• Les innovations en matière d'hyperscaler et de HPC façonnent progressivement ce à quoi ressembleront les serveurs et les centres de données d'entreprise « normaux », avec résilience et efficacité.