Podcast #143: KIOXIA 245TB SSDs sind da!

Maulik Sompura von KIOXIA spricht mit Brian über Flash-Technologien und andere Branchenereignisse. Angesichts der rasanten Verbreitung von KI und moderner Arbeitslasten ist das Thema hochaktuell.

Maulik Sompura ist Senior Staff Director – Produktplanung und -management bei KIOXIA und verfügt über mehr als 13 Jahre Erfahrung im Bereich NAND, Speicher und SSDs, davon die letzten sechs Jahre bei KIOXIA. Zuvor war er unter anderem bei Intel und Toshiba tätig.

Das Gespräch geht über Speicher und Arbeitsspeicher hinaus und umfasst Flüssigkeitskühlung, Hyperscaler und Formfaktoren. Auch Open-Source-Software, neue Halbleiterfabriken, Skalierungsprobleme und die Befürchtung eines erneuten „Covid-Booms mit anschließendem Einbruch“ werden diskutiert.

Es handelt sich um ein informatives Gespräch, das Sie zum Nachdenken anregen wird. Wir haben den Podcast in fünfminütige Abschnitte unterteilt, sodass Sie direkt zu dem für Sie und Ihre Situation relevanten Teil springen können. Es lohnt sich jedoch, ihn komplett anzuhören.

Brian und Maulik eröffnen die Diskussion mit der Frage, wie radikal sich SSDs und Flash-Speicher weiterentwickelt haben, insbesondere unter dem Druck von KI und Hyperscale-Rechenzentren.

0:00–5:00: Hyperscaler führen im Stillen das Geschehen an

• Das SSD-Portfolio ist in seiner Komplexität explosionsartig gestiegen: Es gibt viele Formfaktoren, Ausdauerstufen und Leistungsklassen.
• Der KI-Boom hat den Speicher direkt hinter GPUs/HBM zu einer Priorität erster Klasse gemacht.
• Hyperscaler (Meta, Google, Amazon usw.) diktieren detaillierte Laufwerksanforderungen, und diese kundenspezifischen Designs bestimmen letztendlich, was Unternehmen erhalten.
• Die OCP-Spezifikationen tragen dazu bei, das Chaos zu vereinheitlichen und zu vereinfachen, indem sie allen ein gemeinsames Ziel auf Basis von NVMe bieten.
• Die Branche bemüht sich aktiv darum, die Anzahl der Artikelnummern zu reduzieren und sich auf moderne Formfaktoren wie E3 zu konzentrieren, auch wenn ältere Formfaktoren weiterhin bestehen.

5:00–10:00 Uhr: E3-, E2- und Petabyte-Festplatten

• E3 entwickelt sich aufgrund seiner besseren Leistungs- und Wärmeeigenschaften zum bevorzugten Enterprise-Formfaktor für Gen6+.
• 2.5-Zoll-Laufwerke werden aufgrund ihrer langen Produktlebenszyklen noch jahrelang im Einsatz bleiben, aber neue Designs setzen zunehmend auf EDSFF.
• E2 ist ein größeres SSD-Formfaktor mit Fokus auf Speicherkapazität, das bei extrem hohen Speicherkapazitäten als echter Festplattenersatz gilt.
• Mit fortschrittlicher NAND-Speichertechnologie könnte ein einzelnes E2-Laufwerk letztendlich 1 PB erreichen.
• Hyperscaler minimieren die Risiken riesiger Laufwerke durch Sharding, Erasure Coding und Predictive Analytics; die Wiederherstellungszeiten für riesige SSDs sind immer noch viel besser als für große HDDs.

10:00–15:00 Uhr: Flüssigkeitskühlung auch für SSDs

• KI-Trainingssysteme treiben die breite Akzeptanz von Flüssigkeitskühlung voran, und das erstreckt sich nun auch auf Speichersysteme.
• SSDs im E3-Formfaktor werden für den direkten Kontakt mit Kühlplatten neu gestaltet (Oberflächenebenheit, Materialien und Anschlussdetails).
• Flüssigkeitsgekühlte Gen5-SSDs werden den Weg für Gen6 ebnen, bei der Leistung und Wärme noch höher ausfallen werden.
• Unternehmen sind vorsichtig, wenn es darum geht, Wasser in das Rechenzentrum einzuführen, aber steigende Stromkosten und die zunehmende GPU-Dichte werden es immer schwieriger machen, auf Flüssigkeitskühlung zu verzichten.

15:00–20:00 Uhr: KI-Speicher: Kapazität, Leistung und Materialbelastung

• KI treibt die Speichertechnologie entlang zweier Achsen voran: massive Kapazität und sehr hohe Leistung.
• Die 245-TB-Festplatte von KIOXIA (mit 32-facher QLC-Speicheranordnung) zielt auf Data Lakes und große Repositories ab, nicht nur auf generische Workloads.
• In einem modernen System sind Speichergeschwindigkeiten von 250–280 GB/s möglich; der Flaschenhals ist zunehmend die Netzwerkarchitektur und nicht mehr die Festplatten.
• Hyperscaler wetteifern um 400/800 GbE und intelligentere NICs/DPUs, während mittelständische Kunden Mühe haben, mit diesem Investitionsniveau in die Netzwerkinfrastruktur Schritt zu halten.
• Traditionelle Datenbanken und Fibre Channel bleiben bestehen, aber Vektordatenbanken und KI-zentrierte Datenspeicher gesellen sich hinzu.

20:00–25:00 Uhr: Intelligentere Software und ein echter Flash-Superzyklus

• KIOXIA liefert nicht nur Laufwerke aus, sondern investiert auch in Software (z. B. ISAAC), um den Bedarf an HBM/DRAM zu reduzieren und gleichzeitig die KI-Leistung zu erhalten.
• Die Strategie ist ganzheitlich: Kosten und Effizienz sollen auf Systemebene verbessert werden, nicht nur durch schnellere NAND-Speicher.
• Neue Halbleiterfabriken wie Kitakami (K2) nehmen ihre Produktion wieder auf, doch die Anbieter sind nach den Boom- und Krisenzyklen der Covid-Ära, die die Branche rund 30 Milliarden Dollar gekostet haben, vorsichtig.
• Die Skalierung von NAND (mehr Schichten, feinere Lithographie) wird immer teurer und schreitet schneller voran, sodass das Angebot zwar wachsen wird, aber auf kontrollierte Weise.
• Viele sehen darin einen mehrjährigen „Superzyklus“, der durch KI und Datenwachstum angetrieben wird, und nicht nur einen normalen, ein- bis zweijährigen Blitzaufschwung.

25:00–Ende: KI überall, Flash vs. HDD und Lernen von HPC

• Die Datenmenge wächst ständig und wird nur selten gelöscht; KI dringt dorthin vor, wo diese Daten gespeichert sind, einschließlich Edge-Computing, Backups und sekundären Speicherebenen.
• Hochleistungs-SSDs liefern ca. 100 PB pro Rack, im Vergleich zu mehreren Racks mit HDDs für die gleiche Kapazität, und bieten dabei eine weitaus bessere Leistung und Effizienz.
• Die Leistung von HDDs skaliert nicht mit der Kapazität; SSDs bieten um Größenordnungen bessere IOPS/GB und einen höheren Durchsatz, was die Gesamtbetriebskosten senkt und Flash-Speicher im großen Maßstab begünstigt.
• Auf Messen wie OCP und Supercomputing (SC) wird die Zukunft zuerst sichtbar: breite Racks, 800-V-Stromschienen, exotische Kühl- und Stromversorgungskonzepte.
• Hyperscaler- und HPC-Innovationen prägen zunehmend das Bild, das „normale“ Unternehmensserver und Rechenzentren in Zukunft prägen wird – mit Fokus auf Ausfallsicherheit und Effizienz.