Auf der SC25-Veranstaltung in St. Louis traf Brian seinen langjährigen Freund Mark Klarzynski, Gründer und amtierender CTO von PEAK:AIO. Wenn Sie StorageReview verfolgen, kennen Sie vielleicht unsere Berichterstattung über PEAK:AIO – von regulären Nachrichten über medizinische KI bis hin zum Tierschutz.
Wie Mark erklärt, hat er „sein ganzes Leben im Lagerbereich verbracht und kennt Brian schon sehr, sehr lange“. Das merkt man an dem sehr offenen und unkomplizierten Gespräch über Hardware und Software und deren Entwicklung.
In diesem kurzen Podcast sprechen Brian und Mark über Softwareentwicklung, Dells PowerEdge-Prozessoren und GPU-Server. Mark ist begeistert von den Fortschritten im Hardware-Design, insbesondere vom Dell PowerEdge R7725xd mit AMD EPYC-Prozessoren.
Dieser kurze Podcast behandelt viele Themen und ist am besten in einem Durchgang anzuhören. Falls Sie jedoch keine 20 Minuten Zeit haben, haben wir ihn in fünfminütige Abschnitte unterteilt, sodass Sie nach Belieben zwischen den einzelnen Abschnitten hin- und herspringen können.
0:00 - 5:00
- PEAK:AIO-Software erschließt die extreme Leistung des Dell 7725XD.
- Moderne Hardware (CPUs, NVMe, Netzwerke) ist endlich so gut, dass die Software „aus dem Weg gehen“ kann.
- PEAK:AIO hat jahrzehntelang veraltete Speicherfunktionen entfernt, um näher an die reine Hardware-Architektur heranzukommen.
- Ihre Überraschung: Die Dell-Box lieferte eine viel höhere Leistung als erwartet; sie dachten, die Tests seien falsch.
- Philosophie: Dinge erschaffen einfach und stabil ist komplizierter, als sie einfach nur schnell herzustellen.
5:00 - 10:00
- PEAK:AIO entschied sich dafür, unabhängig zu bleiben, anstatt Teil der Produktlinie eines prominenten Anbieters zu werden.
- Sie arbeiten direkt mit Forschungsteams zusammen (z. B. bei Modellen für Hirntumore), was lohnender ist als nur die Beschleunigung von Datenbanken.
- Erster Schwerpunkt: Komprimierung dessen, was zuvor 4–10 Speicherknoten erforderte, auf ein einziger leistungsstarker Server.
- Traditionelle parallele Dateisysteme wurden für 10GbE + HDD entwickelt; heute werden NVMe und massive PCIe-Bandbreiten benötigt.
- Mit Los Alamos bauen sie ein offenes, modernes NFS Stoff – keine proprietäre Einbindung.
10:00 - 15:00
- Hardware-Wunschliste: mehr PCIe-Lanes und PCIe Gen 6, um noch mehr Bandbreite freizusetzen.
- Vision: GPU-Server, die ein Modellbox, Inferenzbox und Speicherknoten Alles in einem, und doch Teil eines größeren Namensraums.
- Beginnen Sie klein auf einem GPU-Server; wenn der Speicherplatz knapp wird, fügen Sie eine 7725XD hinzu und lassen Sie PEAK:AIO automatisch erweitern und neu ausbalancieren.
- Kunden möchten den Speicher erst dann skalieren, wenn KI-Projekte ihren Wert beweisen, und nicht gleich ein riesiges Speichersystem kaufen.
- Wirtschaftlichkeit spielt eine Rolle: Für Krankenhäuser und ähnliche Budgets lässt sich ein Speichersystem für 1 Million Dollar nicht hinter einem GPU-Server für 300 Dollar rechtfertigen.
15:00 - 20:00
- Strategie: Nutzen Standardserver plus PEAK:AIO-Software als Ersatz für teure, spezialisierte Speichersysteme.
- OEMs wie Dell kümmern sich um grundlegende Hardwareprobleme; PEAK:AIO konzentriert sich auf Software, Stabilität und Leistung.
- Integrierte Überwachungs- und Prognosefunktionen; jahrelanger Praxiseinsatz ohne Ausfallzeiten ihrer Plattform.
- Ergebnisse des gemeinsamen Projekts: ~70 Millionen IOPS in einem einzelnen Knoten und ein Durchsatz von mehreren hundert GB/s – Rekordwerte für sie.
- Nächster Schritt: Modelle einfügen innerhalb Der Speicherknoten (mit freier CPU/GPU-Kapazität) ermöglicht die Inferenz im Gerät selbst und nicht über das Netzwerk.
Amazon