Steve Poole ist einer von vielen Forschern auf der ganzen Welt, die die Leistungsfähigkeit des Netzwerks nutzen. Der angesehene leitende Wissenschaftler am Los Alamos National Laboratory (LANL) erwartet enorme Leistungssteigerungen durch beschleunigtes Computing, das Datenverarbeitungseinheiten (DPUs) umfasst, die auf NVIDIA Quantum InfiniBand-Netzwerken laufen.
In ganz Europa und den USA entwickeln andere HPC-Entwickler Möglichkeiten, Kommunikations- und Rechenaufgaben auf DPUs zu verlagern. Sie laden Supercomputer mit der Leistung von ARM-Kernen und Beschleunigern in NVIDIA BlueField-2-DPUs auf.
Eine offene API für DPUs
Pooles Arbeit ist Teil einer umfassenden, mehrjährigen Zusammenarbeit mit NVIDIA, die auf eine 30-fache Geschwindigkeitssteigerung bei rechnergestützten Multiphysikanwendungen abzielt. Es umfasst bahnbrechende Techniken in den Bereichen Rechenspeicherung, Mustervergleich und mehr unter Verwendung von BlueField und seinem NVIDIA DOCA-Software-Framework.
Die Bemühungen werden auch dazu beitragen, OpenSNAPI weiter zu definieren, eine Anwendungsschnittstelle, die jeder zur Nutzung von DPUs nutzen kann. Poole ist Vorsitzender des OpenSNAPI-Projekts beim Unified Communication Framework, einem Konsortium, das heterogenes Computing für HPC-Apps ermöglicht und zu dessen Mitgliedern Arm, IBM, NVIDIA, US-amerikanische nationale Labore und US-Universitäten gehören.
„DPUs sind ein integraler Bestandteil unserer Gesamtlösung, und ich sehe großes Potenzial in der Verwendung von DOCA und ähnlichen Softwarepaketen in naher Zukunft“, sagte Poole.
10-30x schnellerer Flash-Speicher
Dank eines von ihm entwickelten DPU-basierten Speichersystems spürt LANL bereits die Leistungsfähigkeit des In-Network-Computing. Die Accelerated Box of Flash (ABoF, unten abgebildet) kombiniert Solid-State-Speicher mit DPU- und InfiniBand-Beschleunigern, um leistungskritische Teile eines Linux-Dateisystems zu beschleunigen. Es ist bis zu 30-mal schneller als vergleichbare Speichersysteme und wird voraussichtlich eine Schlüsselkomponente in der LANL-Infrastruktur werden.
Ein funktionsfähiger Prototyp der Accelerated Box of Flash. Zur Vereinfachung der Einführung sind alle Hardwarekomponenten standardmäßig vorhanden. Beschleuniger und Speichergeräte werden in den U.2-Steckplätzen in den vorderen Schächten platziert, während es auch einen internen PCIe-Steckplatz (Peripheral Component Interconnect Express) für Beschleunigerhardware gibt.
ABoF macht „mehr wissenschaftliche Entdeckungen möglich.“ Die Platzierung von Berechnungen in der Nähe des Speichers minimiert die Datenbewegung und verbessert die Effizienz sowohl der Simulations- als auch der Datenanalyse-Pipelines“, sagte Dominic Manno, ein LANL-Forscher, in einem aktuellen LANL-Blog.
Eine Innenansicht der Accelerated Box of Flash, die die Konnektivität von NVMe-SSDs (Vorderseite des Gehäuses) mit BlueField-2-DPUs zeigt. Oben rechts befindet sich ein PCIe-Steckplatz für einen Beschleuniger. Bei dieser Demonstration wurde ein Eideticom NoLoad-Gerät verwendet.
DPUs im Unternehmen
Wir haben bereits einige DPUs in gängigen Unternehmensrechenzentren gesehen. VAST Data beispielsweise nutzt DPUs in seinen neuen Ceres All-Flash-Speicherknoten. Und obwohl es sich um eine wettbewerbsintensive Technologie handelt, setzt auch Fungible auf DPUs, um sein Speicher- und disaggregiertes GPU-Angebot zu realisieren. Wir befinden uns zwar noch in der Anfangsphase, aber Netzwerk- und Systemadministratoren sollten sich frühzeitig mit den Möglichkeiten von DPUs vertraut machen, um effizientere Systeme und Anwendungsbereitstellungen zu ermöglichen.
Amazon