KI auf See: Oregon State sticht in See, um den Ozean in Echtzeit zu erforschen

„Uns interessieren Technologien, die die Wissenschaft verändern.“

— Christopher Sullivan, Direktor – Forschung und akademisches Rechnen – Fakultät für Erd-, Ozean- und Atmosphärenwissenschaften – Oregon State University

At Planktonökologielabor der Oregon State University, gelegen innerhalb der Hatfield MeeresforschungszentrumDie Diskussion um Infrastruktur beginnt mit einem wissenschaftlichen Ziel. Wie kann Technologie Forschern helfen, unsere Ozeane besser und schneller zu verstehen und gleichzeitig jeden einzelnen Datenpunkt, den sie auf See sammeln, zu bewahren? Die Antwort hängt zunehmend von Rechenleistung, GPU-Beschleunigung und dichtem NVMe-Speicher ab, die im Dienste der Wissenschaft stehen und nicht umgekehrt.

Das Labor erforscht die Grundlagen der marinen Nahrungskette, indem es hochauflösende Bilder und Umweltdaten erfasst und diese in Erkenntnisse umwandelt. Diese Arbeit ist nicht abstrakt. Es handelt sich um Feldforschung, die auf Schiffe, Sensoren und unwiederbringliche Zeitfenster angewiesen ist. Datenverlust ist keine Unannehmlichkeit, sondern der Verlust eines Augenblicks im Ozean, der für immer verloren ist.

Die Beantwortung komplexer wissenschaftlicher Fragestellungen erfordert leistungsstarke Hardware. Wir haben die Ohio State University (OSU) bei der Validierung eines Dell PowerEdge XE7745 begleitet, der GPUs mit hochdichten NVMe-SSDs kombiniert und Forschern so die kompromisslose Analyse, Speicherung und Weitergabe von Daten ermöglicht. Der Fokus liegt dabei zunächst auf Datenintegrität und Zuverlässigkeit, gefolgt von hoher Geschwindigkeit im großen Maßstab. So verändert Technologie die Wissenschaftspraxis durch KI, nicht nur in der Theorie.

Im Inneren des Systems

• Server: Dell PowerEdge XE7745 (4U)
• Prozessoren: Dual AMD EPYC 9555 64-Kern
• DRAMs: 24 x 32 GB – 768 GB
• GPUs: 4 × NVIDIA RTX Pro 6000 Server
• Lagerung: 8 × Solidigm D5-P5336 E3.S 30.72 TB
• Netzwerk: 100-GbE-Ethernet-Offload

„Jede Technologie beeinflusst die Wissenschaft bereits. Die Herausforderung besteht darin, Technologien zu finden, die diese Grenzen beseitigen.“

Plankton ist der unsichtbare Architekt des Lebens auf der Erde. Diese mikroskopisch kleinen Organismen treiben den biologischen Motor unseres Planeten an, produzieren etwa die Hälfte des weltweiten Sauerstoffs und bilden die Grundlage jedes marinen Nahrungsnetzes. Sie absorbieren enorme Mengen an Kohlendioxid, beeinflussen globale Klimazyklen und dienen als Frühindikatoren für Veränderungen in Ökosystemen. Plankton zu verstehen bedeutet, die Gesundheit der Ozeane, ihre Rolle bei der Regulierung der Atmosphäre und letztlich die zukünftige Stabilität unseres Planeten zu verstehen.

Jahrzehntelang stützte sich die Planktonforschung auf Netze, die große Probenmengen sammelten, welche anschließend mikroskopisch analysiert wurden. Diese Methoden lieferten jedoch nur Momentaufnahmen und führten oft zu der Annahme, dass Räuber und Beute ständig im selben Bereich der Wassersäule interagieren. Hochauflösende Bildgebungssysteme, die sich vertikal durch den Ozean bewegen können, enthüllten ein anderes Bild. Viele Planktonarten und ihre Fressfeinde besiedeln unterschiedliche Schichten, die durch Tiefe, Temperatur und Nährstoffgradienten voneinander getrennt sind. Diese Struktur war zuvor unsichtbar. Moderne Bildgebungssysteme ermöglichen es Forschern, nicht nur das Vorkommen von Arten, sondern auch deren Verteilung, Interaktionen und deren Entwicklung zu beobachten.

Die OSU verfügt über viele Instrumente zur Planktonforschung, ihr wichtigstes Instrument ist jedoch das … In-situ-Ichthyoplankton-Bildgebungssystem (ISIIS)ISIIS ist eine geschleppte Plattform, die durch den Ozean fährt und Daten über ozeanografische Kupfer-/Glasfaserkabel sendet. Zwei 8K-Kameras erfassen die Silhouetten von Plankton, während Meerwasser durch das System strömt. Dabei werden bis zu 160 Liter pro Sekunde abgebildet und gleichzeitig Temperatur-, Salzgehalts- und Tiefendaten zur Kontextualisierung aufgezeichnet.

Dieser Prozess erzeugt täglich Terabytes an Daten. Die Wissenschaftler der OSU wollen diese Daten nahezu in Echtzeit analysieren, damit die Schiffsbesatzungen ihre Probenahmerouten an die Erkenntnisse unter der Wasseroberfläche anpassen können.

Langfristig sollen KI-Modelle Organismen automatisch identifizieren und Veränderungen in Planktonpopulationen erkennen, die auf größere Umweltveränderungen hindeuten könnten. Um diese Muster in großem Umfang zu erfassen, sind sowohl fortschrittliche Bildgebungssysteme als auch eine entsprechende Recheninfrastruktur erforderlich, die visuelle Datenflut in quantifizierbare Erkenntnisse umwandeln kann.

Die Validierungsarbeiten der Oregon State University finden derzeit an Land statt. Dort verarbeitet das Dell PowerEdge XE7745-System die immensen Bilddatensätze der ISIIS-Plattform. Diese Umgebung ermöglicht es den Forschern, ihre Modelle zu verfeinern, die Datenintegrität zu überprüfen und die Systemleistung unter wissenschaftlicher Belastung zu bewerten. Langfristig soll diese Technologie auf See verlagert werden. Die gleiche Rechen- und Speicherarchitektur soll an Bord von Forschungsschiffen integriert werden, um die Datenverarbeitung und -analyse bereits auf See zu ermöglichen. Dieser Übergang von der laborbasierten Validierung zur Echtzeit-Anwendung auf See wird letztendlich den Kreislauf zwischen Datenerfassung, -analyse und -interpretation schließen.

„Unser idealer Arbeitsablauf sieht so aus, dass die wissenschaftlichen Arbeiten bereits abgeschlossen sind, wenn das Schiff den Hafen erreicht.“

Die nächste Phase der Forschungsinfrastruktur der Oregon State University bringt Rechenleistung direkt auf die Wellen. Die neue Forschungsschiffflotte der Universität, einschließlich der kommenden Forschungsschiffe der Regionalklasse wie die Forschungsschiff TaaniSie wird als Plattform für die leistungsstarke, teilautonome Datenerfassung und -analyse konzipiert. Diese Schiffe dienen als mobile Labore und führen wissenschaftliche Instrumente, Sensorarrays und nun auch GPU-gesteuerte Rechensysteme mit, die Terabytes an Daten analysieren können, bevor sie wieder an Land zurückkehren.

Jede Forschungsreise wird mehrere parallele Experimente umfassen, von Plankton-Bildgebung und digitaler Fischereiüberwachung bis hin zu akustischer Kartierung und Umweltmodellierung. Die Herausforderung auf See liegt nicht in der Energieversorgung, sondern in der Datendichte. Jede Rack-Einheit an Bord muss angesichts des begrenzten IT-Personals auf See maximale Leistung bei minimaler Komplexität erbringen. Die validierte Konfiguration des Dell PowerEdge XE7745 mit Solidigm E3.S SSDs und NVIDIA RTX Pro 6000 GPUs wird als Eckpfeiler dieser schiffsbasierten Rechenzentrumsstrategie evaluiert. Durch die nahezu Echtzeit-Datenverarbeitung können die Forscher der OSU Probenahmerouten anpassen, Anomalien erkennen und fundierte wissenschaftliche Entscheidungen treffen, während sie noch unterwegs sind.

Dieser Ansatz ermöglicht zudem die Integration künstlicher Intelligenz in den Arbeitsablauf. KI-Modelle, die mit historischen Planktonbildern trainiert wurden, können Organismen klassifizieren, Umwelttrends identifizieren und sogar vorhersagen, wo hohe Konzentrationen von Zielarten wahrscheinlich auftreten werden. Diese Fähigkeit wandelt eine Forschungsexpedition von einer passiven Datenerfassungsmission in eine aktive, adaptive Erkundungsmission um. In Kombination mit zuverlässigem, redundantem NVMe-Speicher und Hochgeschwindigkeitsnetzwerken entsteht so eine robuste Edge-Computing-Umgebung, die speziell für die Forschung entwickelt wurde.

Die Vision ist, jedes Forschungsschiff der Ohio State University (OSU) zu einem autarken, KI-gestützten Observatorium zu machen. Die von den Schiffsinstrumenten erfassten Daten fließen direkt in die bordeigenen Rechencluster, wo sie analysiert, archiviert und nach der Rückkehr des Schiffes in den Hafen über 100-GbE-Ethernet-Verbindungen übertragen werden können. Bis zum Anlegen verfügen die Wissenschaftler bereits über verwertbare Erkenntnisse, validierte Ergebnisse und die Gewissheit, dass kein einziges Byte an Daten im Meer verloren gegangen ist.

„Wenn man auf See Umweltdaten erfasst, kostet jede Stunde Tausende von Dollar.“

Die an Bord der Forschungsschiffe der Oregon State University gesammelten Daten zählen zu den wertvollsten Informationen der Wissenschaft. Jede Betriebsminute repräsentiert Schiffszeit, Treibstoff, Besatzung und Ausrüstung im Zusammenspiel, um Bedingungen zu erfassen, die möglicherweise nie wieder eintreten werden. Der Verlust auch nur eines Bruchteils dieser Daten ist daher absolut inakzeptabel. Sullivans Team hat seine Infrastruktur nach einem einzigen Prinzip konzipiert: Jedes einzelne Datenelement muss gesichert, verifiziert und analysiert werden, bevor das Schiff jemals wieder im Dock anlegt.

Um dieses Ziel zu erreichen, validiert OSU die Dell PowerEdge XE7745, eine luftgekühlte 4U-Plattform, die für GPU-beschleunigte Workloads entwickelt wurde. Dieses System kombiniert zwei AMD EPYC-Prozessoren mit bis zu acht (in diesem Fall vier) Grafikkarten. NVIDIA RTX Pro 6000 Server-GPUs Basierend auf der Blackwell-Architektur. Jede GPU bietet 96 GB schnellen GDDR7-Speicher und fortschrittliche Tensor-Kerne, die speziell für KI-Inferenz und Bildverarbeitung entwickelt wurden und es Forschern ermöglichen, hochauflösende Umweltdaten in Echtzeit zu analysieren.

Die begrenzte Anzahl an Laufwerksschächten des XE7745 machte die Kapazität pro Steckplatz zu einem entscheidenden Faktor, was OSU dazu veranlasste, acht Laufwerksschächte zu integrieren. 30.72 TB Solidigm D5-P5336 E3.S SSDsDies bietet fast 250 TB Flash-Speicher auf kleinstem Raum und kombiniert die Effizienz des QLC-NAND-Flashspeichers von Solidigm mit einer für dauerhafte Schreibleistung und Datenintegrität optimierten Enterprise-Firmware. Gerade für die R/V Taani, wo Platz und Kühlung entscheidend sind, ermöglicht diese Dichte, dass die gesamte Plattform – inklusive Rechenleistung, GPU-Beschleunigung und redundantem Speicher – in einem einzigen 4U-Gehäuse untergebracht werden kann.

„Wir gehen diese Systeme bis ins kleinste Detail durch, um zu sehen, wie weit sie gehen können.“

Die Validierungsphase an der Oregon State University konzentriert sich darauf, zu verstehen, wie gut der Dell PowerEdge XE7745 den gesamten Workflow der Planktonbildgebung von Anfang bis Ende unterstützt. Ziel ist es nicht nur, die Geschwindigkeit zu messen, sondern auch zu bestätigen, dass das System Daten in dem Umfang und Tempo, die während des Schiffsbetriebs erforderlich sind, zuverlässig verarbeiten kann.

Das Labor erfasst heute im Rahmen eines typischen Forschungseinsatzes täglich über 15 Terabyte an Bild- und Umweltdaten. Mit der XE7745-Plattform verarbeitet das Team derzeit täglich rund zwei Terabyte Rohvideomaterial. Dieser Workflow nutzt 256 CPU-Kerne für die Segmentierung und vier NVIDIA RTX Pro 6000 Server-GPUs für die Inferenz. Die resultierende Pipeline ist etwa dreimal schneller als der Workflow der vorherigen Generation.

Die wichtigste Erkenntnis ist, dass der aktuelle Flaschenhals die CPU-Segmentierung ist, nicht der Speicherdurchsatz oder die GPU-Verarbeitung. Die Solidigm D5-P5336 SSDs im RAID 10 liefern konstant hohe Lese- und Schreibleistung, ohne hinter der Verarbeitungskette zurückzufallen. Die GPUs bieten zudem ausreichend Durchsatzreserve und ermöglichen so Skalierungsoptionen, sofern die Energie- und Kühlressourcen dies zulassen. Anders ausgedrückt: Die Hardware ist nicht länger der limitierende Faktor. Die Architektur legt nun die tatsächliche wissenschaftliche Arbeitslast offen und erlaubt dem Team, die Segmentierungsphase präzise zu optimieren.

Die Auswirkungen auf den Betrieb sind erheblich. Bei früheren Expeditionen konnten die Forscher die Videoaufzeichnungen lediglich während der Aufnahme verfolgen und nicht feststellen, ob sie planktonreiches Wasser oder lediglich Schwebstoffe auffingen. Plankton folgt den Strömungen und konzentriert sich oft in feinen Schichten, die in Echtzeit nicht sichtbar sind. Ohne Auswertung könnten auf einer zehntägigen Expedition stundenlange Daten mit geringem wissenschaftlichem Nutzen entstehen.

Dank der Echtzeitverarbeitung auf dem XE7745 kann das Wissenschaftsteam die Datenqualität nun bereits während der Datenerfassung beurteilen. Zeigen die Bilder beispielsweise nur geringe Planktondichte, kann das Schiff die Tiefe anpassen oder neue Koordinaten ansteuern, ohne die See zu verlassen. Diese Möglichkeit, fundierte Anpassungen vorzunehmen, ist einer der Hauptgründe, warum KI-beschleunigtes Rechnen auf Forschungsschiffen so wichtig ist. Es wandelt die Expedition von passiver Datenerfassung hin zu aktiver wissenschaftlicher Erkundung.

Mit der Hinzunahme weiterer XE7745-Systeme lässt sich die Verarbeitungskapazität skalieren, um das gesamte tägliche Datenvolumen zu bewältigen. Diese Skalierbarkeit wird mit den physikalischen Gegebenheiten der Schiffsforschung in Einklang gebracht: Energieverbrauch, Wärmeabfuhr und Rackdichte. Diese Herausforderungen sind nicht technologischer, sondern umweltbedingter Natur und werden gerade deshalb sichtbar, weil die Rechenplattform ihre Leistungsfähigkeit unter Beweis gestellt hat.

„Wenn Ihre Technologie die Wissenschaft verändern kann, lassen Sie uns reden.“

Der wissenschaftliche Erkenntnisfortschritt erfolgt, wenn wir bisher Verborgenes sichtbar machen können, und die Ozeane bergen viele solcher Geheimnisse. Die Bildgebungsverfahren der Oregon State University enthüllen nun seltene Planktonarten, die eine entscheidende Rolle im marinen Nahrungsnetz spielen, und zeigen gleichzeitig, wie Umweltveränderungen, wie beispielsweise steigende Meerestemperaturen, ihr Überleben beeinflussen. Plankton reagiert schnell auf Stress und ist daher ein Frühindikator für größere Veränderungen in Ozean- und Klimasystemen. Ihre detaillierte Untersuchung ist unerlässlich, um zu verstehen, wie der Ozean Leben erhält und wie sich dieses Gleichgewicht möglicherweise verändert.

Dieser Fortschritt basiert auf Werkzeugen, die sich als Antwort auf wissenschaftliche Fragestellungen weiterentwickeln. Moderne Forschung erfordert die Fähigkeit, riesige Datensätze direkt vor Ort zu erfassen, zu verarbeiten und zu interpretieren. Dank NVMe-Speicher mit hoher Kapazität und GPU-Beschleunigung kann die Datenverarbeitung nun näher an den Ort der Datenerfassung verlagert werden, anstatt sich ausschließlich auf zentrale Rechenzentren zu verlassen. Für die OSU bedeutet dies Echtzeit- oder nahezu Echtzeit-Analyse direkt am Datenrand, wo wissenschaftliche Entscheidungen den Verlauf der Datenerfassung selbst beeinflussen können.

Die Zusammenarbeit zwischen der Oregon State University und ihren Technologiepartnern spiegelt ein gemeinsames Verständnis der Ziele und Aufgaben wider. Die Grenzen der Forschung liegen nicht in den gestellten Fragen, sondern in den gefundenen Antworten. Sie ergeben sich aus der praktischen Fähigkeit, die vom Ozean bereitgestellte Datenmenge zu verarbeiten. Wenn Rechenleistung, Speicherkapazität und Arbeitsabläufe den wissenschaftlichen Anforderungen entsprechen, lösen sich diese Einschränkungen allmählich auf.

Zukünftig liegt die Chance darin, Systeme zu entwickeln, die Daten erfassen, analysieren und verstehen, ohne dass diese über verschiedene Plattformen übertragen werden müssen. Die Verarbeitung erfolgt datenorientiert, nicht umgekehrt. Bordcomputer, NVMe-Speicher mit hoher Speicherdichte und GPU-beschleunigte Inferenz sind Schritte hin zu diesem Modell. Dies ist keine „zukunftsorientierte KI“. Dieses Projekt zeigt, dass ein bedeutender Wandel im Bereich des Forschungsrechnens bereits im Gange ist.

Der Ozean verändert sich. Die Daten sind entscheidend. Das Zeitfenster, um ihn zu verstehen, ist begrenzt. Die Arbeit an der Oregon State University zeigt, was möglich wird, wenn wir die richtige Technologie zur richtigen Zeit an den richtigen Stellen einsetzen, wo die Wissenschaft stattfindet.

Erfahren Sie mehr über die Forschung der Oregon State University auf der SC25:

Dell Technologies Talk
Datum: Dienstag, 18.11.
Zeit: 11: 30 am
Ort: Hauptstand von Dell, Vortragsbereich

Supermicro Talk
Datum: Mittwoch, 19.11.
Zeit: 5: 00 pm
Standort: Hauptstand von Supermicro, Nr. 3504