Podcast #154: Chris Sullivan von der Oregon State University über 122-TB-SSDs auf See, Fleckenkäuze und KI als Datenproblem

Brian sprach mit Chris Sullivan, Forschungsdirektor und Leiter des akademischen Rechnens am College für Erd-, Ozean- und Atmosphärenwissenschaften der Oregon State University, live auf der Yotta 2026 in Las Vegas. Diese reine Audiofolge wurde direkt vor Ort aufgenommen. Chris ist seit Langem ein verlässlicher Partner in unserer Arbeit im Bereich Edge-KI – vom Datenzentrum auf Forschungsschiffen , über das wir im letzten Herbst berichteten, bis hin zum gemeinsam genutzten Speicherkonzept DGX Spark, das wir in der Messewoche veröffentlichten. In diesem Gespräch geht es um die Daten hinter der Wissenschaft: 4,000 akustische Aufnahmegeräte im Wald, 100 TB Planktonbilder pro fünftägiger Forschungsfahrt, Solidigm-SSDs mit hoher Kapazität in einer Rangerstation und warum er immer wieder betont, dass KI ein Datenproblem ist.

Chris Sullivan leitet die Forschungs- und akademischen Rechenzentren am College für Erd-, Ozean- und Atmosphärenwissenschaften der Oregon State University. Damit ist er verantwortlich für die Infrastruktur hinter der Waldüberwachung, der Meeresbeobachtung und den Rechenzentrumsarbeiten, die die Universität für Partnerinstitutionen durchführt. Er bezeichnet sich selbst in erster Linie als Datenwissenschaftler und argumentiert in der gesamten Folge, dass jeder Wissenschaftler im Grunde auch Datenwissenschaftler ist. Wir sprachen erstmals mit ihm in Podcast #145 , berichteten über seine Arbeit mit Metrum AI im Bereich KI-gestützter akademischer Bewertung und hatten ihn im Mai zu einem LinkedIn Live-Event eingeladen.

Die Folge dauert etwa 22 Minuten. Besonders beeindruckt haben uns folgende Zahlen: ein 150 Millionen Dollar teures Schiff, dessen zehntägige Kreuzfahrt 1 Million Dollar kostet; 55 GB/s Lesegeschwindigkeit von U.2 QLC im Validierungssystem; 250 TB Daten, die alle sechs bis acht Wochen von einer Rangerstation eintreffen; und ein Förderzyklus, der Hardware-Aktualisierungen alle 18 Monate vorsieht, während die Branche auf drei bis sechs Monate umstellt. Falls Sie nicht die Zeit haben, die Folge komplett anzuhören, haben wir sie in Segmente unterteilt, sodass Sie die für Sie wichtigsten Ausschnitte auswählen können.

[00:00] Universitäten als Datenverwalter

Im einleitenden Abschnitt wird erläutert, warum die Arbeit der Oregon State University sich von der Arbeit der meisten anderen Forscher unterscheidet: Die Daten werden mit Instrumenten im Feld gesammelt und für immer aufbewahrt, weil niemand weiß, welches Modell sie als nächstes wertvoll machen wird.

• Chris vertritt die Ansicht, dass alle Wissenschaftler Datenwissenschaftler sind, da jedes Experiment, ob im Labor oder auf einem Cluster, Daten erzeugt, die gespeichert und aufbereitet werden müssen.
• Universitäten waren traditionell gut darin, Daten zu kuratieren und ihren Wert nachzuweisen, und er sieht sie als die natürlichen langfristigen Datenverwalter, da KI den Wert alter Aufzeichnungen erhöht.
• Die erklärte Mission der Oregon State University lautet „Wohlstand für alle“, und die Arbeit am Rechenzentrum wird als direkter Beitrag dazu verstanden.

[01:45] Fleckenkäuze, 4,000 Melder und ein Modell mit 135 Arten

Chris arbeitet mit dem US Forest Service an einem Programm zur Überwachung des Fleckenkauzes, einer Schirmart, deren Vorkommen viel über den Zustand des Waldes aussagt, und das Projekt hat sich zu einer allgemeinen akustischen Bestandsaufnahme entwickelt.

• Rund 4,000 autonome Aufzeichnungseinheiten sind zwischen San Francisco und Kanada im Einsatz und zeichnen den Wald kontinuierlich auf.
• Das von ihm im Frühjahr veröffentlichte Convolutional Neural Network identifiziert 135 Arten anhand von Geräuschen, funktioniert auch bei Regen- und Fluglärm, kann die Bewegungsrichtung anhand der Dopplerverschiebung abschätzen und die Rufe von Männchen und Weibchen unterscheiden.
• Ziel ist es, mithilfe statistischer Modelle geeignete Brutpaare zu finden, damit die Holzindustrie Holz ernten kann, ohne Lebensräume zu zerstören. Chris betont, dass es sich um eine Partnerschaft mit der Industrie und nicht um einen Kampf handelt.
• Ein Problem in der Praxis, das das Modell nicht lösen kann: Wenn ein Mensch durch den Wald geht, verstummen die Tiere, weshalb die Probenahme unbeaufsichtigt erfolgen muss.

[04:22] Plankton und das 150-Millionen-Dollar-Schiff

Der ozeanische Teil des Programms konzentriert sich auf Plankton, das Chris als eine der wichtigsten Arten auf dem Planeten bezeichnet, und auf die von der NSF finanzierten regionalen Forschungsschiffe, die die Bildgebungsarbeiten durchführen werden.

• Chris war Mitautor des Plankton-Identifizierungsalgorithmus. Er bezeichnet Plankton als Basis der Nahrungskette, als wichtige Quelle des Sauerstoffs, den wir atmen, und als große Kohlenstoffsenke, weshalb die Erwärmung der Gewässer von Bedeutung ist.
• Die NSF finanziert drei Forschungsschiffe der Regionalklasse, und die Oregon State University erwartet das erste im Dezember. Chris hat das vergangene Jahr damit verbracht, die Bordtechnik zu spezifizieren.
• Das Schiff kostet 150 Millionen Dollar, eine zehntägige Kreuzfahrt schlägt mit etwa 1 Million Dollar für Ausrüstung und Personal zu Buche, und es laufen ungefähr 15 Experimente gleichzeitig. Allein das Planktonexperiment generiert in fünf Tagen rund 100 TB an erfassten Daten.
• Die Datenverarbeitung auf See ermöglicht es dem Team, das Schiff in Echtzeit auf Plankton auszurichten. Plankton treibt mit den Strömungen, und eine Transekte, die ohne Planktonfunde zurückkehrt, ist eine vergeudete Forschungsfahrt – was bereits vorgekommen ist.

[07:09] Stromversorgung statt Rack-Einheiten: Dimensionierung des Schiffsrechenzentrums

Brian fragt nach der Größe des Rechenzentrums auf jedem Schiff, und die Antwort lautet, dass der physische Platz nie der limitierende Faktor war. Stromversorgung und Kühlung auf See hingegen schon, was die Speicherauslegung hin zu SSDs mit hoher Kapazität lenkte.

• Das Budget für die Serverleistung liegt zwischen 30 kW und 50 kW, ausreichend für mehrere Racks, aber nicht für die leistungsstärkste neue Hardware. Tests mit einem Dell PowerEdge XE7745 und vier NVIDIA RTX Pro 6000 GPUs zeigten, wie schnell die GPUs dieses Budget aufzehren.
• Nachdem die GPU-Leistung festgelegt war, stellte sich die Frage nach der Energieeinsparung beim Speicher, was zur Entwicklung der Solidigm D5-P5336-Familie führte. Die 122-TB-Laufwerke funktionierten einwandfrei, und die 30-TB-Versionen boten eine höhere Leistung für die erforderlichen Anforderungen.
• Bei den Plankton-Validierungsläufen erreichten die U.2-Laufwerke Lesegeschwindigkeiten von rund 55 GB/s und Schreibgeschwindigkeiten von rund 15 GB/s, ausreichend für die gleichzeitige Verarbeitung von sechs bis acht Datenströmen. Chris merkt an, dass die Begrenzung durch die Festplatte selbst verursacht wurde, da weitere GPUs hätten hinzugefügt werden können, und dass es sich um einen Test handelte, um die Anschaffung gegenüber der NSF zu rechtfertigen.
• Durch die Speicherung aller Daten auf einem einzigen Rechner entfielen die zuvor um die GPUs angeordneten Festplattenarrays. Diese Einfachheit ist für Forscher, die nur einmal auf die Daten zugreifen können, von großer Bedeutung. Brian zieht den Vergleich zu einem PBS-Team, das wir kürzlich mit QLC-RAID-Systemen für Filmaufnahmen seltener Vögel in Brasilien ausgestattet haben.

[11:37] 300 TB in einer Rangerstation

Die Bereitstellung im Wald ist in einem Punkt schwieriger als auf dem Schiff: Es gibt überhaupt kein Rechenzentrum, sondern nur eine Rangerstation mit begrenzter Stromversorgung und ohne Kühlung, sodass Rechenleistung und Datenspeicherung am Rande des Systems erfolgen müssen.

• Oregon State arbeitete mit Supermicro an einem flüssigkeitsgekühlten GPU-System, das mit einem Standard-15A-Stromkreis betrieben wird, da die Rangerstation über keine Klimaanlage und nur über begrenzte Stromversorgung verfügt.
• Das System verfügt über zwei Laufwerksschächte, die mit 122 TB großen Solidigm D5-P5336-Laufwerken bestückt sind, wodurch Chris über eine lokale Speicherkapazität von rund 300 TB verfügt, sodass die Daten an einem Ort landen und auch an einem Ort verarbeitet werden.
• Die Aufnahmegeräte liefern alle sechs bis acht Wochen etwa 250 TB an Daten. Das längere Aufnahmeintervall ist dabei entscheidend: seltene Ereignisse sollen ohne menschliche Anwesenheit erfasst werden. Weibliche Fleckenkäuze verstummen nach der Paarung, daher erfordert die Suche nach einem Brutpaar lange, unbeaufsichtigte Aufnahmen sowie die Auswertung historischer Daten zur Validierung der statistischen Modelle.

[13:45] Datenspeicherung über 50 Jahre: Tonband, Steintafeln und das OOI

Brian stellt eine Verbindung zwischen dem unternehmerischen Instinkt her, Daten niemals zu löschen, und der wissenschaftlichen Version desselben Problems, und Chris erklärt, wie langfristige Datenverwaltung in der Praxis an der Oregon State University aussieht.

• Seine Antwort auf die Frage „Wie würden Sie Daten 50 Jahre in die Zukunft senden?“ lautet: Steintafeln oder Tonband. Und er liest noch immer jahrzehntealte Schiffsdaten vom Tonband für moderne Analysen aus.
• Die Ocean Observatories Initiative ist ein 25-jähriges Projekt, das im Minutentakt Daten von Seiltänzern, Gleitern und Meeresbodeninstrumenten erfasst. Die Oregon State University speichert diese Daten mindestens 25 Jahre lang und plant, sie 50 bis 100 Jahre lang aufzubewahren.
• Oregon State betreibt das Rechenzentrum, das diesem Programm für die University of Washington, Rutgers und die Woods Hole Oceanographic Institution zugrunde liegt. Die von der UW im letzten Jahr veröffentlichten Unterwasserbebendaten stammen aus dem Rechenzentrum von Oregon State.
• Die Modelle werden ständig anhand des Archivs neu trainiert, und der Trend hin zu Transformer-Modellen zielt darauf ab, mehrere Aufgaben gleichzeitig zu bewältigen und Verzerrungen zu reduzieren.

[16:54] Der Huang-Komplex und das Argument für Rechenzentren

Jensen und Lori Huang sind beide Absolventen der Oregon State University, und der Jen-Hsun und Lori Huang Collaborative Innovation Complex beherbergt einen NVIDIA-Supercomputer auf dem Campus. Chris erläutert, wie dieser mit Edge Computing zusammenhängt und argumentiert für Rechenzentren als öffentliches Gut.

• Der Komplex umfasst ein Rechenzentrum mit Vera Rubin NVL72-Systemen, die Chris für die gleiche Mission wie die Feldarbeit einsetzen will: zu verstehen, wie sich der Planet verändert.
• Die Oregon State University nutzt ebenfalls AWS, Azure und Google Cloud. Chris' Arbeit für die NOAA läuft vollständig über Google Cloud.
• Seine Antwort auf die Kritik an Rechenzentren lautet, dass jede Technologie Probleme zu kommunizieren und zu beheben hat und dass die Wissenschaft den Planeten nicht ohne Rechenzentren retten wird.

[18:18] Die nächsten 6 bis 12 Monate: Kleinere Rechenzentren und ein gescheiterter Förderzyklus

Brian fragt nach der Zukunftsperspektive, und Chris plädiert für kleinere, flüssigkeitsgekühlte, dezentrale Anlagen und erklärt dann, warum das derzeitige Tempo des Hardwarewandels ein echtes Problem für die Forschungsbudgets darstellt.

• Rechenzentren müssen nicht gigantisch sein. Flüssigkeitskühlung ermöglicht höhere Leistung auf kleinerem Raum, der sich mit geringeren Umweltauswirkungen verteilen lässt.
• KI ist ein Datenproblem und ein Wettrüsten: Je schneller die Verarbeitung wird, desto mehr Daten stehen zur Verfügung. Seine Küchenanalogie verdeutlicht dies: Die Prozessoren sind Messer und Gabel, der Kühlschrank enthält alles, was einem wichtig ist, und die Daten sind das Essen.
• Die Zuschüsse werden Monate nach Einreichung der Angebote vergeben, und da sich die Hardwarezyklen von 18 Monaten auf drei bis sechs Monate verkürzt haben, werden mit den bewilligten Zuschüssen nicht mehr die Technologien angeschafft, für die sie ursprünglich gedacht waren.
• Acht 122-TB-Festplatten liefern ihm ein Petabyte und ersetzen ein komplettes Rack mit rotierenden Festplatten. Die Einsparungen zeigen sich sowohl in der Hardware rund um die Festplatten als auch in den Festplatten selbst.
• Beim Datentransfer verliert die Wissenschaft Zeit. Um Daten vom Schiff zu übertragen, musste eine 100-GbE-Leitung zum Dock verlegt werden, und SSDs mit hoher Kapazität reduzieren die Anzahl der notwendigen Datentransfers erheblich.

Sie finden Chris Sullivan auf der Webseite der Oregon State University unter „Research and Academic Computing Services“ sowie unsere bisherige Berichterstattung über das Programm unter den oben stehenden Links.