Podcast #154: Oregon States Chris Sullivan om 122TB SSD-diskar till sjöss, fläckiga ugglor och AI som ett dataproblem

Brian satte sig ner med Chris Sullivan, chef för forskning och akademisk databehandling vid Oregon State Universitys College of Earth, Ocean, and Atmospheric Sciences, för en livepodcast på Yotta 2026 i Las Vegas. Detta är ett avsnitt med endast ljud, inspelat på mässgolvet. Chris har varit en stadig samarbetspartner i vårt arbete med AI på edge, från forskningsfartygets datacenter som vi skrev om förra hösten till det delade lagringskonceptet DGX Spark som vi publicerade veckan före mässan. Det här samtalet handlar om data bakom vetenskapen: 4 000 akustiska inspelare i skogen, 100 TB planktonbilder per femdagarskryssning, Solidigm SSD-diskar med hög kapacitet i en rangerstation och varför han berättar för folk att AI är ett dataproblem.

Chris Sullivan driver forskning och akademisk databehandling för Oregon States College of Earth, Ocean, and Atmospheric Sciences, vilket ger honom ansvaret för infrastrukturen bakom skogsövervakning, havsobservationer och det datacenterarbete som universitetet gör för partnerinstitutioner. Han beskriver sig själv först som en dataforskare, och hans argument genom hela avsnittet är att varje forskare är en. Vi pratade först med honom i Podcast #145 , bevakade hans arbete med Metrum AI om AI-assisterad akademisk bedömning och var värdar för honom på en LinkedIn Live i maj.

Avsnittet är ungefär 22 minuter långt. Siffrorna som fastnade i minnet: ett fartyg värt 150 miljoner dollar som kostar 1 miljon dollar per tiodagarskryssning, 55 GB/s läsningar från U.2 QLC i valideringssystemet, 250 TB som anländer från en rangerstation var sjätte till åttonde vecka, och en beviljandecykel som förutsätter 18-månaders hårdvaruuppdateringar medan branschen rör sig om tre till sex veckor. Om du inte har tid att lyssna från början till slut har vi uppdelat det i segment så att du kan välja vad som är viktigast för dig.

[00:00] Universitet som dataförvaltare

Det inledande segmentet förklarar varför Oregon States arbete skiljer sig från de flesta i Yotta-gruppen: data samlas in från instrument i fält och sparas för alltid, eftersom ingen vet vilken modell som kommer att göra den värdefull härnäst.

• Chris ståndpunkt är att alla forskare är datavetare, eftersom varje experiment, oavsett om det är i ett labb eller i ett kluster, producerar data som måste lagras och sammanställas.
• Universitet har traditionellt sett varit bra på att samla in och bevisa värdet av data, och han ser dem som naturliga långsiktiga dataförvaltare i takt med att AI höjer värdet på gamla register.
• Oregon States uttalade uppdrag är "välstånd som delas i stor utsträckning", och datacenterarbetet beskrivs som ett direkt bidrag till det.

[01:45] Fläckiga ugglor, 4 000 blockfåglar och en modell med 135 arter

Chris arbetar med US Forest Service på ett program som övervakar den norra fläckiga ugglan, en paraplyart vars närvaro säger mycket om skogens hälsa, och projektet har utvecklats till en allmän akustisk inventering.

• Omkring 4 000 autonoma registreringsenheter är utplacerade mellan San Francisco och Kanada och registrerar skogen kontinuerligt.
• Det faltningsneuronnät som han publicerade i våras identifierar 135 arter från ljud, arbetar genom regn och flygplansbuller, och kan uppskatta färdriktningen från Doppler-skift och skilja hanars från honors läten.
• Målet är att hitta par som kan para sig, med stöd av statistiska modeller, så att träindustrin kan avverka utan att ta ut livsmiljöer. Chris betonar att detta är ett partnerskap med industrin, inte en strid.
• Ett fältproblem som modellen inte kan lösa: när en människa går genom skogen blir djuren tysta, vilket är anledningen till att provtagning måste ske obevakad.

[04:22] Plankton och skeppet värt 150 miljoner dollar

Programmets havssida fokuserar på plankton, som Chris kallar en av de viktigaste arterna på planeten, och på de NSF-finansierade regionala forskningsfartyg som kommer att utföra avbildningsarbetet.

• Chris var med och skrev algoritmen för planktonidentifiering. Han citerar plankton som basen i näringsväven, en viktig källa till det syre vi andas och en stor kolsänka, vilket är anledningen till att uppvärmning av vatten är viktigt.
• NSF finansierar tre regionala forskningsfartyg, och Oregon State förväntar sig det första i december. Chris har ägnat det senaste året åt att specificera tekniken ombord.
• Fartyget kostar 150 miljoner dollar, en tiodagarskryssning kostar cirka 1 miljon dollar i hårdvara och arbetskraft, och ungefär 15 experiment körs samtidigt. Enbart planktonexperimentet genererar cirka 100 TB infångad data på fem dagar.
• Bearbetning till sjöss låter teamet styra fartyget mot plankton i realtid. Plankton driver med strömmar, och en transekt som kommer tillbaka utan plankton på kamera är en bortkastad kryssning, vilket har hänt.

[07:09] Kraft, inte rackenheter: Dimensionering av datacentret ombord

Brian frågar hur stort datacentret på varje fartyg är, och svaret är att fysiskt utrymme aldrig var begränsningen. Strömförsörjning och kylning till sjöss är det, och det drev lagringsdesignen mot SSD-diskar med hög kapacitet.

• Budgeten för fartyget ligger i intervallet 30 kW till 50 kW, tillräckligt för flera rack men inte för den största nya hårdvaran. Tester av en Dell PowerEdge XE7745 med fyra NVIDIA RTX Pro 6000 GPU:er visade hur snabbt GPU:erna äter upp den budgeten.
• När GPU-kraften väl var avsatt blev frågan hur man skulle spara energi på lagring, vilket ledde till Solidigm D5-P5336-familjen. 122 TB-diskarna fungerade bra, och 30 TB-versionerna levererade bättre prestanda för den driftsättning som behövde det.
• I planktonvalideringskörningarna läste de levererade U.2-diskarna runt 55 GB/s och skrev runt 15 GB/s, tillräckligt för att bearbeta sex till åtta strömmar åt gången. Chris noterar att gränsen var disken, eftersom fler grafikkort kunde ha lagts till, och att detta var ett test för att motivera köpet för NSF.
• Genom att landa all data på en enda maskin togs diskmatriserna som brukade omge GPU:erna bort, och enkelheten är viktig för forskare som bara får en chans till data. Brian drar jämförelsen med ett PBS-team som vi nyligen utrustade med QLC RAID-boxar för att filma sällsynta fåglar i Brasilien.

[11:37] 300 TB i en rangerstation

Skogsutplaceringen är svårare än skeppet på ett sätt: det finns inget datacenter alls, bara en rangerstation med begränsad strömförsörjning och ingen kylning, så både beräkningskapacitet och lagring måste leva i utkanten av området.

• Oregon State arbetade med Supermicro på ett vätskekylt GPU-system som körs på en standard 15A-krets, eftersom rangerstationen saknar luftkonditionering och har begränsad elektricitet.
• Systemet har två hårddiskplatser, fyllda med 122 TB Solidigm D5-P5336-hårddiskar, vilket ger Chris ungefär 300 TB lokal kapacitet så att data hamnar på ett ställe och bearbetas på ett ställe.
• Registrarna tar in cirka 250 TB var sjätte till åttonde vecka, och det längre provtagningsintervallet är poängen: att fånga sällsynta händelser utan en människa i närheten. Honor av fläckugglor tystnar när de väl parats ihop, så att hitta ett par kräver lång obevakad registrering plus historiska data för att validera de statistiska modellerna.

[13:45] Att spara data i 50 år: Tejp, stentavlor och OOI

Brian kopplar ihop företagsinstinkten att aldrig radera data med den vetenskapliga versionen av samma problem, och Chris förklarar hur långsiktigt förvaltningsarbete ser ut i praktiken på Oregon State.

• Hans svar på "hur skulle man skicka data 50 år in i framtiden" är stentavlor eller tejp, och han drar fortfarande fram årtionden gamla fartygsdata från band för modern analys.
• Ocean Observatories Initiative är ett 25-årigt projekt med data med en minuts intervall från vajervindare, glidflygplan och havsbotteninstrument. Oregon State behåller dessa data i minst 25 år och förväntar sig att behålla dem i 50 till 100 år.
• Oregon State driver datacentret bakom det programmet för University of Washington, Rutgers och Woods Hole Oceanographic Institution. Data om undervattensjordbävningar som UW publicerade förra året kom från Oregon States datacenter.
• Modeller omskolas ständigt mot arkivet, och övergången till transformermodeller är avsedd att hantera flera uppgifter samtidigt och minska bias.

[16:54] Huang-komplexet och argumenten för datacenter

Jensen och Lori Huang är båda utexaminerade från Oregon State, och Jen-Hsun och Lori Huang Collaborative Innovation Complex har en NVIDIA-superdator på campus. Chris förklarar hur den passar in i edge-arbetet och argumenterar för att datacenter ska vara en allmännyttig tillgång.

• Komplexet inkluderar ett datacenter med Vera Rubin NVL72-system, som Chris planerar att använda för samma uppdrag som fältarbetet: att förstå hur planeten förändras.
• Oregon State använder även AWS, Azure och Google Cloud. Chris NOAA-arbete körs helt i Google Cloud.
• Hans svar på kritiken mot datacenter är att varje teknik har problem att kommunicera och åtgärda, och att vetenskapen inte kommer att reparera planeten utan datacenter.

[18:18] De kommande 6 till 12 månaderna: Mindre datacenter och en trasig bidragscykel

Brian frågar efter ett framtidsperspektiv, och Chris argumenterar för mindre, vätskekylda, distribuerade anläggningar, och förklarar sedan varför den nuvarande takten i hårdvaruförändringar är ett verkligt problem för forskningsbudgetarna.

• Datacenter behöver inte vara gigantiska. Vätskekylning ger mer kapacitet i mindre utrymmen som kan distribueras med mindre påverkan.
• AI är ett dataproblem och en kapprustning: varje gång bearbetningen blir snabbare finns det mer data att kasta på den. Hans köksanalogi är att processorerna är gaffeln och kniven, kylskåpet rymmer allt du bryr dig om och maten är data.
• Bidrag beviljas månader efter att offerter har lämnats in, och med hårdvarucykler komprimerade från 18 månader till tre till sex, köper beviljade bidrag inte längre den teknik de är skrivna kring.
• Åtta 122TB-diskar ger honom en petabyte och förbrukar ett helt rack med snurrande diskar, och besparingarna syns lika mycket i hårdvaran runt diskarna som i själva diskarna.
• Att flytta data är där vetenskapen förlorar tid. Att få data från fartyget innebar att man körde en 100 GbE-ledning ner till kajen, och SSD-diskar med hög kapacitet minskar antalet gånger data måste flyttas överhuvudtaget.

Du hittar Chris Sullivan på Oregon States sida om forskning och akademiska databehandlingstjänster , och vår tidigare bevakning av programmet på länkarna ovan.