AI till sjöss: Oregon State sätter segel för att studera havet i realtid

"Vi bryr oss om teknologier som förändrar vetenskapen."

— Christopher Sullivan, chef – forskning och akademisk databehandling – College of Earth, Ocean, and Atmospheric Sciences – Oregon State University

På Oregon State Universitys Plankton Ecology Lab , som ligger inom Hatfield Marine Science Center , börjar samtalet om infrastruktur med ett vetenskapligt mål. Hur kan teknik hjälpa forskare att förstå våra hav bättre och snabbare samtidigt som de bevarar varje unik datapunkt de samlar in till havs? Svaret beror i allt högre grad på beräkningsförmåga, GPU-acceleration och tät NVMe-lagring, som arbetar i vetenskapens tjänst snarare än tvärtom.

Labbet studerar grunden för den marina näringsväven genom att ta högupplösta bilder och miljötelemetri, och sedan omvandla dessa strömmar till insikter. Det arbetet är inte abstrakt. Det är fältvetenskap som är beroende av fartyg, sensorer och tidsfönster som inte kan återskapas. Att förlora data är inte en olägenhet. Det är förlusten av ett ögonblick i havet som aldrig kommer att återvända.

Att besvara massiva vetenskapliga frågor kräver robust hårdvara. Vi har seglat vid sidan av OSU när de validerar en Dell PowerEdge XE7745 som parar ihop GPU:er med högdensitets NVMe SSD-diskar, vilket gör det möjligt för forskare att analysera, bevara och dela data utan kompromisser. Tonvikten ligger på integritet och tillförlitlighet först, följt av hastighet i stor skala. Det är så tekniken förändrar vetenskapens praktik genom AI snarare än i teorin.

Inuti systemet

• Server: Dell PowerEdge XE7745 (4U)
• processorer: Dubbel AMD EPYC 9555 64-kärnig
• DRAM: 24x32 GB – 768 GB
• GPU:er: 4 × NVIDIA RTX Pro 6000-servrar
• Förvaring: 8 × Solidigm D5-P5336 E3.S 30.72 TB
• Nätverk: 100 Gb Ethernet-avlastning

"All teknologi påverkar redan vetenskapen negativt. Utmaningen är att hitta teknologi som tar bort dessa begränsningar."

Plankton är de osynliga arkitekterna bakom livet på jorden. Dessa mikroskopiska organismer driver planetens biologiska motor, producerar ungefär hälften av världens syre och utgör grunden för varje marin näringsväv. De absorberar enorma mängder koldioxid, påverkar globala klimatcykler och fungerar som tidiga indikatorer på ekosystemförändringar. Att förstå plankton innebär att förstå havets hälsa, dess roll i att reglera atmosfären och i slutändan planetens framtida stabilitet.

I årtionden förlitade sig planktonforskning på nät som samlade in bulkprover, vilka sedan analyserades under mikroskop. Dessa metoder producerade bara ögonblicksbilder och ledde ofta till antagandet att rovdjur och bytesdjur ständigt interagerade i samma område av vattenpelaren. Högupplösta bildsystem som kan röra sig vertikalt genom havet avslöjade en annan bild. Många planktonarter och deras rovdjur upptar distinkta lager separerade av djup, temperatur och näringsgradienter. Denna struktur var osynlig tidigare. Modern avbildning gör det möjligt för forskare att observera inte bara förekomsten av arter utan också deras utbredning, interaktioner och hur dessa interaktioner utvecklas.

OSU har många verktyg för att studera plankton, men deras primära instrument är In Situ Ichthyoplankton Imaging System (ISIIS) . ISIIS är en bogserad plattform som färdas genom havet och skickar tillbaka information via koppar-/fiberoptisk oceanografisk tråd. Dubbla 8K-kameror fångar silhuetter av plankton när havsvatten flödar genom systemet och avbildar upp till 160 liter per sekund samtidigt som de loggar temperatur-, salthalt- och djupdata för sammanhang.

Denna process genererar terabyte med data varje dag. OSU:s forskare vill analysera den i nära realtid så att fartygsbesättningar kan justera sina provtagningsrutter baserat på vad de ser under ytan.

Den långsiktiga visionen är att AI-modeller ska kunna automatiskt identifiera organismer och upptäcka förändringar i planktonpopulationer som kan förebåda större miljöförändringar. Att fånga dessa mönster i stor skala kräver både avancerade avbildningssystem och den beräkningsinfrastruktur som kan omvandla visuellt kaos till kvantifierbara insikter.

Idag sker Oregon States valideringsarbete på land, där Dell PowerEdge XE7745-systemet bearbetar de enorma bilduppsättningar som samlas in av ISIIS-plattformen. Denna miljö gör det möjligt för forskare att förfina sina modeller, verifiera dataintegritet och bedöma hur systemet presterar under vetenskapliga arbetsbelastningar. Det långsiktiga målet är att flytta denna funktion till havs, genom att bädda in samma beräknings- och lagringsarkitektur ombord på forskningsfartyg så att data kan bearbetas och analyseras medan de fortfarande är till sjöss. Den övergången från laboratoriebaserad validering till realtidsdistribution i havet är det som i slutändan kommer att sluta cirkeln mellan datainsamling, analys och upptäckt.

”Vårt ideala arbetsflöde är att när fartyget anländer till hamnen är forskningen redan klar.”

Nästa fas av Oregon State Universitys forskningsinfrastruktur tar datoranvändning direkt till vågorna. Universitetets nya forskningsfartygsflotta, inklusive kommande regionala forskningsfartyg som R/V Taani , utformas som en plattform för högpresterande, semi-autonom datainsamling och analys. Dessa fartyg kommer att fungera som mobila laboratorier och bära vetenskapliga instrument, sensormatriser och nu GPU-drivna beräkningssystem som kan analysera terabyte data innan de ens återvänder till land.

Varje resa kommer att vara värd för flera samtidiga experiment, från planktonavbildning och digital fiskeövervakning till akustisk kartläggning och miljömodellering. Utmaningen till sjöss är inte effekt, utan densitet. Varje rackenhet ombord på fartyget måste leverera maximal prestanda med minimal komplexitet, med tanke på den begränsade IT-supportpersonalen till sjöss. Den validerade konfigurationen av Dells PowerEdge XE7745 med Solidigms E3.S SSD-diskar och NVIDIA RTX Pro 6000 GPU:er utvärderas som en hörnsten i denna fartygsbaserade datacenterstrategi. Genom att bearbeta data i nära realtid kan OSU:s forskare justera provtagningsvägar, upptäcka avvikelser och fatta välgrundade vetenskapliga beslut under resans gång.

Denna metod möjliggör också integration av artificiell intelligens i arbetsflödet. AI-modeller som tränas på historiska planktonbilder kan klassificera organismer, identifiera miljötrender och till och med förutsäga var höga koncentrationer av målarter sannolikt kommer att dyka upp. Den förmågan omvandlar en forskningsexpedition från ett passivt datainsamlingsuppdrag till en aktiv, adaptiv utforskningsinsats. I kombination med tillförlitlig, redundant NVMe-lagring och höghastighetsnätverk blir resultatet en robust edge-computing-miljö specialbyggd för upptäckt.

Visionen är att göra varje OSU-forskningsfartyg till ett självständigt, AI-aktiverat observatorium. Data som samlas in av fartygets instrument kommer att flöda direkt till ombordbaserade beräkningskluster, där de kan analyseras, arkiveras och avlastas via 100 Gb Ethernet-anslutningar när fartyget återvänder till hamnen. När fartyget lägger till kommer forskare redan att ha användbara insikter, validerade resultat och förtroendet för att inte en enda byte data har gått förlorad till havet.

"När man samlar in miljödata till sjöss kostar varje timme tusentals dollar."

Data som samlas in ombord på Oregon State Universitys forskningsfartyg är bland den mest värdefulla informationen inom vetenskapsvärlden. Varje minut i drift representerar fartygets tid, bränsle, besättning och utrustning som arbetar tillsammans för att fånga upp förhållanden som kanske aldrig uppstår igen. Att förlora ens en bråkdel av den informationen är inte ett alternativ. Sullivans team utformade sin infrastruktur kring en princip: varje del måste bevaras, verifieras och analyseras innan fartyget någonsin lägger till i kajen igen.

För att uppnå det målet validerar OSU Dell PowerEdge XE7745 , en 4U luftkyld plattform byggd för GPU-accelererade arbetsbelastningar. Detta system kombinerar dubbla AMD EPYC-processorer med upp till åtta (fyra i det här fallet) NVIDIA RTX Pro 6000 Server GPU:er baserade på Blackwell-arkitekturen. Varje GPU erbjuder 96 GB höghastighets-GDDR7-minne och avancerade tensorkärnor, speciellt utformade för AI-inferens och bildbehandling, vilket gör det möjligt för forskare att analysera högupplösta miljödata i realtid.

XE7745:s begränsade enhetsfack gjorde kapaciteten per kortplats till en avgörande faktor, vilket ledde till att OSU integrerade åtta 30.72 TB Solidigm D5-P5336 E3.S SSD-diskar . Detta erbjuder nästan 250 TB flashlagring i ett kompakt format, och kombinerar Solidigms QLC NAND-effektivitet med företagsfirmware optimerad för hållbar skrivprestanda och dataintegritet. För R/V Taani, där utrymme och kylning är värdefulla, gör denna densitet att hela plattformen, beräkningsförmågan, GPU-accelerationen och redundant lagring får plats i ett enda 4U-chassi.

"Vi håller på att skruva och skruva på de här systemen för att se hur långt de kan gå."

Valideringsfasen vid Oregon State fokuserar på att förstå hur väl Dell PowerEdge XE7745 stöder hela arbetsflödet för planktonavbildning från början till slut. Målet är inte bara att mäta hastighet, utan att bekräfta att systemet tillförlitligt kan bearbeta data i den skala och takt som krävs under fartygsoperationer.

Idag samlar labbet in mer än 15 terabyte bilder och miljödata per dag under en typisk forskningsimplementering. Med XE7745-plattformen bearbetar teamet för närvarande cirka två terabyte råvideo per dag. Detta arbetsflöde använder 256 CPU-kärnor för segmentering och fyra NVIDIA RTX Pro 6000 Server GPU:er för inferens. Den resulterande pipelinen är ungefär tre gånger snabbare än föregående generations arbetsflöde.

Det mest anmärkningsvärda fyndet är att den nuvarande flaskhalsen är CPU-segmentering, inte lagringsgenomströmning eller GPU-bearbetning. Solidigm D5-P5336 SSD-diskar i RAID 10 levererar konsekvent ihållande läs- och skrivprestanda utan att hamna efter bearbetningsprocessen. GPU:erna bibehåller också dataflödesutrymmet, vilket möjliggör skalningsalternativ i takt med att ström- och kylresurserna tillåter. Med andra ord är hårdvaran inte längre den begränsande faktorn. Arkitekturen exponerar nu den faktiska vetenskapliga arbetsbelastningen, vilket gör att teamet kan finjustera segmenteringsstadiet med precision.

Den operativa påverkan är betydande. I tidigare expeditioner kunde forskare bara titta på videoströmmen medan den samlades in, oförmögna att bekräfta om de tog prover av planktonrikt vatten eller helt enkelt fångade upp suspenderade partiklar. Plankton följer strömmar och koncentreras ofta i subtila lager som inte är synliga i realtid. Utan bearbetning skulle en tio dagar lång resa kunna producera timmar av data med lite användbart vetenskapligt värde.

Med semi-realtidsbehandling på XE7745 kan forskarteamet nu utvärdera datakvaliteten under datainsamlingen. Om bilderna visar gles plankton kan fartyget ändra djup eller förflytta sig till nya koordinater medan det fortfarande är till sjöss. Denna förmåga att göra välgrundade justeringar är en av de viktigaste anledningarna till att AI-accelererad databehandling har en plats på forskningsfartyg. Det flyttar expeditionen från passiv datainsamling till aktiv vetenskaplig utforskning.

Allt eftersom ytterligare XE7745-system läggs till kan bearbetningskapaciteten skalas upp för att hantera hela den dagliga datavolymen. Den skalan balanseras mot de fysiska realiteterna inom fartygsforskning: energianvändning, värmeutvinning och rackdensitet. Dessa utmaningar är inte tekniska utan miljömässiga, och de är nu synliga just för att beräkningsplattformen har visat sig kunna hålla jämna steg.

"Om din teknologi kan förändra vetenskapen, låt oss prata."

Vetenskaplig förståelse utvecklas när vi får förmågan att se det som tidigare var dolt, och haven är fulla av sådana hemligheter. Avbildningsarbetsflödena vid Oregon State University avslöjar nu sällsynta planktonarter som spelar en avgörande roll i den marina näringsväven samtidigt som de visar hur miljöförändringar, såsom stigande havstemperaturer, påverkar deras överlevnad. Plankton reagerar snabbt på stress, vilket gör dem till tidiga indikatorer på större förändringar i havs- och klimatsystem. Att studera dem i detalj är avgörande för att förstå hur havet upprätthåller liv och hur den balansen kan förändras.

Denna utveckling är beroende av verktyg som utvecklas som svar på vetenskapliga frågor. Modern forskning kräver förmågan att samla in, bearbeta och tolka massiva datamängder i de miljöer där de genereras. NVMe-lagring med stor kapacitet och GPU-acceleration gör det nu möjligt för bearbetning att komma närmare datainsamlingspunkten snarare än att helt förlita sig på centraliserade datacenter. För OSU innebär det realtids- eller nära-realtidsanalys vid kanten, där vetenskapliga beslut kan påverka själva datainsamlingen.

Samarbetet mellan Oregon State University och dess teknikpartners återspeglar en gemensam förståelse för målen och syftena. Forskningens begränsningar ligger inte i de frågor som ställs, utan snarare i de svar som ges. Begränsningarna ligger i den praktiska förmågan att bearbeta den informationsvolym som havet tillhandahåller. När beräknings-, lagrings- och arbetsflödesdesign anpassas till vetenskapliga behov börjar begränsningarna att försvinna.

Framöver ligger möjligheten i att utforma system som samlar in, analyserar och förstår data utan att behöva överföras över flera plattformar. Bearbetningen rör sig i datariktningen, inte tvärtom. Kluster ombord på fartyg, tät NVMe-lagring och GPU-accelererad inferens är steg mot den modellen. Detta är inte "ambitionerad AI". Detta projekt visar att ett betydande skifte redan pågår inom forskningsberäkningar.

Havet förändras. Informationen spelar roll. Möjligheten att förstå den är begränsad. Arbetet vid Oregon State visar vad som blir möjligt när vi använder rätt teknik för att besvara rätt frågor, i rätt ögonblick, på de platser där forskningen pågår.

Läs mer om Oregon State Universitys forskning på SC25:

Dell Technologies Talk
Datum: Tisdag 18/11
Tid: 11: 30 am
Plats: Dells huvudmonter, diskussionsområde

Supermicro Talk
Datum: Onsdag 19/11
Tid: 5: 00 pm
Plats: Supermicros huvudmonter #3504