Sztuczna inteligencja na morzu: Oregon State wyrusza w rejs, aby badać ocean w czasie rzeczywistym

„Interesują nas technologie, które zmieniają naukę”.

— Christopher Sullivan, dyrektor ds. badań i informatyki akademickiej, Wydział Nauk o Ziemi, Oceanie i Atmosferze, Oregon State University

W Laboratorium Ekologii Planktonu Uniwersytetu Stanowego Oregonu , zlokalizowanym w Centrum Nauk Morskich Hatfield , dyskusja o infrastrukturze zaczyna się od celu naukowego. W jaki sposób technologia może pomóc naukowcom lepiej i szybciej zrozumieć nasze oceany, jednocześnie zachowując każdy unikalny punkt danych zbierany na morzu? Odpowiedź w coraz większym stopniu zależy od mocy obliczeniowej, akceleracji GPU i gęstej pamięci masowej NVMe, które działają w służbie nauki, a nie odwrotnie.

Laboratorium bada podstawy morskiej sieci pokarmowej, rejestrując obrazy o wysokiej rozdzielczości i dane telemetryczne dotyczące środowiska, a następnie przekształcając te strumienie w wnioski. Ta praca nie jest abstrakcyjna. To nauka terenowa, która opiera się na statkach, czujnikach i niemożliwych do odtworzenia oknach czasowych. Utrata danych nie jest niedogodnością. To utrata chwili w oceanie, która nigdy nie powróci.

Odpowiadanie na fundamentalne pytania naukowe wymaga solidnego sprzętu. Wspieraliśmy Uniwersytet Stanowy Ohio (OSU), który testuje serwer Dell PowerEdge XE7745, łączący procesory graficzne z dyskami SSD NVMe o wysokiej gęstości, umożliwiając badaczom analizowanie, przechowywanie i udostępnianie danych bez żadnych kompromisów. Nacisk kładziony jest przede wszystkim na integralność i niezawodność, a następnie na szybkość w dużej skali. W ten sposób technologia zmienia praktykę naukową poprzez sztuczną inteligencję, a nie tylko w teorii.

Wewnątrz systemu

• serwer: Dell PowerEdge XE7745 (4U)
• Procesory: Podwójny procesor AMD EPYC 9555 64-rdzeniowy
• NAPARSTEK: 24 x 32 GB – 768 GB
• GPU: 4 × serwer NVIDIA RTX Pro 6000
• Przechowywanie: 8 × Solidigm D5-P5336 E3.S 30.72 TB
• Sieć: Odciążenie sieci Ethernet 100 Gb

„Wszelka technologia już teraz faworyzuje naukę. Wyzwaniem jest znalezienie technologii, która zniesie te ograniczenia”.

Plankton to niewidzialni architekci życia na Ziemi. Te mikroskopijne organizmy napędzają biologiczny silnik planety, produkując około połowę tlenu na świecie i tworząc fundamenty każdej morskiej sieci pokarmowej. Pochłaniają ogromne ilości dwutlenku węgla, wpływają na globalne cykle klimatyczne i służą jako wczesne wskaźniki zmian ekosystemów. Zrozumienie planktonu oznacza zrozumienie stanu oceanów, ich roli w regulacji atmosfery i ostatecznie przyszłej stabilności planety.

Przez dziesięciolecia badania planktonu opierały się na sieciach zbierających próbki zbiorcze, które następnie analizowano pod mikroskopem. Metody te generowały jedynie migawki i często prowadziły do ​​założenia, że ​​drapieżniki i ofiary stale oddziałują na siebie w tym samym obszarze słupa wody. Systemy obrazowania o wysokiej rozdzielczości, zdolne do pionowego przemieszczania się w oceanie, ujawniły inny obraz. Wiele gatunków planktonu i ich drapieżników zajmuje odrębne warstwy, oddzielone głębokością, temperaturą i gradientem składników odżywczych. Wcześniej struktura ta była niewidoczna. Nowoczesne obrazowanie pozwala badaczom obserwować nie tylko obecność gatunków, ale także ich rozmieszczenie, interakcje i ewolucję tych interakcji.

Uniwersytet Stanowy Ohio dysponuje wieloma narzędziami do badania planktonu, ale jego głównym instrumentem jest system obrazowania ichtioplanktonu in situ (ISIIS) . ISIIS to holowana platforma, która przemieszcza się przez ocean, przesyłając informacje za pomocą miedzianego/światłowodowego kabla oceanograficznego. Dwie kamery 8K rejestrują sylwetki planktonu podczas przepływu wody morskiej przez system, rejestrując do 160 litrów na sekundę, a jednocześnie rejestrując dane dotyczące temperatury, zasolenia i głębokości dla celów kontekstowych.

Ten proces generuje terabajty danych każdego dnia. Naukowcy z OSU chcą je analizować niemal w czasie rzeczywistym, aby załogi statków mogły dostosowywać trasy pobierania próbek na podstawie tego, co widzą pod powierzchnią.

Długoterminowa wizja zakłada umożliwienie modelom sztucznej inteligencji automatycznej identyfikacji organizmów i wykrywania zmian w populacjach planktonu, które mogłyby zwiastować poważniejsze zmiany środowiskowe. Uchwycenie tych wzorców na dużą skalę wymaga zarówno zaawansowanych systemów obrazowania, jak i infrastruktury obliczeniowej zdolnej przekształcić wizualny chaos w wymierne wnioski.

Obecnie prace walidacyjne Uniwersytetu Stanowego Oregonu prowadzone są na lądzie, gdzie system Dell PowerEdge XE7745 przetwarza ogromne zbiory obrazów zebrane przez platformę ISIIS. To środowisko umożliwia badaczom udoskonalanie modeli, weryfikację integralności danych i ocenę działania systemu pod obciążeniem naukowym. Długoterminowym celem jest przeniesienie tych możliwości poza morze, poprzez wdrożenie tej samej architektury obliczeniowej i pamięci masowej na pokładach statków badawczych, aby dane mogły być przetwarzane i analizowane również na morzu. To przejście od walidacji laboratoryjnej do wdrażania w czasie rzeczywistym na oceanie ostatecznie zamknie pętlę między gromadzeniem, analizą i odkrywaniem danych.

„Nasz idealny przepływ pracy opiera się na założeniu, że gdy statek dotrze do portu, cała praca naukowa będzie już wykonana”.

Kolejny etap rozwoju infrastruktury badawczej Uniwersytetu Stanowego Oregonu przenosi obliczenia bezpośrednio na fale. Nowa flota statków badawczych uniwersytetu, w tym przyszłe statki badawcze klasy regionalnej, takie jak R/V Taani , jest projektowana jako platforma do wydajnego, półautonomicznego gromadzenia i analizy danych. Statki te będą pełnić funkcję mobilnych laboratoriów, wyposażonych w aparaturę naukową, układy czujników, a teraz także w systemy obliczeniowe oparte na procesorach graficznych, które będą w stanie analizować terabajty danych przed powrotem na brzeg.

Podczas każdego rejsu przeprowadzane będą równolegle liczne eksperymenty, od obrazowania planktonu i cyfrowego monitorowania rybołówstwa, po mapowanie akustyczne i modelowanie środowiska. Wyzwaniem na morzu nie jest moc, ale gęstość. Każda jednostka rack na pokładzie statku musi zapewniać maksymalną wydajność przy minimalnej złożoności, biorąc pod uwagę ograniczoną liczbę personelu wsparcia IT na morzu. Sprawdzona konfiguracja serwera Dell PowerEdge XE7745 z dyskami SSD E3.S firmy Solidigm i kartami graficznymi NVIDIA RTX Pro 6000 jest oceniana jako kamień węgielny tej strategii statkowego centrum danych. Przetwarzając dane w czasie zbliżonym do rzeczywistego, naukowcy z OSU mogą dostosowywać trasy pobierania próbek, wykrywać anomalie i podejmować świadome decyzje naukowe w trakcie rejsu.

Takie podejście umożliwia również integrację sztucznej inteligencji z procesem pracy. Modele sztucznej inteligencji trenowane na historycznych obrazach planktonu mogą klasyfikować organizmy, identyfikować trendy środowiskowe, a nawet przewidywać miejsca, w których prawdopodobnie pojawią się wysokie koncentracje gatunków docelowych. Ta możliwość przekształca wyprawę badawczą z pasywnej misji zbierania danych w aktywną, adaptacyjną eksplorację. W połączeniu z niezawodną, ​​redundantną pamięcią masową NVMe i szybką siecią, powstaje odporne środowisko przetwarzania brzegowego, stworzone specjalnie z myślą o odkryciach.

Wizją jest przekształcenie każdego statku badawczego OSU w samodzielne obserwatorium z obsługą sztucznej inteligencji. Dane zebrane przez instrumenty statku będą przesyłane bezpośrednio do pokładowych klastrów obliczeniowych, gdzie będą mogły być analizowane, archiwizowane i przesyłane za pośrednictwem połączeń Ethernet 100 Gb po powrocie statku do portu. Do czasu dokowania statku naukowcy będą już dysponować praktycznymi spostrzeżeniami, zweryfikowanymi wynikami i pewnością, że ani jeden bajt danych nie został utracony na morzu.

„Gdy zbieramy dane środowiskowe na morzu, każda godzina kosztuje tysiące dolarów”.

Dane zebrane na pokładach statków badawczych Oregon State University należą do najcenniejszych informacji w środowisku naukowym. Każda minuta operacji to czas pracy statku, zużycie paliwa, załoga i sprzęt, które wspólnie pracują, aby uchwycić warunki, które mogą się już nigdy nie powtórzyć. Utrata nawet ułamka tych danych nie wchodzi w grę. Zespół Sullivana zaprojektował swoją infrastrukturę w oparciu o jedną zasadę: każdy element musi zostać zachowany, zweryfikowany i przeanalizowany, zanim statek ponownie przycumuje do nabrzeża.

Aby osiągnąć ten cel, Uniwersytet Stanowy Ohio (OSU) weryfikuje Dell PowerEdge XE7745 , chłodzoną powietrzem platformę 4U, stworzoną do obsługi obciążeń akcelerowanych przez GPU. System ten łączy dwa procesory AMD EPYC z maksymalnie ośmioma (w tym przypadku czterema) kartami graficznymi NVIDIA RTX Pro 6000 Server opartymi na architekturze Blackwell. Każda karta graficzna oferuje 96 GB szybkiej pamięci GDDR7 i zaawansowane rdzenie tensorowe, zaprojektowane specjalnie do wnioskowania AI i przetwarzania obrazu, umożliwiając badaczom analizę danych środowiskowych o wysokiej rozdzielczości w czasie rzeczywistym.

Ograniczona liczba zatok dyskowych w XE7745 sprawiła, że ​​pojemność na gniazdo była decydującym czynnikiem, co skłoniło OSU do zintegrowania ośmiu dysków SSD Solidigm D5-P5336 E3.S o pojemności 30.72 TB . Zapewnia to prawie 250 TB pamięci flash w kompaktowej obudowie, łącząc wydajność pamięci NAND QLC Solidigm z oprogramowaniem sprzętowym klasy korporacyjnej zoptymalizowanym pod kątem stałej wydajności zapisu i integralności danych. W przypadku R/V Taani, gdzie przestrzeń i chłodzenie są cenne, taka gęstość pozwala na umieszczenie całej platformy, mocy obliczeniowej, akceleracji GPU i redundantnej pamięci masowej w jednej obudowie 4U.

„Wdrażamy te systemy do perfekcji, żeby zobaczyć, jak daleko mogą się posunąć”.

Faza walidacji na Uniwersytecie Stanowym Oregonu koncentruje się na zrozumieniu, jak dobrze Dell PowerEdge XE7745 obsługuje cały proces obrazowania planktonu. Celem jest nie tylko pomiar prędkości, ale także potwierdzenie, że system może niezawodnie przetwarzać dane w skali i tempie wymaganym podczas operacji na statku.

Obecnie laboratorium rejestruje ponad 15 terabajtów obrazów i danych środowiskowych dziennie podczas typowego wdrożenia badawczego. Dzięki platformie XE7745 zespół przetwarza obecnie około dwóch terabajtów surowego wideo dziennie. Ten proces wykorzystuje 256 rdzeni procesora do segmentacji i cztery procesory graficzne NVIDIA RTX Pro 6000 Server do wnioskowania. Powstały w ten sposób potok danych jest około trzy razy szybszy niż w przypadku poprzedniej generacji.

Najważniejszym odkryciem jest to, że obecnie wąskim gardłem jest segmentacja procesora, a nie przepustowość pamięci masowej czy przetwarzanie GPU. Dyski SSD Solidigm D5-P5336 w macierzy RAID 10 zapewniają stałą, stabilną wydajność odczytu i zapisu, nie tracąc przy tym wydajności przetwarzania. Układy GPU zachowują również rezerwę przepustowości, co pozwala na skalowanie w poziomie, w miarę jak pozwalają na to zasoby zasilania i chłodzenia. Innymi słowy, sprzęt nie jest już czynnikiem ograniczającym. Architektura ujawnia teraz rzeczywiste obciążenie naukowe, umożliwiając zespołowi precyzyjne dostrojenie etapu segmentacji.

Wpływ operacyjny jest znaczący. Podczas poprzednich ekspedycji badacze mogli jedynie oglądać transmisję wideo w trakcie jej zbierania, nie mogąc potwierdzić, czy pobierają próbki wody bogatej w plankton, czy po prostu wychwytują zawieszone cząstki stałe. Plankton podąża za prądami i często gromadzi się w subtelnych warstwach, które nie są widoczne w czasie rzeczywistym. Bez przetwarzania danych, dziesięciodniowa wyprawa mogłaby dostarczyć godzin danych o niewielkiej, użytecznej wartości naukowej.

Dzięki przetwarzaniu w czasie półrzeczywistym na pokładzie XE7745, zespół naukowy może teraz oceniać jakość danych w trakcie ich gromadzenia. Jeśli obrazy pokazują skąpe występowanie planktonu, statek może zmienić głębokość lub przemieścić się na nowe współrzędne, pozostając na morzu. Ta możliwość dokonywania świadomych korekt jest jednym z głównych powodów, dla których obliczenia wspomagane sztuczną inteligencją są wykorzystywane na statkach badawczych. Przenosi ona ekspedycję z pasywnego gromadzenia danych na aktywną eksplorację naukową.

Wraz z dodawaniem kolejnych systemów XE7745, moc obliczeniowa może być skalowana, aby obsłużyć cały dzienny wolumen danych. Skala ta jest równoważona przez fizyczne realia badań na statkach: zużycie energii, odprowadzanie ciepła i gęstość szaf. Wyzwania te nie mają charakteru technologicznego, lecz środowiskowego i są teraz widoczne właśnie dlatego, że platforma obliczeniowa udowodniła, że ​​jest w stanie sprostać wymaganiom.

„Jeśli Twoja technologia może zmienić naukę, porozmawiajmy.”

Wiedza naukowa rozwija się, gdy zyskujemy możliwość zobaczenia tego, co wcześniej było ukryte, a oceany są pełne takich tajemnic. Procesy obrazowania na Uniwersytecie Stanowym Oregonu ujawniają obecnie rzadkie gatunki planktonu, które odgrywają kluczową rolę w morskim łańcuchu pokarmowym, a jednocześnie pokazują, jak zmiany środowiskowe, takie jak wzrost temperatury oceanów, wpływają na ich przetrwanie. Plankton szybko reaguje na stres, co czyni go wczesnym wskaźnikiem większych zmian w systemach oceanicznych i klimatycznych. Szczegółowe ich badanie jest niezbędne do zrozumienia, w jaki sposób ocean podtrzymuje życie i jak ta równowaga może się zmieniać.

Postęp ten zależy od narzędzi ewoluujących w odpowiedzi na pytania naukowe. Współczesne badania wymagają możliwości gromadzenia, przetwarzania i interpretowania ogromnych zbiorów danych w środowiskach, w których są generowane. Pamięć masowa NVMe o dużej pojemności i akceleracja GPU umożliwiają teraz przetwarzanie danych bliżej punktu ich gromadzenia, zamiast polegać wyłącznie na scentralizowanych centrach danych. Dla OSU oznacza to analizę w czasie rzeczywistym lub zbliżonym do rzeczywistego na brzegu sieci, gdzie decyzje naukowe mogą wpływać na przebieg samego procesu gromadzenia danych.

Współpraca między Oregon State University a jego partnerami technologicznymi odzwierciedla wspólne rozumienie celów i zadań. Granice badań nie leżą w zadawanych pytaniach, lecz w udzielanych odpowiedziach. Granice te to praktyczna umiejętność radzenia sobie z ogromem informacji dostarczanych przez ocean. Gdy obliczenia, przechowywanie danych i projektowanie przepływów pracy dostosowują się do potrzeb naukowych, ograniczenia zaczynają zanikać.

Patrząc w przyszłość, szansa tkwi w projektowaniu systemów, które przechwytują, analizują i rozumieją dane bez konieczności przesyłania ich na wiele platform. Przetwarzanie podąża za danymi, a nie odwrotnie. Klastry obliczeniowe na pokładach statków, gęste pamięci masowe NVMe i wnioskowanie wspomagane przez GPU to kroki w kierunku tego modelu. To nie jest „sztuczna inteligencja aspirująca”. Ten projekt pokazuje, że w obliczeniach badawczych już dokonuje się znacząca zmiana.

Ocean się zmienia. Dane mają znaczenie. Okno, w którym można je zrozumieć, jest ograniczone. Praca na Uniwersytecie Stanowym Oregonu pokazuje, co staje się możliwe, gdy wprowadzimy odpowiednią technologię do właściwych pytań, we właściwym momencie, w miejscach, gdzie nauka jest w toku.

Dowiedz się więcej o badaniach prowadzonych na Oregon State University w SC25:

Rozmowa o Dell Technologies
Data: wtorek 18 listopada
Czas: 11: 30 am
Lokalizacja: Główny obszar rozmów Dell Booth

Rozmowa o Supermicro
Data: środa 19 listopada
Czas: 5: 00 pm
Lokalizacja: Główne stoisko Supermicro nr 3504