Umělá inteligence na moři: Oregonský stát vyplul na plavbu, aby studoval oceán v reálném čase

„Záleží nám na technologiích, které mění vědu.“

— Christopher Sullivan, ředitel – Výzkum a akademické výpočty – Vysoká škola věd o Zemi, oceánu a atmosféře – Oregonská státní univerzita

V laboratoři planktonové ekologie Oregonské státní univerzity , která se nachází v Hatfield Marine Science Center , začíná diskuse o infrastruktuře vědeckým cílem. Jak může technologie pomoci výzkumníkům lépe a rychleji porozumět našim oceánům a zároveň zachovat každý jedinečný datový bod, který na moři shromáždí? Odpověď stále více závisí na výpočetním výkonu, akceleraci GPU a hustém úložišti NVMe, které slouží vědě, a ne naopak.

Laboratoř studuje základy mořské potravní sítě zachycováním snímků ve vysokém rozlišení a telemetrie prostředí a následnou přeměnou těchto datových proudů na poznatky. Tato práce není abstraktní. Jde o terénní vědu, která závisí na lodích, senzorech a časových oknech, jež nelze znovu vytvořit. Ztráta dat není nepříjemnost. Je to ztráta okamžiku v oceánu, která se už nikdy nevrátí.

Zodpovězení rozsáhlých vědeckých otázek vyžaduje robustní hardware. Plujeme po boku OSU, kde ověřují server Dell PowerEdge XE7745, který kombinuje grafické procesory s vysokohustotními NVMe SSD disky, což umožňuje výzkumníkům analyzovat, uchovávat a sdílet data bez kompromisů. Důraz je kladen především na integritu a spolehlivost, následovanou rychlostí ve velkém měřítku. Takto technologie mění vědeckou praxi prostřednictvím umělé inteligence, nikoli teorii.

Uvnitř systému

• Server: Dell PowerEdge XE7745 (4U)
• Procesory: Duální AMD EPYC 9555 64jádrový procesor
• DOUŠEK: 24x32GB – 768GB
• GPU: 4 × server s grafickou kartou NVIDIA RTX Pro 6000
• Skladování: 8 × Solidigm D5-P5336 E3.S 30.72 TB
• Sítě: 100 Gb Ethernetové odlehčení

„Veškerá technologie už vědu zkresluje. Úkolem je najít technologii, která tato omezení odstraní.“

Plankton je neviditelný architekt života na Zemi. Tyto mikroskopické organismy pohánějí biologický motor planety, produkují zhruba polovinu světového kyslíku a tvoří základ každého mořského potravního řetězce. Absorbují obrovské množství oxidu uhličitého, ovlivňují globální klimatické cykly a slouží jako včasné indikátory změn ekosystémů. Pochopení planktonu znamená pochopení zdraví oceánů, jejich role v regulaci atmosféry a v konečném důsledku i budoucí stability planety.

Po desetiletí se výzkum planktonu spoléhal na sítě, které shromažďovaly hromadné vzorky, jež byly následně analyzovány pod mikroskopem. Tyto metody poskytovaly pouze snímky a často vedly k předpokladu, že predátoři a kořist neustále interagují ve stejné oblasti vodního sloupce. Zobrazovací systémy s vysokým rozlišením, které jsou schopny se vertikálně pohybovat oceánem, odhalily jiný obraz. Mnoho druhů planktonu a jejich predátoři obývají odlišné vrstvy oddělené hloubkou, teplotou a gradienty živin. Tato struktura byla dříve neviditelná. Moderní zobrazování umožňuje vědcům pozorovat nejen přítomnost druhů, ale také jejich rozšíření, interakce a to, jak se tyto interakce vyvíjejí.

OSU má mnoho nástrojů pro studium planktonu, ale jejím primárním přístrojem je systém pro zobrazování ichtyoplanktonu In Situ (ISIIS) . ISIIS je tažená platforma, která se pohybuje oceánem a odesílá informace zpět po měděném/optickém oceánografickém drátu. Dvě 8K kamery zachycují siluety planktonu, když mořská voda proudí systémem, a zobrazují až 160 litrů za sekundu a zároveň zaznamenávají údaje o teplotě, slanosti a hloubce pro kontext.

Tento proces generuje každý den terabajty dat. Vědci z OSU je chtějí analyzovat téměř v reálném čase, aby posádky lodí mohly upravovat trasy odběru vzorků na základě toho, co vidí pod hladinou.

Dlouhodobou vizí je umožnit modelům umělé inteligence automaticky identifikovat organismy a detekovat změny v populacích planktonu, které by mohly předznamenávat větší změny v životním prostředí. Zachycení těchto vzorců ve velkém měřítku vyžaduje jak pokročilé zobrazovací systémy, tak výpočetní infrastrukturu schopnou transformovat vizuální chaos do kvantifikovatelných poznatků.

Validační práce Oregonské státní univerzity dnes probíhají na souši, kde systém Dell PowerEdge XE7745 zpracovává obrovské sady obrazových dat shromážděných platformou ISIIS. Toto prostředí umožňuje výzkumníkům zdokonalovat jejich modely, ověřovat integritu dat a hodnotit, jak systém funguje při vědeckém zatížení. Dlouhodobým cílem je přesunout tuto funkci do zahraničí a integrovat stejnou výpočetní a úložnou architekturu na palubu výzkumných plavidel, aby bylo možné data zpracovávat a analyzovat i na moři. Tento přechod od validace v laboratoři k nasazení v reálném čase v oceánu nakonec uzavře cyklus mezi sběrem, analýzou a objevováním dat.

„Naším ideálním pracovním postupem je, že když loď dorazí do přístavu, věda je už hotová.“

Další fáze výzkumné infrastruktury Oregonské státní univerzity přináší výpočetní techniku ​​přímo na mořské vlny. Nová flotila výzkumných plavidel univerzity, včetně připravovaných výzkumných plavidel regionální třídy, jako je R/V Taani , je navržena jako platforma pro vysoce výkonný, poloautonomní sběr a analýzu dat. Tyto lodě budou sloužit jako mobilní laboratoře, které budou nést vědecké přístroje, senzorové pole a nyní i výpočetní systémy řízené grafickými procesory (GPU) schopné analyzovat terabajty dat, než se vůbec vrátí na břeh.

Každá plavba bude hostit několik souběžných experimentů, od zobrazování planktonu a digitálního monitorování rybolovu až po akustické mapování a modelování životního prostředí. Výzvou na moři není výkon, ale hustota. Každá racková jednotka na palubě plavidla musí poskytovat maximální výkon s minimální složitostí, vzhledem k omezenému počtu podpůrných IT pracovníků na moři. Ověřená konfigurace serveru Dell PowerEdge XE7745 s SSD disky Solidigm E3.S a grafickými kartami NVIDIA RTX Pro 6000 je vyhodnocována jako základní kámen této strategie lodních datových center. Zpracováním dat téměř v reálném čase mohou výzkumníci z OSU upravovat trasy odběru vzorků, detekovat anomálie a činit informovaná vědecká rozhodnutí ještě během plavby.

Tento přístup také umožňuje integraci umělé inteligence do pracovního postupu. Modely umělé inteligence trénované na historických snímcích planktonu dokáží klasifikovat organismy, identifikovat environmentální trendy a dokonce předpovídat, kde se pravděpodobně objeví vysoké koncentrace cílových druhů. Tato schopnost transformuje výzkumnou expedici z pasivního sběru dat na aktivní, adaptivní průzkumné úsilí. V kombinaci se spolehlivým, redundantním úložištěm NVMe a vysokorychlostní sítí je výsledkem odolné prostředí edge computingu určené pro objevování.

Vizí je proměnit každou výzkumnou loď OSU v samostatnou observatoř s umělou inteligencí. Data shromážděná lodními přístroji budou proudit přímo do palubních výpočetních clusterů, kde je lze po návratu lodi do přístavu analyzovat, archivovat a odesílat přes 100 Gb ethernetové připojení. V době, kdy loď zakotví, budou mít vědci již k dispozici praktické poznatky, ověřené výsledky a jistotu, že se do moře neztratil ani jeden bajt dat.

„Když sbíráte data o životním prostředí na moři, každá hodina stojí tisíce dolarů.“

Data shromážděná na palubě výzkumných plavidel Oregonské státní univerzity patří k nejcennějším informacím ve vědecké komunitě. Každá minuta provozu představuje čas lodi, palivo, posádku a vybavení, které pracují společně, aby zachytily podmínky, které se už nikdy nemusí opakovat. Ztráta byť jen zlomku těchto dat není řešením. Sullivanův tým navrhl svou infrastrukturu na základě jednoho principu: každý bit musí být uchován, ověřen a analyzován, než se loď vrátí k doku.

Aby bylo možné tohoto cíle dosáhnout, OSU ověřuje Dell PowerEdge XE7745 , což je 4U vzduchem chlazená platforma určená pro úlohy akcelerované GPU. Tento systém spojuje dva procesory AMD EPYC s až osmi (v tomto případě čtyřmi) serverovými grafickými kartami NVIDIA RTX Pro 6000 založenými na architektuře Blackwell. Každá grafická karta nabízí 96 GB vysokorychlostní paměti GDDR7 a pokročilá tenzorová jádra, speciálně navržená pro inferenci umělé inteligence a zpracování obrazu, což umožňuje výzkumníkům analyzovat data o životním prostředí s vysokým rozlišením v reálném čase.

Omezený počet pozic pro disky u modelu XE7745 učinil z kapacity na slot určující faktor, což vedlo společnost OSU k integraci osmi 30.72TB SSD disků Solidigm D5-P5336 E3.S. Tyto disky nabízejí téměř 250 TB flash úložiště v kompaktním provedení, které kombinuje efektivitu paměti QLC NAND od Solidigmu s podnikovým firmwarem optimalizovaným pro trvalý výkon zápisu a integritu dat. Pro obytný vůz Taani, kde je prostor a chlazení vzácné, tato hustota umožňuje umístit celou platformu, výpočetní techniku, akceleraci GPU a redundantní úložiště do jediného 4U šasi.

„Utahujeme šrouby a matice na těchto systémech, abychom zjistili, jak daleko to dokážou.“

Fáze validace na Oregonské státní univerzitě se zaměřuje na pochopení toho, jak dobře Dell PowerEdge XE7745 podporuje kompletní pracovní postup zobrazování planktonu od začátku do konce. Cílem není jen změřit rychlost, ale potvrdit, že systém dokáže spolehlivě zpracovávat data v rozsahu a rychlosti požadované během provozu lodi.

Laboratoř dnes během typického výzkumného nasazení zaznamenává více než 15 terabajtů snímků a dat o prostředí denně. S platformou XE7745 tým v současné době zpracovává přibližně dva terabajty nezpracovaného videa denně. Tento pracovní postup využívá 256 jader CPU pro segmentaci a čtyři grafické karty NVIDIA RTX Pro 6000 Server pro inferenci. Výsledný procesní postup je zhruba třikrát rychlejší než pracovní postup předchozí generace.

Nejvýznamnějším zjištěním je, že současným úzkým hrdlem je segmentace CPU, nikoli propustnost úložiště nebo zpracování GPU. SSD disky Solidigm D5-P5336 v poli RAID 10 konzistentně poskytují stabilní výkon čtení a zápisu, aniž by zaostávaly za výpočetním procesem. GPU si také udržují dostatečný prostor propustnosti, což umožňuje možnosti horizontálního škálování, pokud to dovolí napájecí a chladicí zdroje. Jinými slovy, hardware již není omezujícím faktorem. Architektura nyní odhaluje skutečné vědecké zatížení, což týmu umožňuje přesně vyladit fázi segmentace.

Provozní dopad je značný. V předchozích expedicích mohli vědci sledovat video stream pouze v okamžiku, kdy byl snímán, a nebyli schopni potvrdit, zda odebírali vzorky vody bohaté na plankton, nebo pouze zachycovali suspendované částice. Plankton sleduje proudy a často se koncentruje v jemných vrstvách, které nejsou v reálném čase viditelné. Bez zpracování by desetidenní plavba mohla přinést hodiny dat s malou použitelnou vědeckou hodnotou.

Díky zpracování dat v poloreálném čase na palubě XE7745 může vědecký tým nyní vyhodnocovat kvalitu dat během jejich sběru. Pokud snímky ukazují řídký plankton, loď může změnit hloubku nebo se přesunout na nové souřadnice, i když je stále na moři. Tato schopnost provádět informované úpravy je jedním z hlavních důvodů, proč má výpočetní technika urychlená umělou inteligencí své místo na výzkumných plavidlech. Posouvá expedici od pasivního sběru dat k aktivnímu vědeckému průzkumu.

S přidáváním dalších systémů XE7745 se může výpočetní kapacita škálovat tak, aby zvládla veškerý denní objem dat. Toto měřítko je vyváženo fyzickými realitami výzkumu na palubě lodí: spotřebou energie, odvodem tepla a hustotou racků. Tyto výzvy nejsou technologické, ale environmentální, a nyní jsou viditelné právě proto, že výpočetní platforma prokázala schopnost držet krok.

„Pokud vaše technologie dokáže změnit vědu, pojďme si o tom promluvit.“

Vědecké poznání se rozvíjí, když získáváme schopnost vidět to, co bylo dříve skryto, a oceány jsou plné takových tajemství. Zobrazovací pracovní postupy na Oregonské státní univerzitě nyní odhalují vzácné druhy planktonu, které hrají klíčovou roli v mořském potravním řetězci, a zároveň ukazují, jak změny prostředí, jako je stoupající teplota oceánů, ovlivňují jejich přežití. Plankton rychle reaguje na stres, což z něj činí časné indikátory větších posunů v oceánských a klimatických systémech. Jejich detailní studium je nezbytné pro pochopení toho, jak oceán udržuje život a jak se tato rovnováha může měnit.

Tento pokrok závisí na nástrojích, které se vyvíjejí v reakci na vědecké otázky. Moderní výzkum vyžaduje schopnost shromažďovat, zpracovávat a interpretovat masivní datové sady v prostředí, kde vznikají. Velkokapacitní úložiště NVMe a akcelerace GPU nyní umožňují přesunout zpracování blíže k místu sběru dat, než aby se člověk spoléhal výhradně na centralizovaná datová centra. Pro OSU to znamená analýzu v reálném nebo téměř reálném čase na okraji sítě, kde vědecká rozhodnutí mohou ovlivnit samotný průběh sběru dat.

Spolupráce mezi Oregonskou státní univerzitou a jejími technologickými partnery odráží společné porozumění cílům a záměrům. Limity výzkumu nespočívají v kladených otázkách, ale spíše v poskytovaných odpovědích. Limity představují praktickou schopnost zpracovat objem informací, které oceán poskytuje. Jakmile se výpočetní technika, úložiště a návrh pracovních postupů sladí s vědeckými potřebami, omezení začnou mizet.

S výhledem do budoucna spočívá příležitost v navrhování systémů, které zachycují, analyzují a chápou data, aniž by bylo nutné je přenášet mezi více platformami. Zpracování se pohybuje ve směru dat, nikoli naopak. Palubní výpočetní clustery, hustá úložiště NVMe a inference akcelerovaná GPU jsou kroky k tomuto modelu. Nejedná se o „aspirační umělou inteligenci“. Tento projekt ukazuje, že ve výzkumných výpočtech již probíhá významný posun.

Oceán se mění. Data jsou důležitá. Možnosti, jak je pochopit, jsou omezené. Práce na Oregonské státní univerzitě ukazuje, co je možné, když přineseme správnou technologii ke správným otázkám, ve správný okamžik a na místech, kde se věda odehrává.

Zjistěte více o výzkumu Oregonské státní univerzity na SC25:

Diskuse o technologiích Dell
Datum: úterý 18. 11.
Čas: 11:30
Místo: Hlavní přednášková zóna stánku Dell

Supermicro Talk
Datum: Středa 19. 11.
Čas: 5: 00 pm
Místo: Hlavní stánek společnosti Supermicro č. 3504