Intelligenza artificiale in mare: l'Oregon State salpa per studiare l'oceano in tempo reale

“Ci interessano le tecnologie che cambiano la scienza.”

— Christopher Sullivan, Direttore – Ricerca e Informatica Accademica – College of Earth, Ocean, and Atmospheric Sciences – Oregon State University

Presso il Plankton Ecology Lab dell'Oregon State University , situato all'interno dell'Hatfield Marine Science Center , la discussione sulle infrastrutture parte da un obiettivo scientifico. In che modo la tecnologia può aiutare i ricercatori a comprendere i nostri oceani in modo migliore e più rapido, preservando al contempo ogni singolo dato raccolto in mare? La risposta dipende sempre più dalla potenza di calcolo, dall'accelerazione GPU e dallo storage NVMe ad alta densità, che operano al servizio della scienza, e non viceversa.

Il laboratorio studia le fondamenta della rete alimentare marina acquisendo immagini ad alta risoluzione e dati di telemetria ambientale, per poi trasformare questi flussi in informazioni. Questo lavoro non è astratto. È una scienza sul campo che dipende da navi, sensori e finestre temporali che non possono essere ricreate. Perdere dati non è un inconveniente. È la perdita di un momento nell'oceano che non tornerà mai più.

Per rispondere a domande scientifiche di grande portata è necessario un hardware robusto. Abbiamo collaborato con l'OSU nella validazione di un Dell PowerEdge XE7745 che abbina GPU a SSD NVMe ad alta densità, consentendo ai ricercatori di analizzare, conservare e condividere dati senza compromessi. L'enfasi è posta innanzitutto su integrità e affidabilità, seguite dalla velocità su larga scala. È così che la tecnologia cambia la pratica scientifica attraverso l'intelligenza artificiale, piuttosto che in teoria.

All'interno del sistema

• Server: Dell PowerEdge XE7745 (4U)
• processori: Doppio AMD EPYC 9555 a 64 core
• DRAM: 24x32 GB – 768 GB
• GPU: 4 × server NVIDIA RTX Pro 6000
• Memoria su disco: 8 × Solidigm D5-P5336 E3.S 30.72 TB
• Networking: Scarico Ethernet da 100 Gb

"Tutta la tecnologia già di per sé influenza la scienza. La sfida è trovare una tecnologia che elimini questi limiti."

Il plancton è l'architetto invisibile della vita sulla Terra. Questi organismi microscopici guidano il motore biologico del pianeta, producendo circa la metà dell'ossigeno mondiale e costituendo la base di ogni rete alimentare marina. Assorbono enormi quantità di anidride carbonica, influenzano i cicli climatici globali e fungono da indicatori precoci del cambiamento degli ecosistemi. Comprendere il plancton significa comprendere la salute dell'oceano, il suo ruolo nella regolazione dell'atmosfera e, in definitiva, la stabilità futura del pianeta.

Per decenni, la ricerca sul plancton si è basata su reti che raccoglievano campioni in grandi quantità, che venivano poi analizzati al microscopio. Questi metodi producevano solo istantanee e spesso portavano a supporre che predatori e prede interagissero costantemente nella stessa regione della colonna d'acqua. I sistemi di imaging ad alta risoluzione in grado di muoversi verticalmente attraverso l'oceano hanno rivelato un quadro diverso. Molte specie di plancton e i loro predatori occupano strati distinti, separati da profondità, temperatura e gradienti di nutrienti. Questa struttura era prima invisibile. L'imaging moderno consente ai ricercatori di osservare non solo la presenza delle specie, ma anche la loro distribuzione, le interazioni e come queste si evolvono.

L'OSU dispone di numerosi strumenti per lo studio del plancton, ma il suo strumento principale è l' In Situ Ichthyoplankton Imaging System (ISIIS) . ISIIS è una piattaforma trainata che si sposta nell'oceano, inviando informazioni tramite un cavo oceanografico in rame/fibra ottica. Due telecamere 8K catturano le sagome del plancton mentre l'acqua di mare scorre attraverso il sistema, riprendendo fino a 160 litri al secondo e registrando dati di temperatura, salinità e profondità per fornire un contesto.

Questo processo genera terabyte di dati ogni giorno. Gli scienziati dell'OSU vogliono analizzarli quasi in tempo reale, in modo che gli equipaggi delle navi possano adattare i percorsi di campionamento in base a ciò che osservano sotto la superficie.

La visione a lungo termine è quella di consentire ai modelli di intelligenza artificiale di identificare automaticamente gli organismi e rilevare cambiamenti nelle popolazioni di plancton che potrebbero prefigurare cambiamenti ambientali più ampi. Catturare questi modelli su larga scala richiede sia sistemi di imaging avanzati sia un'infrastruttura computazionale in grado di trasformare il caos visivo in informazioni quantificabili.

Oggi, il lavoro di convalida dell'Oregon State si svolge a terra, dove il sistema Dell PowerEdge XE7745 elabora gli immensi set di immagini raccolti dalla piattaforma ISIIS. Questo ambiente consente ai ricercatori di perfezionare i propri modelli, verificare l'integrità dei dati e valutare le prestazioni del sistema sotto carichi di lavoro scientifici. L'obiettivo a lungo termine è quello di trasferire questa capacità offshore, integrando la stessa architettura di elaborazione e archiviazione a bordo delle navi da ricerca, in modo che i dati possano essere elaborati e analizzati mentre sono ancora in mare. Questo passaggio dalla convalida in laboratorio all'implementazione in mare in tempo reale è ciò che in ultima analisi chiuderà il cerchio tra raccolta, analisi e scoperta dei dati.

"Il nostro flusso di lavoro ideale è che quando la nave arriva in porto, la scienza è già completata."

La prossima fase dell'infrastruttura di ricerca dell'Oregon State University porta l'informatica direttamente in mare. La nuova flotta di navi da ricerca dell'università, che comprende le future navi da ricerca di classe regionale come la R/V Taani , è progettata come piattaforma per la raccolta e l'analisi di dati ad alte prestazioni e semi-autonome. Queste navi fungeranno da laboratori mobili, trasportando strumentazione scientifica, array di sensori e, ora, sistemi di calcolo basati su GPU in grado di analizzare terabyte di dati prima ancora di tornare a terra.

Ogni viaggio ospiterà più esperimenti contemporaneamente, dall'imaging del plancton al monitoraggio digitale della pesca, dalla mappatura acustica alla modellazione ambientale. La sfida in mare non è la potenza, ma la densità. Ogni unità rack a bordo della nave deve offrire le massime prestazioni con la minima complessità, dato il limitato personale di supporto IT in mare. La configurazione convalidata del PowerEdge XE7745 di Dell con SSD E3.S di Solidigm e GPU NVIDIA RTX Pro 6000 è in fase di valutazione come pietra angolare di questa strategia di data center basata su navi. Elaborando i dati quasi in tempo reale, i ricercatori dell'OSU possono adattare i percorsi di campionamento, rilevare anomalie e prendere decisioni scientifiche informate durante la navigazione.

Questo approccio consente inoltre l'integrazione dell'intelligenza artificiale nel flusso di lavoro. Modelli di intelligenza artificiale addestrati su immagini storiche di plancton possono classificare gli organismi, identificare tendenze ambientali e persino prevedere dove è probabile che si verifichino elevate concentrazioni di specie target. Questa capacità trasforma una spedizione di ricerca da una missione passiva di raccolta dati a un'attività di esplorazione attiva e adattiva. Se combinata con un'archiviazione NVMe affidabile e ridondante e una rete ad alta velocità, il risultato è un ambiente di edge computing resiliente, progettato appositamente per la scoperta.

L'obiettivo è quello di trasformare ogni nave da ricerca dell'OSU in un osservatorio autonomo e dotato di intelligenza artificiale. I dati raccolti dagli strumenti della nave confluiranno direttamente nei cluster di elaborazione di bordo, dove potranno essere analizzati, archiviati e scaricati tramite connessioni Ethernet da 100 Gb al rientro in porto. Al momento dell'attracco della nave, gli scienziati avranno già a disposizione informazioni fruibili, risultati convalidati e la certezza che nemmeno un singolo byte di dati sia andato perso in mare.

"Quando si raccolgono dati ambientali in mare, ogni ora costa migliaia di dollari."

I dati raccolti a bordo delle navi da ricerca dell'Oregon State University sono tra le informazioni più preziose per la comunità scientifica. Ogni minuto di attività rappresenta il tempo impiegato dalla nave, il carburante, l'equipaggio e le attrezzature che lavorano in sinergia per catturare condizioni che potrebbero non verificarsi mai più. Perdere anche solo una frazione di questi dati non è un'opzione. Il team di Sullivan ha progettato la propria infrastruttura attorno a un principio: ogni bit deve essere preservato, verificato e analizzato prima che la nave possa attraccare nuovamente al molo.

Per raggiungere tale obiettivo, l'OSU sta validando il Dell PowerEdge XE7745 , una piattaforma 4U raffreddata ad aria progettata per carichi di lavoro accelerati da GPU. Questo sistema combina due processori AMD EPYC con un massimo di otto (quattro in questo caso) GPU NVIDIA RTX Pro 6000 Server basate sull'architettura Blackwell. Ogni GPU offre 96 GB di memoria GDDR7 ad alta velocità e core tensoriali avanzati, specificamente progettati per l'inferenza AI e l'elaborazione delle immagini, consentendo ai ricercatori di analizzare dati ambientali ad alta risoluzione in tempo reale.

Il numero limitato di alloggiamenti per unità dell'XE7745 ha reso la capacità per slot un fattore determinante, spingendo OSU a integrare otto SSD Solidigm D5-P5336 E3.S da 30.72 TB . Ciò offre quasi 250 TB di storage flash in un formato compatto, combinando l'efficienza della tecnologia QLC NAND di Solidigm con un firmware enterprise ottimizzato per prestazioni di scrittura sostenute e integrità dei dati. Per la R/V Taani, dove lo spazio e il raffreddamento sono preziosi, questa densità consente di integrare l'intera piattaforma, l'unità di elaborazione, l'accelerazione GPU e lo storage ridondante in un singolo chassis 4U.

"Stiamo mettendo a punto questi sistemi per vedere fin dove possono arrivare."

La fase di convalida presso l'Oregon State si concentra sulla comprensione dell'efficacia del sistema Dell PowerEdge XE7745 nel supportare l'intero flusso di lavoro di imaging del plancton, dall'inizio alla fine. L'obiettivo non è solo misurare la velocità, ma anche confermare che il sistema sia in grado di elaborare i dati in modo affidabile, alla scala e alla velocità richieste durante le operazioni a bordo della nave.

Oggi, il laboratorio acquisisce oltre 15 terabyte di immagini e dati ambientali al giorno durante un tipico impiego di ricerca. Con la piattaforma XE7745, il team elabora attualmente circa due terabyte di video raw al giorno. Questo flusso di lavoro utilizza 256 core CPU per la segmentazione e quattro GPU NVIDIA RTX Pro 6000 Server per l'inferenza. La pipeline risultante è circa tre volte più veloce rispetto al flusso di lavoro della generazione precedente.

La scoperta più significativa è che l'attuale collo di bottiglia è la segmentazione della CPU, non il throughput di storage o l'elaborazione GPU. Gli SSD Solidigm D5-P5336 in RAID 10 offrono costantemente prestazioni di lettura e scrittura costanti senza rimanere indietro rispetto alla pipeline di elaborazione. Anche le GPU mantengono un margine di throughput, consentendo opzioni di scalabilità orizzontale in base alle risorse di alimentazione e raffreddamento. In altre parole, l'hardware non è più il fattore limitante. L'architettura ora espone il carico di lavoro scientifico effettivo, consentendo al team di ottimizzare la fase di segmentazione con precisione.

L'impatto operativo è significativo. Nelle spedizioni precedenti, i ricercatori potevano solo guardare il flusso video mentre veniva raccolto, senza poter confermare se stessero campionando acqua ricca di plancton o semplicemente catturando particolato sospeso. Il plancton segue le correnti e spesso si concentra in strati sottili che non sono visibili in tempo reale. Senza elaborazione, un viaggio di dieci giorni potrebbe produrre ore di dati con scarso valore scientifico utilizzabile.

Grazie all'elaborazione semi-in tempo reale dell'XE7745, il team scientifico può ora valutare la qualità dei dati durante la raccolta. Se le immagini mostrano plancton sparso, la nave può modificare la profondità o spostarsi su nuove coordinate mentre è ancora in mare. Questa capacità di apportare modifiche informate è uno dei motivi principali per cui l'elaborazione accelerata dall'intelligenza artificiale trova spazio sulle navi da ricerca. Trasforma la spedizione dall'acquisizione passiva dei dati all'esplorazione scientifica attiva.

Con l'aggiunta di ulteriori sistemi XE7745, la capacità di elaborazione può essere scalata per gestire l'intero volume di dati giornaliero. Tale scalabilità è bilanciata dalle realtà fisiche della ricerca a bordo: consumo energetico, estrazione del calore e densità dei rack. Queste sfide non sono tecnologiche, ma ambientali, e ora sono visibili proprio perché la piattaforma di elaborazione ha dimostrato di essere in grado di tenere il passo.

"Se la tua tecnologia può cambiare la scienza, parliamone."

La comprensione scientifica avanza quando acquisiamo la capacità di vedere ciò che prima era nascosto, e gli oceani sono pieni di questi segreti. I flussi di lavoro di imaging dell'Oregon State University stanno ora rivelando rare specie di plancton che svolgono ruoli critici nella rete alimentare marina, dimostrando anche come i cambiamenti ambientali, come l'aumento delle temperature oceaniche, influenzino la loro sopravvivenza. Il plancton risponde rapidamente allo stress, rendendolo un indicatore precoce di cambiamenti più ampi nei sistemi oceanici e climatici. Studiarlo in dettaglio è essenziale per comprendere come l'oceano sostenga la vita e come questo equilibrio possa cambiare.

Questo progresso dipende da strumenti che si evolvono in risposta a quesiti scientifici. La ricerca moderna richiede la capacità di raccogliere, elaborare e interpretare enormi set di dati negli ambienti in cui vengono generati. L'archiviazione NVMe ad alta capacità e l'accelerazione GPU consentono ora di avvicinare l'elaborazione al punto di acquisizione dei dati, anziché affidarsi interamente a data center centralizzati. Per l'OSU, ciò significa analisi in tempo reale o quasi reale all'edge, dove le decisioni scientifiche possono influenzare il corso stesso della raccolta dei dati.

La collaborazione tra l'Oregon State University e i suoi partner tecnologici riflette una comprensione condivisa di obiettivi e finalità. I ​​limiti della ricerca non risiedono nelle domande poste, ma piuttosto nelle risposte fornite. I limiti risiedono nella capacità pratica di elaborare il volume di informazioni fornito dall'oceano. Quando la progettazione di elaborazione, archiviazione e flusso di lavoro si allinea alle esigenze scientifiche, i vincoli iniziano a scomparire.

Guardando al futuro, l'opportunità risiede nella progettazione di sistemi che acquisiscano, analizzino e comprendano i dati senza richiederne il trasferimento su più piattaforme. L'elaborazione si muove nella direzione dei dati, non viceversa. Cluster di elaborazione a bordo nave, storage NVMe ad alta densità e inferenza accelerata da GPU sono passi avanti verso questo modello. Questa non è "IA ambiziosa". Questo progetto dimostra che un cambiamento significativo è già in atto nell'informatica per la ricerca.

L'oceano sta cambiando. I dati sono importanti. La finestra per comprenderlo è limitata. Il lavoro dell'Oregon State mostra cosa diventa possibile quando applichiamo la tecnologia giusta alle domande giuste, al momento giusto, nei luoghi in cui la scienza si sviluppa.

Scopri di più sulla ricerca dell'Oregon State University presso SC25:

Dell Technologies Talk
Data: martedì 18/11
Orario: 11:30
Posizione: Area principale dello stand Dell

Supermicro Talk
Data: mercoledì 19/11
Orario: 5:00
Posizione: Stand principale Supermicro n. 3504