Quando lo scorso novembre abbiamo pubblicato il nostro articolo sulla ricerca di imaging del plancton dell'Oregon State University , il titolo principale era la scienza: un'infrastruttura accelerata dall'intelligenza artificiale a bordo di navi da ricerca, in grado di elaborare terabyte di dati oceanici quasi in tempo reale prima ancora che la nave raggiungesse il porto. Ma nelle settimane successive è successo qualcos'altro, in sordina. La notizia di ciò che un singolo Dell PowerEdge XE7745 con otto SSD Solidigm D5-P5336 E3.S e GPU NVIDIA RTX PRO 6000 poteva effettivamente realizzare si è diffusa nel campus. Altri dipartimenti hanno iniziato a fare domande. Poi hanno iniziato a telefonare. Christopher Sullivan, direttore della ricerca e del calcolo accademico presso il College of Earth, Ocean, and Atmospheric Sciences dell'OSU, ora desidera un rack di questi server per soddisfare la crescente domanda di intelligenza artificiale in tutta l'università, e la storia che alimenta questa ambizione va ben oltre il plancton.
L'Università statale dell'Oregon si è affermata come una delle università più all'avanguardia a livello nazionale nell'adozione dell'intelligenza artificiale sia per la ricerca che per l'ambito accademico. Le decisioni infrastrutturali prese oggi nel campus, insieme alla creazione di partnership con aziende come Metrum AI, Dell, NVIDIA e Solidigm, non sono semplici esperimenti accademici. Gettano le basi per un nuovo modo in cui le università erogano l'istruzione, valutano l'apprendimento e tutelano i propri studenti. Questa è la storia di come è stato sviluppato questo modello.
Il problema che l'intelligenza artificiale generativa ha aggravato
Per decenni, i compiti scritti sono stati fondamentali per la valutazione accademica. Consegnare un elaborato, dimostrare di aver compreso la materia e ottenere un voto. L'intelligenza artificiale generativa ha radicalmente cambiato questo sistema. Ora, uno studente può redigere un saggio ben rifinito e strutturato con scarso coinvolgimento reale nella materia, e persino i docenti più esperti non sono in grado di stabilire con certezza se si tratti di un lavoro autentico. La prova di una reale comprensione, su cui le università hanno fatto affidamento per generazioni, si è indebolita.
L'alternativa più ovvia è la valutazione orale. Chiedere agli studenti di spiegare ad alta voce il loro ragionamento, di illustrare la loro analisi e di difendere le loro conclusioni. È difficile falsificare una valutazione. Il problema è la scala. Un professore che insegna a 200 studenti non può sedersi di fronte a ognuno di loro e condurre un esame orale approfondito. Nell'università moderna, questo limite ha di fatto accantonato la valutazione orale come strumento di valutazione primario. Metrum AI è stata creata per cambiare questa situazione.
Cosa ha costruito Metrum AI
Metrum AI , co-fondata dal CEO Steen Graham e dal CTO Chetan Gadgil, è nata da una semplice convinzione: l'intelligenza artificiale dovrebbe svolgere un lavoro operativo reale, non solo dimostrare il suo potenziale. L'azienda implementa agenti di intelligenza artificiale multimodali in grado di analizzare video, audio, documenti e dati strutturati per clienti in settori che vanno dalle assicurazioni alla produzione. Metrum ha sviluppato una stretta collaborazione con Dell Technologies, validando le proprie piattaforme rispetto all'infrastruttura server aziendale di Dell su una vasta gamma di configurazioni GPU. Il sistema di valutazione accademica dell'Oregon State University non rappresenta una svolta per Metrum; si tratta della stessa capacità di base applicata a un nuovo ambito problematico, con la stessa filosofia di progettazione on-premise e con intervento umano che caratterizza ogni prodotto realizzato dall'azienda.
Applicata alla valutazione accademica, la piattaforma elabora le presentazioni video registrate degli studenti utilizzando l'intelligenza artificiale multimodale e restituisce bozze di valutazione conformi alla griglia di valutazione, da sottoporre all'esame dei docenti. L'obiettivo è chiaro: fornire ai docenti un partner basato sull'IA che si occupi del lavoro ripetitivo e dispendioso in termini di tempo di estrazione dei dati, in modo che possano concentrarsi sulle decisioni che richiedono effettivamente una valutazione umana.
A livello funzionale, la piattaforma esegue tre operazioni. Estrae artefatti multimodali dai video inviati, generando trascrizioni audio con timestamp tramite OpenAI Whisper e acquisendo il contenuto delle diapositive attraverso un'analisi visiva basata su Qwen3-VL-30B. Successivamente, applica al contenuto estratto le rubriche definite dal docente, utilizzando i modelli di ragionamento Qwen3-30B-A3B eseguiti su vLLM. Infine, presenta bozze di valutazione con indicatori di prova, collegando ciascun punteggio a uno specifico timestamp della trascrizione o a un identificativo di diapositiva per la revisione e l'approvazione da parte del corpo docente prima che il materiale venga inviato allo studente.
Quest'ultimo passaggio è cruciale. Nessun punteggio, commento o feedback è visibile agli studenti finché un docente non lo ha esaminato, apportato le modifiche necessarie e approvato esplicitamente. Il sistema si basa sull'autorità del corpo docente. Inoltre, la piattaforma opera interamente in locale. Questa scelta influenza ogni aspetto del funzionamento del sistema, di chi si fida di esso e dell'hardware necessario.
Da progetto collaterale di un professore a mandato del rettore
Jonathan Kalodimos è professore associato di finanza e titolare della cattedra Harley e Brigitte Smith presso la Facoltà di Economia e Commercio dell'Oregon State University. Il suo percorso professionale non è quello che ci si aspetterebbe da una persona al centro di una vicenda legata alle infrastrutture dell'intelligenza artificiale. Prima di entrare a far parte dell'OSU, è stato economista finanziario presso la Securities and Exchange Commission (SEC) statunitense, dove ha ricoperto il ruolo di economista principale per la Sezione 954 del Dodd-Frank Act, che ha stabilito le norme relative alla restituzione dei compensi ai dirigenti. Le sue ricerche sulla governance aziendale e sulla regolamentazione finanziaria sono state citate dal Wall Street Journal, dal New York Times, da Bloomberg e dall'Harvard Business Review. Inoltre, a quanto pare, possiede un innato senso del fisico per quanto riguarda la precisione nelle misurazioni.
Circa un anno fa, Kalodimos ha programmato un semplice strumento per il suo corso MBA: un agente di intelligenza artificiale per valutare la parte orale delle presentazioni di casi di studio. Gli studenti sono rimasti colpiti dalla qualità del feedback. Ha presentato il progetto durante la Settimana dell'IA all'Oregon State University. Dell se n'è accorta, lo ha messo in contatto con Metrum AI e un esperimento in aula si è trasformato in qualcosa di molto più grande.
"Una volta che si ha a disposizione lo strumento, è possibile affinare il proprio stile e i propri metodi di insegnamento per sfruttarne appieno i punti di forza e offrire un'esperienza formativa migliore."
— Jonathan Kalodimos, Professore Associato di Finanza e titolare della cattedra Harley & Brigitte Smith presso la Oregon State University
L'obiettivo di Kalodimos è quello che lui definisce "estrazione basata sull'evidenza", supportata da quella che descrive come "ingegneria delle rubriche". Questo processo comprende la determinazione degli elementi estraibili da una presentazione di uno studente, l'aggregazione di tali elementi in risultati di apprendimento e la fornitura ai docenti di una visione strutturata di dove ogni studente ha dimostrato di aver compreso l'argomento e dove invece ha mostrato delle lacune. "Il modo in cui lo spiego agli studenti scettici", ha affermato, "è come se avessi una lista di controllo molto dettagliata e analizzassi la vostra presentazione spuntando gli elementi che avete trattato: ecco, questo è ciò che fa il sistema. Ovviamente è molto più sofisticato di così, ma mi permette di individuare tutte le opportunità per lo studente di dimostrare di conoscere la materia."
Ha offerto due esempi che illustrano come il sistema cambi nella pratica. Nel primo, uno studente ha condensato una presentazione di dieci minuti in cinque, parlando con tono monocorde e a un ritmo come se l'inglese fosse una seconda lingua. La sua esposizione ha completamente oscurato la sua comprensione. "Anche se stavo ascoltando attentamente", ha detto Kalodimos, "non riuscivo, o non volevo, scomporre il discorso a quel livello di dettaglio per superare l'ostacolo dell'esposizione e potermi concentrare sulle prove concrete". Quando in seguito ha analizzato l'analisi delle prove generata dall'IA, suddividendola in intervalli di quindici secondi, è diventato chiaro che lo studente aveva compreso l'argomento. Era stata valutata l'esposizione, non la conoscenza.
Il secondo caso riguardava uno studente che aveva costruito una presentazione lentamente, con diapositive apparentemente sconnesse, e aveva dato coesione all'argomentazione solo nell'ultima diapositiva. Avendo assistito alla presentazione dal vivo, Kalodimos si era già fatto un'opinione negativa. Il sistema ha valutato il lavoro nella sua interezza, assegnandogli un buon punteggio. "Non avrei mai pensato che questo potesse essere un vantaggio di questo tipo di valutazione", ha affermato. "Si sta allontanando dall'elemento temporale della valutazione."
Christopher Sullivan, direttore del dipartimento di informatica per la ricerca e la didattica, è il responsabile dell'infrastruttura per l'implementazione. Il suo coinvolgimento si è intensificato quando è emersa una grave lacuna in termini di conformità nel progetto originale di Metrum e Dell.
FERPA, sovranità dei dati e perché il cloud non è la soluzione
Quando Sullivan si è occupato di realizzare l'implementazione locale della piattaforma Metrum presso l'OSU, la prima cosa che ha individuato è stato un problema che nessuno aveva ancora risolto completamente: il Family Educational Rights and Privacy Act (FERPA).
Il FERPA è la legge federale che disciplina i dati scolastici degli studenti. Stabilisce requisiti rigorosi su chi può accedere ai dati degli studenti, a quali condizioni e come questi devono essere protetti. Per un sistema come quello di Metrum, che acquisisce i video inviati dagli studenti, genera trascrizioni, produce valutazioni e archivia la cronologia completa di ogni decisione di valutazione, la conformità al FERPA non è un semplice requisito da spuntare, ma un vincolo architetturale.
"Avevamo bisogno di una soluzione locale che soddisfacesse tutti i requisiti del FERPA", ha affermato Sullivan, "ma che offrisse anche un'ampia capacità di archiviazione". L'elaborazione in cloud non era compatibile con tale requisito. Instradare i file video degli studenti, le trascrizioni audio e i registri di valutazione attraverso API di intelligenza artificiale esterne avrebbe significato trasmettere informazioni personali degli studenti a sistemi di terze parti al di fuori del controllo diretto dell'università. La complessità contrattuale e tecnica del mantenimento della conformità al FERPA in tale ambiente, per ogni fornitore della catena, ha reso la soluzione impraticabile.
C'è anche una dimensione pratica legata all'esperienza studentesca. Gli studenti che inviano presentazioni registrate offrono qualcosa di personale: la loro voce, il loro volto, il loro ragionamento sotto pressione, a volte nella loro lingua non madrelingua. Quando capiscono che il loro video è archiviato su un server dell'OSU, elaborato da un modello in esecuzione sull'hardware dell'OSU e regolato dalle politiche sui dati dell'OSU stessa, la dinamica cambia. Kalodimos ha visto questo processo in azione direttamente durante il progetto pilota. "L'idea che si trattasse di un modello locale con archiviazione locale e che l'OSU avesse il supporto degli studenti", ha affermato, "era palpabile. Dobbiamo davvero sfruttare la fiducia istituzionale che l'OSU ha costruito, proteggendo i nostri studenti, e valorizzare queste soluzioni on-premise".
Le piattaforme di intelligenza artificiale basate sul cloud sono facili e veloci da implementare, ma richiedono alle istituzioni di riporre fiducia in un contratto piuttosto che nella loro architettura. Per gli studenti, già diffidenti riguardo alla gestione dei propri dati, questa distinzione può influenzare significativamente la loro disponibilità ad adottarle. L'implementazione on-premise non riguarda solo la conformità normativa; getta le basi per un rapporto di fiducia.
Il pilota, il rettore e cosa ci aspetta alla OSU
Il progetto pilota è in corso. Circa 500 studenti di diverse sezioni stanno consegnando i progetti finali al termine della settimana degli esami. Le valutazioni con i voti devono essere restituite entro 4 giorni dall'ultima consegna. I report generati dall'IA devono essere pronti prima che i docenti inizino la correzione. "C'è una componente umana che opera in parallelo", ha osservato Kalodimos, "ma prima hanno bisogno del report. Se ci vogliono due giorni per elaborare tutto questo, allora il lavoro umano è ancora più compresso". La pressione è reale, la scadenza è fissa e l'infrastruttura sta facendo il suo dovere.
Il progetto pilota ha fatto emergere un altro aspetto degno di nota. Quando un professore è stato recentemente promosso a un ruolo amministrativo a metà semestre, un docente ha dovuto subentrare con breve preavviso e completare il corso. Avere a disposizione un sistema di valutazione basato sull'IA, con rubriche definite e un flusso di lavoro di revisione consolidato, ha garantito al docente una continuità che altrimenti non ci sarebbe stata. "Avere un sistema di valutazione basato sull'IA sempre attivo", ha affermato Kalodimos, "migliorerà sicuramente l'esperienza degli studenti" proprio in quelle situazioni in cui non è possibile garantire la continuità dell'insegnamento umano.
La vicenda è infine giunta all'attenzione del Rettore dell'OSU. Kalodimos ha presentato l'intera infrastruttura: il sistema Dell, le prestazioni dello storage Solidigm, le funzionalità per gli sviluppatori e i benchmark, in quella che doveva essere una riunione di dieci minuti. La riunione si è protratta per quaranta minuti. Il Rettore ha quindi inviato un'e-mail al CIO, al CTO e a Sullivan. L'OSU sta ora pianificando un'implementazione a livello di ateneo per rendere la risorsa disponibile ai docenti a partire dal semestre primaverile, gestita da un ufficio di calcolo per la ricerca di nuova creazione, che dipende dal Rettore e dall'ufficio ricerca.
Sullivan sta pensando a questa implementazione in termini di infrastruttura su scala rack. La stessa piattaforma XE7745 che ha costituito la base per il lavoro di imaging del plancton e che ora alimenta la pipeline di valutazione dell'IA di Metrum è la base su cui vuole costruire. L'obiettivo è un rack di questi server, disponibili per passare agevolmente tra i carichi di lavoro di calcolo accademico e di ricerca a seconda delle esigenze. Idealmente, i server sarebbero dedicati alla pipeline di valutazione di Metrum durante i picchi di richieste per le scadenze di metà semestre e per le consegne finali, e riassegnati ai carichi di lavoro di ricerca durante i periodi più tranquilli dell'anno accademico. "Possiamo prendere delle macchine da questo gruppo e inserirle nel lato del calcolo accademico per un certo periodo di tempo, per poi riportarle indietro e utilizzarle per il calcolo di ricerca", ha affermato Sullivan. "Vogliamo essere in grado di riassegnarle al volo."
L'adozione spontanea è già in corso. Docenti della Facoltà di Scienze della Salute e della Facoltà di Ingegneria hanno contattato Kalodimos in modo indipendente dopo aver appreso del progetto attraverso canali informali. La piattaforma non è stata ancora annunciata ufficialmente, a parte la fase pilota. Ciononostante, ha già trovato il suo pubblico.
Il problema della CAPACITÀ alla base del problema della classificazione
Esiste una versione di questa storia che si concentra unicamente sull'accelerazione del processo di valutazione. Si tratta di una visione incompleta.
Il problema più ampio riguarda la capienza delle classi. Sullivan ha descritto un corso di geologia di livello base, un corso che l'OSU considera parte integrante della sua missione educativa e che ogni studente è tenuto a seguire. Attualmente, il corso è suddiviso in due sezioni da 300 studenti ciascuna, per un totale di 600 studenti a trimestre. I docenti sono al limite delle loro capacità. Aggiungere sezioni non è fattibile, dati gli attuali carichi di lavoro. "Non posso chiedere ai docenti di fare di più", ha affermato Sullivan. "Devo trovare una soluzione che ci permetta di creare più sezioni riducendo il carico di lavoro, oppure di aumentare il numero di studenti nelle sezioni esistenti".
Kalodimos ha inquadrato in modo simile la dimensione della Facoltà di Economia. I professori con classi limitate a 45 studenti per motivi di sicurezza antincendio avrebbero la possibilità di esplorare formati di lezione frontale con un elevato numero di studenti e il supporto di aule di lavoro, una volta che la valutazione individualizzata sarà scalabile. "Non si tratta solo di riempire le aule", ha affermato. "Si tratta di mantenere la qualità esplorando diverse modalità di erogazione". Il livello di valutazione basato sull'intelligenza artificiale è ciò che rende operativamente possibile la valutazione individualizzata su scala di aula magna.
"L'intelligenza artificiale ci sta aiutando ad aumentare i numeri senza alterare l'impatto, il messaggio o i risultati dell'apprendimento."
— Christopher Sullivan, Direttore della Ricerca e dell'Informatica Accademica, Oregon State University
Lo spazio di archiviazione era il pezzo mancante
Quando Sullivan valutò cosa sarebbe stato necessario per portare il sistema Metrum in loco presso l'OSU nel pieno rispetto del FERPA, la parte relativa alle GPU era già stata definita. L'architettura di riferimento di Metrum e Dell aveva dimostrato che l'XE7745 con GPU NVIDIA RTX PRO 6000 era in grado di gestire il carico di lavoro di inferenza su larga scala. Ciò che restava da risolvere era lo storage.
L'XE7745 è una piattaforma 4U raffreddata ad aria, ottimizzata per un'elevata densità di GPU. Questo design rappresenta il suo punto di forza, ma comporta anche un limite: il numero di alloggiamenti per unità è limitato. "Avevo bisogno di integrare molto spazio in un singolo dispositivo senza compromettere la velocità", ha affermato Sullivan, "perché non volevo vanificare il valore delle GPU e di tutto ciò che l'XE7745 rappresentava. E non esistevano molte soluzioni SSD ad alta capacità in grado di offrire questo risultato all'interno del case."
In un sistema come questo, il livello di archiviazione gestisce ben più del semplice carico di lavoro di intelligenza artificiale. I file video arrivano dal portale studenti e necessitano di un buffering immediato. Le tracce audio estratte e le trascrizioni con timestamp vengono archiviate come artefatti distinti per la revisione da parte dei docenti. Le immagini delle diapositive e l'output OCR occupano un livello dedicato. Il database Supabase, che tiene traccia dei metadati di invio, delle valutazioni delle bozze, delle modifiche apportate dai docenti e dei registri di approvazione, è in esecuzione continua. I pesi dei modelli per Whisper, Qwen3-VL e il modello di ragionamento devono caricarsi abbastanza velocemente da evitare colli di bottiglia nell'inferenza. Inoltre, la traccia di controllo completa per ogni bozza generata dall'IA, ogni modifica apportata dai docenti e ogni azione di approvazione deve essere conservata come record interrogabile per le revisioni di accreditamento, le indagini sull'integrità accademica e la reportistica amministrativa.
Ciascuno di questi carichi di lavoro risiede nella memoria di archiviazione. La GPU si prende il merito dell'output dell'IA. La memoria di archiviazione alimenta la GPU e le consente di lavorare ininterrottamente.
Il team di Sullivan ha scelto il Solidigm D5-P5336 nel formato E3.S. Lo chassis XE7745 ospita otto di queste unità. Con una capacità di 30.72 TB per unità, si ottengono oltre 245 TB di storage flash in un singolo chassis 4U. Il D5-P5336 utilizza memoria NAND QLC con firmware enterprise ottimizzato per prestazioni di scrittura sostenute e integrità dei dati, aspetto fondamentale in questo caso poiché il sistema non gestisce picchi di utilizzo occasionali. Durante i periodi di picco di invio dei lavori, in prossimità degli esami finali, il sistema acquisisce simultaneamente video, scrive trascrizioni, registra i risultati delle valutazioni e aggiorna il database.
Come documentato nel nostro articolo sulla ricerca oceanografica relativo alla stessa configurazione hardware, le unità Solidigm in RAID 10 hanno garantito prestazioni di lettura e scrittura costanti senza rallentamenti rispetto al flusso di elaborazione. Lo storage non rappresentava il collo di bottiglia. L'architettura ha messo in luce i reali vincoli del carico di lavoro, consentendo al team di ottimizzarli dove necessario. Questa conclusione, validata, si riflette direttamente nell'implementazione per la valutazione accademica.
L'OSU come modello per un'istruzione superiore pronta all'intelligenza artificiale.
L'approccio dell'Oregon State University all'infrastruttura di intelligenza artificiale è ponderato e merita di essere esaminato come modello per altre istituzioni educative. Invece di implementare strumenti di IA in modo opportunistico tramite API cloud, l'università ha preso una serie di decisioni architetturali che considerano l'IA come una capacità istituzionale duratura, piuttosto che un servizio fornito da un fornitore esterno. L'hardware è standardizzato su piattaforme che coprono i carichi di lavoro di calcolo sia per la ricerca che per l'attività accademica. L'archiviazione è on-premise, ad alta densità e conforme per impostazione predefinita. I docenti mantengono l'autorità finale su ogni valutazione prodotta dal sistema.
Kalodimos è esplicito nel voler che la piattaforma si diffonda oltre l'OSU. "Non tutte le università dispongono delle nostre stesse risorse", ha affermato. "Voglio assicurarmi che questa tecnologia sia accessibile a tutte le università". È proprio questa premessa a rendere credibile l'argomentazione più ampia a favore dell'equità nell'istruzione. Un docente di un'istituzione più piccola, con un carico didattico maggiore e meno risorse, è probabilmente quello che ha più bisogno di questo strumento.
"Ho bisogno di spazio di archiviazione, e ho bisogno che sia veloce. L'intelligenza artificiale è una tecnologia morta senza spazio di archiviazione. È un sistema basato sui dati. Avevamo gli algoritmi già negli anni '1960 e '70. Non avevamo i dati per utilizzarli perché non avevamo spazio di archiviazione per conservarli."
— Christopher Sullivan, Direttore della Ricerca e dell'Informatica Accademica, Oregon State University
Sullivan affronta la questione della pianificazione hardware nello stesso modo in cui affronta ogni decisione infrastrutturale all'OSU. I modelli cambieranno. Le tipologie di input fornite dagli studenti si evolveranno. Le tecniche di valutazione che i docenti vorranno utilizzare diventeranno più sofisticate. "Prenderò una forchetta più grande, un coltello più grande o un cucchiaio più grande", ha affermato, "ma per quanto riguarda l'hardware, si tratta pur sempre di una forchetta, un coltello e un cucchiaio. Cambierò radicalmente i modelli e gli input nei prossimi anni, ed è più importante per me, in questo momento, che l'hardware rimanga al passo con questi cambiamenti futuri".
Ogni trascrizione elaborata, ogni diapositiva estratta, ogni bozza di valutazione, ogni voto approvato e ogni registro di audit devono essere archiviati da qualche parte. In questo sistema, ci sono 245 TB di memoria flash Solidigm QLC on-premise all'interno dell'infrastruttura dell'OSU, che svolgono il lavoro silenzioso che rende possibile l'intelligenza artificiale visibile. Il rack che Sullivan sta progettando non sarà l'ultimo. L'università sta monitorando i risultati di questo progetto pilota e altre istituzioni osserveranno ciò che farà l'OSU. Questo è ciò che significa essere leader nell'IA.
Amazon