Keď sme v novembri minulého roka publikovali náš článok o výskume zobrazovania planktónu na Oregonskej štátnej univerzite , titulkom bola veda: infraštruktúra s akceleráciou umelej inteligencie na palube výskumných plavidiel, ktorá spracováva terabajty údajov o oceáne takmer v reálnom čase ešte predtým, ako loď vôbec dorazila do prístavu. V nasledujúcich týždňoch sa však potichu stalo niečo iné. Kampusom sa rozšírila správa o tom, čo by v skutočnosti mohol dosiahnuť jeden server Dell PowerEdge XE7745 s ôsmimi SSD diskami Solidigm D5-P5336 E3.S a grafickými kartami NVIDIA RTX PRO 6000. Ostatné oddelenia sa začali pýtať. Potom začali telefonovať. Christopher Sullivan, riaditeľ výskumu a akademických výpočtov na Fakulte Zeme, oceánu a atmosféry na OSU, teraz chce stojan s týmito servermi, aby uspokojil rastúci dopyt po umelej inteligencii na celej univerzite, a príbeh, ktorý poháňa túto ambíciu, siaha ďaleko za rámec planktónu.
Oregonská štátna univerzita sa etablovala ako jedna z najprogresívnejších univerzít v krajine v oblasti zavádzania umelej inteligencie pre výskum aj akademické účely. Rozhodnutia o infraštruktúre, ktoré sa dnes na akademickej pôde prijímajú, spolu s vytváraním partnerstiev so spoločnosťami ako Metrum AI, Dell, NVIDIA a Solidigm, nie sú len akademickými experimentmi. Kladú základy pre nový spôsob, akým môžu univerzity poskytovať vzdelávanie, hodnotiť vzdelávanie a chrániť svojich študentov. Toto je príbeh o tom, ako sa tento model vyvinul.
Problém, ktorý generatívna umelá inteligencia zhoršila
Po celé desaťročia boli písomné úlohy ústredným prvkom akademického hodnotenia. Odovzdajte prácu, preukážte porozumenie a získajte známku. Generatívna umelá inteligencia tento systém zásadne zmenila. Teraz môže študent napísať prepracovanú, dobre štruktúrovanú esej s malým skutočným zameraním sa na materiál a ani skúsení učitelia nedokážu spoľahlivo určiť, či ide o autentickú prácu. Dôkazy o skutočnom porozumení, na ktoré sa univerzity spoliehali po celé generácie, oslabli.
Zjavnou alternatívou je ústne hodnotenie. Požiadajte študentov, aby nahlas vysvetlili svoje úvahy, prešli si ich analýzou a obhájili svoje závery. To je ťažké predstierať. Problém je v rozsahu. Profesor, ktorý učí 200 študentov, si nemôže sedieť oproti každému z nich a viesť podstatnú ústnu skúšku. Na modernej univerzite toto obmedzenie v podstate odsunulo ústne hodnotenie ako primárny nástroj hodnotenia. Metrum AI bola vytvorená s cieľom zmeniť túto rovnicu.
Čo postavila umelá inteligencia spoločnosti Metrum
Spoločnosť Metrum AI , ktorú spoluzaložili generálny riaditeľ Steen Graham a technický riaditeľ Chetan Gadgil, bola vybudovaná na jednoduchom presvedčení: AI by mala vykonávať skutočnú operačnú prácu, nielen demonštrovať potenciál. Spoločnosť nasadzuje multimodálne agenty AI, ktorí pre zákazníkov v rôznych odvetviach od poisťovníctva až po výrobu uvažujú o videu, zvuku, dokumentoch a štruktúrovaných dátach. Spoločnosť Metrum nadviazala úzke partnerstvo so spoločnosťou Dell Technologies a overuje svoje platformy v porovnaní s infraštruktúrou podnikových serverov spoločnosti Dell v rôznych konfiguráciách GPU. Akademický systém hodnotenia na Oregon State University nie je pre spoločnosť Metrum kľúčovým prvkom; je to tá istá základná schopnosť aplikovaná na novú problémovú oblasť s rovnakou filozofiou dizajnu „človek v slučke“ na lokálnej úrovni, ktorá sa prelína všetkým, čo spoločnosť vytvára.
Aplikovaná na akademické hodnotenie, platforma spracováva nahrané študentské video prezentácie pomocou multimodálnej umelej inteligencie a vracia návrhy hodnotení zoradené podľa rubrik na posúdenie fakultou. Návrh je konkrétny: poskytnúť inštruktorom partnera s umelou inteligenciou, ktorý sa postará o opakujúcu sa a časovo náročnú extrakciu, aby sa mohli sústrediť na rozhodnutia, ktoré skutočne vyžadujú ľudské posúdenie.
Na funkčnej úrovni platforma vykonáva tri operácie. Z odoslaných videí extrahuje multimodálne artefakty, generuje zvukové prepisy s časovou pečiatkou pomocou OpenAI Whisper a zachytáva obsah slajdov prostredníctvom vizuálnej analýzy s využitím Qwen3-VL-30B. Na extrahovaný obsah potom aplikuje inštruktorom navrhnuté rubriky pomocou modelov uvažovania Qwen3-30B-A3B, ktoré bežia na vLLM. Nakoniec prezentuje návrhy hodnotení s ukazovateľmi dôkazov, pričom každé skóre prepája s konkrétnou časovou pečiatkou prepisu alebo identifikátorom slajdu na kontrolu a schválenie fakultou predtým, ako sa čokoľvek dostane k študentovi.
Tento posledný krok je kľúčový. Žiadne skóre, komentár ani spätná väzba nie sú pre študentov viditeľné, kým ich inštruktor neskontroluje, nevykoná všetky potrebné úpravy a výslovne neschváli. Systém je postavený na autorite fakulty. Platforma navyše funguje výlučne lokálne. Toto rozhodnutie ovplyvňuje všetko, ako systém funguje, kto mu dôveruje a aký hardvér vyžaduje.
Od vedľajšieho projektu profesora k mandátu prorektora
Jonathan Kalodimos je docent financií a držiteľ štipendia Harleyho a Brigitte Smithových na Obchodnej fakulte Oregonskej štátnej univerzity. Jeho zázemie nie je také, aké by ste očakávali od niekoho, kto je v centre pozornosti v oblasti infraštruktúry umelej inteligencie. Pred nástupom na OSU pracoval ako finančný ekonóm v Komisii pre cenné papiere a burzy USA, kde pôsobil ako hlavný ekonóm pre paragraf 954 zákona Dodd-Frank, ktorý stanovil pravidlá týkajúce sa spätného získavania odmien manažérov. Jeho výskum v oblasti správy a riadenia spoločností a finančnej regulácie bol citovaný v denníkoch The Wall Street Journal, The New York Times, Bloomberg a Harvard Business Review. Ukazuje sa tiež, že má fyzikálny inštinkt na presné meranie vecí.
Asi pred rokom Kalodimos naprogramoval pre svoj kurz MBA jednoduchý nástroj: agenta umelej inteligencie na vyhodnotenie ústnej zložky prezentácií prípadových štúdií. Študenti boli ohromení kvalitou spätnej väzby. Projekt prezentoval počas Týždňa umelej inteligencie na Oregonskej štátnej univerzite. Spoločnosť Dell si ho všimla, spojila ho s firmou Metrum AI a z experimentu v triede sa stalo niečo oveľa väčšie.
„Keď už máte tento nástroj, môžete si vylepšiť svoj štýl výučby a metódy výučby, aby ste využili jeho silu a poskytli lepší vzdelávací zážitok.“
— Jonathan Kalodimos, docent financií a člen Harley & Brigitte Smithovcov, Oregonská štátna univerzita
Kalodimos sa zameriava na to, čo nazýva extrakciou založenou na dôkazoch, ktorú opiera o to, čo opisuje ako rubrické inžinierstvo. To zahŕňa určenie, ktoré prvky je možné extrahovať zo študentskej prezentácie, agregáciu týchto prvkov do výsledkov vzdelávania a poskytnutie štruktúrovaného prehľadu pre fakultu o tom, kde každý študent preukázal porozumenie a kde zlyhal. „Skeptickým študentom to vysvetľujem takto,“ povedal, „keby som mal veľmi podrobný kontrolný zoznam a prešiel by som si vašu prezentáciu a odškrtával si veci, ktoré ste urobili, tak to systém robí. Je to samozrejme oveľa sofistikovanejšie, ale umožňuje mi to vidieť všetky príležitosti, ako môže študent preukázať, že túto látku ovláda.“
Ponúkol dva príklady, ktoré ilustrujú, čo systém v praxi mení. V prvom študent zhustil desaťminútovú prezentáciu do piatich minút, hovoril monotónne a tempom, akoby angličtina bola druhým jazykom. Jeho prednes mu úplne zatienil porozumenie. „Aj keď som pozorne počúval,“ povedal Kalodimos, „jednoducho som to nedokázal alebo nechcel rozdeliť na takú úroveň granularity, aby som prekonal prvok prednesu a mohol sa sústrediť na samotné dôkazy.“ Keď neskôr prešiel rozdelenie dôkazov vygenerované umelou inteligenciou v pätnásťsekundových intervaloch, ukázalo sa, že študent látke rozumel. Hodnotený bol prednes, nie vedomosti.
Druhý prípad sa týkal študenta, ktorý prezentáciu zostavoval pomaly, s nesúvislými snímkami a argumentáciu zjednotil až na poslednej snímke. Kalodimos si pri sledovaní prezentácie naživo už vytvoril o nej negatívny názor. Systém vyhodnotil prácu ako ucelený oblúk a dal jej dobré skóre. „Ani som si nemyslel, že by to bola výhoda tohto typu hodnotenia,“ povedal. „Vzďaľuje sa od časového prvku hodnotenia.“
Christopher Sullivan, riaditeľ pre výskum a akademické výpočty, je vedúcim infraštruktúry pri nasadzovaní. Jeho angažovanosť sa zintenzívnila, keď sa v pôvodnom návrhu spoločností Metrum a Dell objavila kritická medzera v súladu s predpismi.
FERPA, dátová suverenita a prečo cloud nie je riešením
Keď Sullivan vstúpil do vývoja lokálnej implementácie platformy Metrum pre OSU, prvá vec, ktorú identifikoval, bol problém, ktorý nikto úplne nevyriešil: Zákon o rodinných vzdelávacích právach a ochrane súkromia (FERPA).
FERPA je federálny zákon upravujúci záznamy o vzdelávaní študentov. Stanovuje prísne požiadavky na to, kto má prístup k údajom študentov, za akých podmienok a ako musia byť chránené. Pre systém, akým je systém spoločnosti Metrum, ktorý prijíma videá od študentov, generuje prepisy, vytvára hodnotenia a ukladá kompletnú históriu každého rozhodnutia o známkovaní, nie je súlad s FERPA zaškrtávacím políčkom; je to architektonické obmedzenie.
„Potrebovali sme byť schopní priniesť niečo lokálne, čo by spĺňalo všetky moje podmienky FERPA,“ povedal Sullivan, „ale zároveň by malo veľké úložné miesto.“ Cloudové spracovanie nebolo s touto požiadavkou kompatibilné. Smerovanie študentských video súborov, zvukových prepisov a hodnotiacich záznamov prostredníctvom externých rozhraní API umelej inteligencie by znamenalo prenos osobných údajov študentov do systémov tretích strán mimo priamej kontroly univerzity. Zmluvná a technická zložitosť udržiavania súladu s FERPA v tomto prostredí, u každého dodávateľa v reťazci, z toho urobila nereálnú úlohu.
Existuje aj rozmer praktickej skúsenosti študentov. Študenti, ktorí odovzdávajú nahraté prezentácie, ponúkajú niečo osobné: svoj hlas, svoju tvár, svoje zdôvodnenie pod tlakom, niekedy v ich rodnom jazyku. Keď pochopia, že ich video je uložené na serveri OSU, spracované modelom bežiacim na hardvéri OSU a riadené vlastnými dátovými politikami OSU, dynamika sa zmení. Kalodimos to videl priamo počas pilotného projektu. „Myšlienka, že ide o lokálny model s lokálnym úložiskom a OSU kryje študentov,“ povedal, „bola hmatateľná. Naozaj musíme využiť inštitucionálnu dôveru, ktorú si OSU vybudovala, chrániť našich študentov a využívať tieto lokálne riešenia.“
Cloudové platformy umelej inteligencie sa nasadzujú jednoducho a rýchlo, ale vyžadujú, aby inštitúcie dôverovali zmluve, a nie ich architektúre. Pre študentov, ktorí sú už teraz opatrní, pokiaľ ide o to, ako sa spravujú ich údaje, môže tento rozdiel výrazne ovplyvniť ich ochotu prijať ich. Nasadenie v lokálnych priestoroch nie je len o dodržiavaní predpisov; vytvára základ dôvery.
Pilot, prorektor a čo bude ďalej na OSU
Pilotný projekt je v plnom prúde. Približne 500 študentov z viacerých sekcií odovzdáva záverečné projekty na konci týždňa záverečných skúšok. Hodnotené hodnotenia musia byť vrátené do 4 dní od posledného odovzdania. Správy vygenerované umelou inteligenciou musia byť pripravené predtým, ako fakulta začne s hodnotením. „Paralelne beží aj ľudská zložka,“ poznamenal Kalodimos, „ale najprv potrebujú správu. Ak spracovanie všetkých týchto úloh trvá dva dni, ľudský prvok je ešte viac stlačený.“ Tlak je skutočný, termín je stanovený a infraštruktúra si plní svoju úlohu.
Pilotný projekt odhalil ešte niečo, čo stojí za zmienku. Keď bol profesor nedávno v polovici semestra povýšený na administratívnu pozíciu, inštruktor musel naraz zasiahnuť a kurz dokončiť. Zavedenie konzistentného rámca hodnotenia umelej inteligencie s definovanými rubrikami a zavedeným pracovným postupom kontroly poskytlo inštruktorovi niť kontinuity, ktorá by inak neexistovala. „Konzistentný spoločník pre hodnotenie umelej inteligencie,“ povedal Kalodimos, „určite zlepší študentskú skúsenosť“ práve v tých situáciách, keď nie je možné zaručiť kontinuitu ľudskej výučby.
Príbeh sa nakoniec dostal k prorektorovi OSU. Kalodimos predstavil kompletný balík: systém Dell, výkon úložiska Solidigm, možnosti vývojárov a benchmarky infraštruktúry, počas stretnutia, ktoré malo trvať desať minút. Trvalo štyridsať minút. Prorektor následne poslal e-mail riaditeľovi IT, technickému riaditeľovi a Sullivanovi. OSU teraz plánuje nasadenie v celej univerzite, aby sprístupnil zdroje fakulte od jarného semestra, a to prostredníctvom novo definovaného oddelenia pre výskumné výpočty, ktoré spadá pod prorektora a výskumné oddelenie.
Sullivan uvažuje o tomto nasadení z hľadiska infraštruktúry v racku. Tá istá platforma XE7745, ktorá bola základom pre prácu so zobrazovaním planktónu a teraz poháňa hodnotiaci kanál AI Metrum, je základom, ktorý chce škálovať. Cieľom je rack s takýmito servermi, ktorý by bol k dispozícii na prepínanie medzi akademickými výpočtami a výskumnými výpočtovými záťažami podľa zmien dopytu. V ideálnom prípade by boli servery vyhradené pre hodnotiaci kanál Metrum počas nárastu počtu odovzdaných prác v polovici semestra a v záverečnom období by sa presúvali na výskumné záťaže a počas pokojnejších období akademického kalendára by sa presúvali na výskumné záťaže. „Môžeme vziať počítače z tejto sady a na určitý čas ich presúvať do akademickej výpočtovej strany a potom ich vrátiť späť a využiť ich pre výskumné výpočty,“ povedal Sullivan. „Chceme ich môcť presúvať za chodu.“
Organické prijatie už prebieha. Fakulta zdravotníctva a Fakulta inžinierstva nezávisle oslovili Kalodimosa po tom, čo sa o projekte dozvedeli prostredníctvom neformálnych kanálov. Platforma nebola po pilotnom projekte formálne ohlásená. Aj tak si našla svoje publikum.
Problém s kapacitou, ktorý stojí za problémom so známkovaním
Existuje verzia tohto príbehu, ktorá sa týka len zrýchlenia známkovania. To je neúplná vízia.
Rozšírená verzia sa týka kapacity tried. Sullivan opísal kurz geológie na úrovni 100 študentov, ktorý OSU považuje za súčasť svojho hlavného vzdelávacieho poslania a ktorý by mal absolvovať každý študent. V súčasnosti má dve sekcie po 300 študentoch, čo je spolu 600 študentov za štvrťrok. Inštruktori sú na hranici svojich možností. Pridávanie sekcií nie je vzhľadom na súčasnú vyučovaciu záťaž uskutočniteľné. „Nemôžem, aby učitelia robili viac práce,“ povedal Sullivan. „Musím vytvoriť cesty, ako buď vytvoriť viac sekcií znížením záťaže, alebo zaradiť viac študentov do sekcií, ktoré už máme.“
Kalodimos podobne formuloval aj rozmer Obchodnej fakulty. Profesori so sekciami obmedzenými na 45 študentov z dôvodov požiarneho predpisu by mali možnosť preskúmať formáty veľkých prednášok s podporou v skupinových miestnostiach, hneď ako by sa dalo škálovať individualizované hodnotenie. „Nejde len o naplnenie priestorov,“ povedal. „Ide o udržanie kvality a zároveň o skúmanie rôznych spôsobov podania.“ Vrstva hodnotenia s umelou inteligenciou je to, čo umožňuje individualizované hodnotenie na úrovni prednáškovej sály z praktického hľadiska.
„Umelá inteligencia nám pomáha zvyšovať čísla bez toho, aby sa zmenil dopad, posolstvo alebo to, čo sa učíme.“
— Christopher Sullivan, riaditeľ pre výskum a akademické výpočty, Oregonská štátna univerzita
Úložný priestor bol chýbajúcim kúskom
Keď Sullivan zhodnotil, čo by bolo potrebné na zavedenie systému Metrum do lokálnej prevádzky na OSU s plným súladom s FERPA, otázka grafických kariet (GPU) už bola stanovená. Referenčná architektúra spoločností Metrum a Dell preukázala, že procesor XE7745 s grafickými kartami NVIDIA RTX PRO 6000 dokáže zvládnuť inferenčné zaťaženie vo veľkom rozsahu. Nevyriešené zostalo úložisko.
XE7745 je 4U vzduchom chladená platforma optimalizovaná pre hustotu GPU. Tento dizajn je jej silnou stránkou, ale prináša aj skutočné obmedzenie: počet pozícií pre diskové jednotky je obmedzený. „Potreboval som vložiť veľa miesta do jedného zariadenia bez toho, aby som musel ohroziť rýchlosť,“ povedal Sullivan, „pretože som nechcel stratiť všetku hodnotu GPU a všetku hodnotu XE7745. A v skutočnosti nebolo veľa veľkokapacitných SSD riešení, ktoré by to v krabici dokázali.“
Úložná vrstva v takomto systéme prenáša viac než len hlavnú záťaž umelej inteligencie. Video súbory prichádzajú zo študentského portálu a potrebujú sa niekde okamžite ukladať do vyrovnávacej pamäte. Extrahované zvukové stopy a prepisy s časovou pečiatkou sa ukladajú ako samostatné artefakty na kontrolu fakultou. Obrázky snímok a výstup OCR zaberajú vlastnú vrstvu. Databáza Supabase sleduje metadáta odoslaných dokumentov, hodnotenia konceptov, úpravy fakulty a záznamy o schválení a je nepretržite spustená. Váhy modelov pre Whisper, Qwen3-VL a model uvažovania sa musia načítať dostatočne rýchlo, aby sa predišlo úzkym miestam v inferencii. A kompletná audítorská stopa pre každý koncept vygenerovaný umelou inteligenciou, každé prepísanie fakulty a každú schvaľovaciu akciu sa musí uchovávať ako záznam, na ktorý sa dá dotazovať, na účely akreditačných kontrol, vyšetrovaní akademickej integrity a administratívneho podávania správ.
Každá z týchto úloh je založená na úložisku. GPU dostáva zásluhy za výstup umelej inteligencie. Úložisko zabezpečuje nepretržitú prevádzku GPU.
Sullivanov tím vybral Solidigm D5-P5336 vo formáte E3.S. Model XE7745 pojme osem takýchto diskov. S kapacitou 30.72 TB na disk to predstavuje viac ako 245 TB flash úložiska v jednom 4U šasi. D5-P5336 používa QLC NAND s podnikovým firmvérom vyladeným pre trvalý výkon zápisu a integritu dát, čo je v tomto prípade dôležité, pretože systém nespracováva občasné záťaže. Počas najväčšieho počtu odovzdávaných úloh okolo finálnych skúšok súčasne prijíma videá, zapisuje prepisy, zaznamenáva výstup hodnotenia a aktualizuje databázu.
Ako sme zdokumentovali v našom článku o výskume oceánov, ktorý sa týkal tej istej hardvérovej konfigurácie, disky Solidigm v poli RAID 10 poskytovali trvalý výkon čítania a zápisu bez toho, aby zaostávali za spracovateľským kanálom. Úložisko nebolo úzkym hrdlom. Architektúra odhalila skutočné obmedzenia pracovnej záťaže, takže ich tím mohol vyladiť tam, kde boli dôležité. Tento overený záver sa priamo prenáša do akademického hodnotenia nasadenia.
OSU ako plán pre vysokoškolské vzdelávanie pripravené na umelú inteligenciu
Prístup Oregonskej štátnej univerzity k infraštruktúre umelej inteligencie je zámerný a stojí za to ho preskúmať ako model pre iné vzdelávacie inštitúcie. Namiesto oportunistického nasadzovania nástrojov umelej inteligencie prostredníctvom cloudových rozhraní API univerzita prijala sériu architektonických rozhodnutí, ktoré považujú umelú inteligenciu za trvalú inštitucionálnu kapacitu a nie za službu dodávateľa. Hardvér je štandardizovaný okolo platforiem, ktoré zahŕňajú výskumné a akademické výpočtové úlohy. Úložisko je lokálne, s vysokou hustotou a je zámerne kompatibilné s predpismi. Fakulta si ponecháva konečnú právomoc nad každým hodnotením, ktoré systém vygeneruje.
Kalodimos výslovne vyjadruje želanie, aby sa platforma rozšírila aj za hranice štátnej univerzity v Oklahome. „Nie každá univerzita bude mať také zdroje ako my,“ povedal. „Chcem sa uistiť, že táto technológia bude dostupná pre všetky univerzity.“ Tento základ robí širší argument pre rovnosť vo vzdelávaní dôveryhodným. Inštruktor na menšej inštitúcii s vyššou pedagogickou záťažou a menšími zdrojmi tento nástroj pravdepodobne potrebuje najviac.
„Potrebujem úložisko a potrebujem, aby bolo toto úložisko rýchle. Umelá inteligencia je bez úložiska mŕtva technológia. Je to systém riadený dátami. Algoritmy sme mali už v 1960. a 70. rokoch. Nemali sme na to žiadne dáta, pretože sme nemali žiadne úložisko, ktoré by tieto dáta skutočne uchovávalo.“
— Christopher Sullivan, riaditeľ pre výskum a akademické výpočty, Oregonská štátna univerzita
Sullivan formuluje otázku plánovania hardvéru rovnakým spôsobom, ako formuluje každé rozhodnutie o infraštruktúre na OSU. Modely sa budú meniť. Typy vstupov, ktoré študenti predkladajú, sa budú vyvíjať. Techniky hodnotenia, ktoré bude fakulta chcieť používať, budú sofistikovanejšie. „Zoberiem si väčšiu vidličku, väčší nôž alebo väčšiu lyžicu,“ povedal, „ale na strane hardvéru je to stále vidlička, nôž a lyžica. V nasledujúcich rokoch budem dramaticky meniť modely a vstupy a teraz je pre mňa dôležitejšie, aby hardvér držal krok s predstihom pred tým, čo bude.“
Každý spracovaný prepis, každý extrahovaný slajd, každý koncept hodnotenia, každá schválená známka a každý audítorský záznam musia byť niekde uložené. V tomto systéme je 245 TB flash pamäte Solidigm QLC umiestnených lokálne v infraštruktúre OSU, ktorá vykonáva tichú prácu, vďaka ktorej je možná viditeľná umelá inteligencia. Rack, ktorý Sullivan plánuje, nebude posledný. Univerzita sleduje, čo tento pilotný projekt prinesie, a ostatné inštitúcie budú sledovať, čo robí OSU. To znamená byť lídrom v oblasti umelej inteligencie.
Amazonka