去年11月,我們報告了俄勒岡州立大學的浮游生物成像研究,當時的頭條新聞聚焦於科學本身:研究船上的人工智慧加速基礎設施,在船隻抵達港口之前,就能近乎即時地處理數TB的海洋資料。但在接下來的幾周里,一些事情悄悄發生。消息迅速傳遍了整個校園,人們開始關註一台配備八塊Solidigm D5-P5336 E3.S固態硬碟和NVIDIA RTX PRO 6000顯示卡的戴爾PowerEdge XE7745伺服器究竟能完成多少工作。其他院係也開始詢問,並紛紛打電話諮詢。俄勒岡州立大學地球、海洋與大氣科學學院的研究與學術計算主任克里斯托弗·沙利文現在希望購買一整機架這樣的伺服器,以滿足全校日益增長的人工智慧需求。而推動這項雄心壯志的故事,遠不止浮游生物研究那麼簡單。
俄勒岡州立大學在人工智慧技術在科學研究和學術應用方面的應用,已成為全美最具前瞻性的大學之一。如今,該校在校園內所做的基礎建設決策,以及與Metrum AI、戴爾、英偉達和Solidigm等公司建立的合作關係,並非僅僅是學術實驗。它們為大學提供一種全新的教育模式、學習評估方式以及學生安全保障方式奠定了基礎。本文將講述此模式的建構歷程。
生成式人工智慧加劇的問題
幾十年來,書面作業一直是學術評鑑的核心。提交論文,展現理解,即可獲得分數。生成式人工智慧從根本上改變了這個體系。如今,學生只需對材料稍加鑽研,就能撰寫出一篇結構嚴謹、文筆流暢的文章,即使是經驗豐富的教師也難以準確判斷其真偽。大學賴以生存數代的真正理解的證據,如今已不再可靠。
顯而易見的替代方案是口頭評估。請學生大聲解釋他們的推理過程,逐步展開分析,並為他們的結論辯護。這很難弄虛作假。問題在於規模。一位教授要教200名學生,不可能與每位學生面對面進行實質的口頭考試。在現代大學中,這種限制實際上已經使口頭評估作為主要評價工具被擱置。 Metrum AI 的誕生正是為了改變這種現狀。
Metrum AI 建構了什麼
Metrum AI由執行長 Steen Graham 和技術長 Chetan Gadgil 共同創立,其核心理念很簡單:人工智慧應該真正發揮作用,而不僅僅是展現潛力。該公司為保險、製造業等各行各業的客戶部署多模態人工智慧代理,這些代理能夠處理視訊、音訊、文件和結構化資料。 Metrum 與戴爾科技集團建立了緊密的合作夥伴關係,利用戴爾的企業級伺服器基礎設施,在各種 GPU 配置下驗證其平台。俄勒岡州立大學的學術評估系統並非 Metrum 的轉型之舉;它只是將相同的底層能力應用於新的問題領域,並秉持著貫穿公司所有產品的「本地部署、人機協作」設計理念。
該平台應用於學術評估領域,利用多模態人工智慧處理學生錄製的視訊演示,並產生符合評分標準的評估草稿供教師審核。其核心理念很明確:為教師提供一個人工智慧夥伴,幫助他們處理重複且耗時的資料擷取工作,從而使教師能夠專注於真正需要人工評判的關鍵環節。
在功能層面,該平台執行三項操作。首先,它從提交的視頻中提取多模態信息,利用 OpenAI Whisper 生成帶有時間戳的音頻轉錄文本,並通過 Qwen3-VL-30B 的視覺分析功能捕獲幻燈片內容。然後,它使用運行在 vLLM 上的 Qwen3-30B-A3B 推理模型,將教師設計的評分標準應用於提取的內容。最後,它產生帶有證據提示的評估草稿,並將每個分數連結到特定的轉錄文字時間戳或幻燈片標識符,供教師審核和批准,之後才會發送給學生。
最後一步至關重要。所有分數、評論或回饋,在教師審核、做出必要修改並明確批准之前,學生都無法看到。該系統以教師權限為核心建構。此外,該平台完全部署在企業內部。這項決定影響系統的運作方式、信任範圍以及所需的硬體配置。
從教授的業餘專案到教務長的指示
喬納森·卡洛迪莫斯是俄勒岡州立大學商學院的金融學副教授,同時也是哈雷和布里吉特·史密斯研究員。他的背景與人工智慧基礎設施領域的核心人物可能並不相符。在加入俄勒岡州立大學之前,他曾擔任美國證券交易委員會的金融經濟學家,並擔任《多德-弗蘭克法案》第954條(該條款制定了有關高管薪酬追回的規則)的主要經濟學家。他在公司治理和金融監管方面的研究成果曾被《華爾街日報》、《紐約時報》、彭博社和《哈佛商業評論》等媒體引用。此外,他還擁有物理學家般的精確測量能力。
大約一年前,卡洛迪莫斯為他的MBA課程編寫了一個簡單的工具:一個用於評估案例研究報告口頭部分的AI代理。學生們對回饋的品質印象深刻。他在俄勒岡州立大學的人工智慧週上展示了這個計畫。戴爾公司注意到了這一點,並將他介紹給了Metrum AI,一個課堂實驗由此發展成了一個規模更大的計畫。
“一旦擁有了這個工具,你就可以改進你的教學風格和教學方法,利用這個工具的優勢,提供更好的教育體驗。”
——喬納森‧卡洛迪莫斯,俄勒岡州立大學金融學副教授兼哈雷與布里吉特‧史密斯研究員
卡洛迪莫斯正在建構的是他所謂的基於證據的提取方法,其基礎是他所說的評分標準工程。這包括確定可以從學生演示中提取哪些特徵,將這些特徵匯總成學習成果,並為教師提供一個結構化的視圖,展示每個學生在哪些方面展現了理解,以及在哪些方面存在不足。 “我是這樣向懷疑的學生解釋的,”他說,“如果我有一份非常詳細的清單,然後我逐項檢查你的演示,這就是這個系統正在做的事情。當然,它比這複雜得多,但它讓我能夠看到學生展示他們掌握這些知識的所有機會。”
他舉了兩個例子來說明這套系統在實務上所帶來的改變。在第一個例子中,一位學生將十分鐘的演講壓縮到五分鐘,語調單調,語速也慢得像英語是第二語言。他的表達方式完全掩蓋了他理解內容的能力。 「儘管我聽得很認真,」卡洛迪莫斯說,「但我就是無法,或者說不願,將內容細化到那種程度,從而克服表達方式的問題,讓我能夠專注於實際的證據。」 後來,當他逐條分析人工智能生成的證據時(每次分析十五秒),他才清楚地意識到,這位學生其實理解了內容。評分標準是表達方式,而不是知識本身。
第二個案例是一位學生製作簡報的過程很慢,投影片看起來雜亂無章,直到最後一張投影片才把論點串連起來。卡洛迪莫斯在現場觀看時,已經對這個簡報的評價很低。但係統卻將整個作品視為一個完整的弧線進行評估,並給出了很高的分數。 “我什至沒想到這種評估方式還有這樣的優勢,”他說,“它擺脫了對時間的過度關注。”
研究與學術計算主管克里斯托弗·沙利文是此次部署的基礎設施負責人。當最初的Metrum和戴爾設計中出現關鍵的合規性漏洞時,他的參與度顯著提高。
FERPA、資料主權以及為什麼雲端運算並非答案
當 Sullivan 著手建構俄亥俄州立大學 (OSU) 的 Metrum 平臺本地部署時,他首先發現的問題是一個尚未徹底解決的問題:《家庭教育權利和隱私法案》(FERPA)。
《家庭教育權利和隱私法案》(FERPA) 是管理學生教育記錄的聯邦法律。它對誰可以在什麼條件下存取學生資料以及如何保護資料都制定了嚴格的規定。對於像 Metrum 這樣的系統而言,該系統需要接收學生提交的影片、產生成績單、進行評估並儲存所有評分決定的完整歷史記錄,因此,FERPA 合規性並非一個簡單的勾選選項,而是一項架構約束。
「我們需要一套能夠滿足所有《家庭教育權利和隱私法案》(FERPA)要求的本地系統,」蘇利文說,「同時還需要大量的儲存空間。」雲端處理無法滿足這項要求。透過外部人工智慧應用程式介面(API)路由學生視訊檔案、音訊轉錄和評估記錄,意味著將學生的個人識別資訊傳輸到大學無法直接控制的第三方系統。在這種環境下,要確保所有供應商都符合FERPA的要求,其合約和技術上的複雜性使得這種方案根本行不通。
此外,學生的實際經驗也至關重要。提交錄製簡報的學生是在分享一些個人經驗:他們的聲音、他們的臉、他們在壓力下的思考過程,有時甚至是用非母語進行的。當他們了解到自己的視訊儲存在俄亥俄州立大學的伺服器上,由運行在俄亥俄州立大學硬體上的模型進行處理,並受俄亥俄州立大學自身資料政策的約束時,這種動態變化就發生了變化。卡洛迪莫斯在試點計畫中親眼見證了這一點。 “這種本地化模式,本地存儲,而且俄亥俄州立大學會為學生保駕護航,”他說,“這種理念非常明顯。我們確實需要利用俄亥俄州立大學已經建立起來的機構信任,保護我們的學生,並充分利用這些本地解決方案。”
雲端人工智慧平台部署簡單快捷,但機構需要信任的是合約而非平台架構本身。對於本就對資料管理方式心存疑慮的學生而言,這種差異會顯著影響他們採用平台的意願。本地部署不僅關乎合規性,更重要的是建立信任的基礎。
飛行員、教務長以及俄亥俄州立大學的未來發展
試點項目正在進行中。大約500名來自不同班級的學生正在期末考週結束時提交最終專案。評分報告必須在最後一份提交後的4天內返回。人工智慧產生的報告必須在教師開始評分之前準備就緒。 「雖然也有人工審核環節在並行運行,」卡洛迪莫斯指出,「但他們需要先拿到報告。如果處理所有這些項目需要兩天時間,那麼人工審核環節的時間就更加緊張了。」壓力確實存在,截止日期已定,而基礎設施正在按部就班地運行。
試點計畫也揭示了一些值得注意的現象。最近,一位教授在學期中途被提拔到行政崗位,一位講師必須臨時頂替,完成剩餘的課程。由於先前已經部署了一套完善的AI評估框架,包括明確的評分標準和既定的審核流程,這為這位講師提供了教學的連續性,否則這種連續性將難以實現。 “擁有一個穩定的AI評估助手,”卡洛迪莫斯說道,“在無法保證人工教學連續性的情況下,無疑會提升學生的學習體驗。”
最終,此事傳到了俄亥俄州立大學教務長那裡。卡洛迪莫斯在一個原本計劃十分鐘的會議上,全面介紹了戴爾系統、Solidigm儲存效能、開發人員能力以及基礎設施基準測試。結果會議持續了四十分鐘。教務長隨後分別向資訊長、技術長和沙利文發送了郵件。俄亥俄州立大學目前正計劃在全校範圍內部署該資源,以便從春季學期開始向教職員開放。該資源將由新成立的研究計算辦公室負責管理,該辦公室隸屬於教務長辦公室和研究辦公室。
蘇利文正在考慮以機架級基礎架構為框架進行部署。他希望擴展的基礎架構正是先前用於浮游生物成像工作、現在又為Metrum AI評估流程提供支援的XE7745平台。目標是建立一個機架,上面部署這些伺服器,可以根據需求變化在學術計算和科研計算工作負載之間靈活切換。理想情況下,在期中和期末考高峰期,這些伺服器將專門用於Metrum評估流程;而在學期中期的淡季,則可以重新部署到科研工作負載中。 “我們可以從這組伺服器中抽取一些機器,暫時用於學術計算,然後再將它們調回來用於科研計算,”蘇利文說,“我們希望能夠靈活地重新部署它們。”
該平台已開始自然推廣。健康學院和工程學院的教職員在透過非正式管道了解該計畫後,分別與卡洛迪莫斯先生取得了聯繫。該平台在試點階段之後並未正式發布,但即便如此,它還是找到了自己的受眾。
分級問題背後的容量問題
這個故事還有一種說法,只關注加快評分速度。這種說法並不全面。
更具體的例子是關於班級容量的。蘇利文舉例說,這是一門100級的地質學課程,俄亥俄州立大學將其視為核心教育使命的一部分,要求所有學生都必須修讀。目前這門課有兩個班級,每班300名學生,每學期共600名學生。教師們已經不堪負荷。鑑於目前的教學任務量,增加班級是不切實際的。 “我不能讓老師們承擔更多的工作,”蘇利文說,“我需要找到辦法,要么通過減輕教師的工作量來增加班級數量,要么在現有班級中增加學生人數。”
卡洛迪莫斯也以類似的方式闡述了商學院的情況。出於消防法規的考慮,部分課程的授課人數上限為45人。一旦個人化評估能夠大規模實施,這些教授可以選擇採用大型講座形式,並輔以分組討論室。 「這不僅僅是提高上課人數的問題,」他說道,「而是要在探索不同教學模式的同時,保持教學品質。」人工智慧評估層使得在大型講座教室進行個人化評估成為可能。
“人工智慧幫助我們在不改變影響、資訊或學習內容的前提下,增加數據量。”
——克里斯多福‧沙利文,俄勒岡州立大學研究與學術計算主任
儲存是缺失的一環。
當蘇利文評估在俄亥俄州立大學部署Metrum系統並完全符合FERPA法規所需的條件時,GPU方面的問題已經解決。 Metrum和戴爾的參考架構已經證明,配備NVIDIA RTX PRO 6000 GPU的XE7745能夠大規模處理推理工作負載。剩下的問題在於儲存。
XE7745 是一款 4U 風冷平台,針對 GPU 高密度進行了最佳化。這種設計是它的優勢所在,但也帶來了一個真正的限制:硬碟位數量有限。 “我需要在不犧牲速度的前提下,將盡可能多的空間集成到單個設備中,”Sullivan 說,“因為我不想浪費 GPU 的全部價值,也不想讓 XE7745 失去其應有的潛力。而且,市面上並沒有太多大容量 SSD 解決方案能夠滿足這種需求。”
此類系統中的儲存層承載的不僅是主要的AI工作負載。影片檔案從學生入口網站上傳後需要立即進行緩衝。提取的音軌和帶有時間戳的文本記錄作為獨立的文件存儲,供教師審閱。幻燈片影像和OCR輸出檔案則佔用單獨的儲存層。用於追蹤提交元資料、草稿評估、教師編輯和審批記錄的Supabase資料庫持續運作。 Whisper、Qwen3-VL和推理模型的模型權重需要快速加載,以避免推理瓶頸。此外,每個AI產生的草稿、每個教師的每次修改以及每個審批操作的完整審計追蹤都必須作為可查詢的記錄保留,用於認證審查、學術誠信調查和行政報告。
所有這些工作負載都運行在儲存設備上。 GPU負責產生AI輸出結果。儲存設備則負責為GPU提供數據,確保其持續運作。
蘇利文的團隊選擇了E3.S規格的Solidigm D5-P5336隨身碟。 XE7745機殼可容納八塊這樣的隨身碟。每塊隨身碟容量為30.72TB,這表示在一個4U機殼內即可實現超過245TB的快閃記憶體儲存。 D5-P5336採用QLC NAND閃存,並配備企業級固件,針對持續寫入效能和資料完整性進行了最佳化。這一點至關重要,因為該系統無需處理偶爾的突發寫入。在期末考試期間的提交高峰期,系統需要同時進行視訊匯入、文字記錄寫入、評估輸出日誌記錄以及資料庫更新等操作。
正如我們在先前關於此硬體配置的海洋研究報告中所述,採用 RAID 10 的 Solidigm 硬碟在保證讀寫效能的同時,並未影響後續的處理流程。儲存並非瓶頸所在。此架構清楚展現了實際的工作負載限制,使團隊能夠針對關鍵環節進行最佳化調整。這項經過驗證的結論直接應用於學術評估部署。
俄亥俄州立大學:人工智慧就緒型高等教育的藍圖
俄勒岡州立大學的人工智慧基礎建設方法經過深思熟慮,值得其他教育機構借鏡參考。該大學並沒有像其他機構一樣透過雲端API隨意部署人工智慧工具,而是做出了一系列架構決策,將人工智慧視為一項持久的機構能力,而非供應商提供的服務。硬體採用標準化平台,涵蓋科學研究和學術運算工作負荷。儲存採用本地部署的高密度設計,並符合相關規格。教師對系統產生的每一項評估都擁有最終決定權。
卡洛迪莫斯明確表示,他希望這個平台能夠推廣到俄亥俄州立大學以外的地區。 「並非每所大學都像我們一樣擁有充足的資源,」他說,「我希望確保所有大學都能使用這項技術。」正是基於此,他提出的關於教育公平的更廣泛論點才更具說服力。對於那些教學任務繁重、資源匱乏的小型院校教師來說,他們無疑最需要這個工具。
「我需要儲存空間,而且我需要快速的儲存空間。沒有儲存空間,人工智慧就是一項死技術。它是一個數據驅動的系統。我們在上世紀六七十年代就有了演算法。但我們當時沒有數據來運行演算法,因為我們沒有儲存空間來實際保存這些數據。”
——克里斯多福‧沙利文,俄勒岡州立大學研究與學術計算主任
蘇利文對硬體規劃問題的闡述方式,與他對俄亥俄州立大學所有基礎建設決策的闡述方式如出一轍。模型會改變,學生提交的輸入類型會演變,教師希望採用的評估技術也會變得更加複雜。 “我可能會用到更大的叉子、更大的刀子或更大的勺子,”他說,“但硬件方面仍然是叉子、刀子和勺子。未來幾年,我將對模型和輸入進行大幅調整,而現在對我來說,更重要的是確保硬件始終領先於未來的變化。”
每一份處理過的成績單、每一張提取的幻燈片、每一份評估草稿、每一份已批准的成績以及每一份審計記錄,都必須儲存在某個地方。在這個系統中,俄亥俄州立大學的基礎設施內配備了245TB的Solidigm QLC閃存,默默地進行著工作,使可見的AI成為可能。蘇利文計畫的機架不會是最後一個。大學正在密切關注這個試點計畫的成果,其他機構也會關注俄亥俄州立大學的動向。這才是引領AI發展的意義。




Amazon