StorageReviewは、オレゴン州立大学で行われた研究に基づいた複数のレビュー記事とポッドキャストを公開しています。これらの記事へのリンクは、このトランスクリプトの末尾にあります。これらの記事は、研究分野だけでなく、ベンダーコミュニティ全体で大きな関心を集めています。その後、議論は教育者が教室やテスト中にAIをどのように活用し、追跡しているか、そして知識や学習の質をどのように測定しているかという点にまで広がりました。
この議論の中心は、これらの技術がどのように結びついて、科学研究分野だけでなく、オレゴン州立大学の学生の成果など、真のAI成果を生み出しているのか、そしてこれらの要素がどのように組み合わさって素晴らしいソリューションを生み出しているのか、という点です。
クリストファー・サリバン氏と行った最初のレビューに対する反響が非常に大きかったため、研究と教育の両面におけるAIの成果の進歩について議論するLinkedInライブイベントを開催することにしました。ゲストには以下の方々が参加しました。
- クリストファー・サリバン – オレゴン州立大学地球・海洋・大気科学部の研究・学術コンピューティング担当ディレクター。
- アラン・バムガードナー – セラドン・コーポレーションのアソシエイト・プランニングおよびパスファインディング担当ディレクター。
- シーマス・ジョーンズ – デル社にて、コンピューティング、ネットワーキング、サステナビリティを担当するテクニカルマーケティングエンジニアリング担当ディレクター。
今回のライブイベントの参加者は、直接的な関わり（クリス）やベンダー関連の役割など、様々な形でオハイオ州立大学のプランクトン研究に携わっていました。最初の報道記事やフォローアップのポッドキャストをまだ読んでいない方は、この研究が興味深く、今日の環境問題にも関連していることに気づくでしょう。
このイベントは1時間ですが、マーケティングやセールストークは一切なく、インタラクティブで有益な内容となっています。ポッドキャストを最初から最後まで聴く時間がない場合は、5分ごとのセグメントに分割しているので、興味のある部分だけを聴くことができます。
00:00～05:00 — はじめにおよび背景説明
- ブライアン・ビーラー氏は、オレゴン州立大学における研究と教育全体にわたる、現実世界におけるAIの成果に焦点を当てた、技術的な、営業色のない議論から話を始めた。
- パネルディスカッションでは、学術コンピューティング、ストレージ技術革新、エンタープライズインフラストラクチャといった分野横断的な専門知識が紹介される。
- オレゴン州立大学の使命は、科学研究を推進すると同時に、AIを通じて学生の学習意欲を高めることである。
- クリス・サリバン氏は、研究と学術ITを結びつける長年の取り組みを強調し、新興技術の実践的な導入の重要性を説いている。
- 冒頭でAIを単なる計算問題ではなく、データ中心の課題として位置づけることで、セッション全体のトーンを決定づけている。
05:00～10:00 — データ規模とAIワークロードの現状
- プランクトン画像解析のような大規模な科学的作業では、実験ごとに数百テラバイトものデータが生成され、迅速な処理が求められる。
- トレーニングは全体の作業量のほんの一部に過ぎず、推論が圧倒的に多く、数十億ものデータポイントを扱う大規模な作業となることが多い。
- 時間的な関連性がインフラ要件を左右する。なぜなら、知見の遅延は科学的価値を低下させるからである。
- 継続的なフィードバックループは、推論結果をトレーニングモデルに組み込むことで、時間の経過とともに精度を向上させます。
- シミュレーションワークロードは依然として重要であり、AIパイプラインにデータを供給し、コンピューティング需要をさらに拡大させている。
10:00～15:00 — エッジAIとインフラストラクチャの柔軟性
- 集中型トレーニングクラスタから、船舶や遠隔環境への展開を含む、エッジにおける分散型推論への移行。
- 大容量SSDを搭載したGPU高密度サーバーなどの柔軟なプラットフォームは、マルチ環境への展開を可能にする。
- 高密度ストレージにより、ペタバイト規模のデータセットをローカルで処理することが可能になり、集中型データセンターへの依存度を低減できる。
- リアルタイム処理により、適応的なデータ収集が可能になり、効率性が向上し、運用コストが削減されます。
- エッジ推論は、堅牢性、拡張性、モジュール性に関して新たな設計上の考慮事項をもたらす。
15:00～20:00 — エンタープライズAIの進化とGPUの活用
- 業界は、初期のAI投資がトレーニングに重点を置いていた状態から、推論主導型の広範な導入へと移行しつつある。
- 従来の企業向けアプリケーションもAIに対応しつつあり、パフォーマンス向上のためにGPUを活用している。
- エージェントベースおよび複数ステップのAIプロセスが普及するにつれて、トークンの使用頻度とワークフローの複雑さは著しく増加している。
- インフラストラクチャは、定常的な需要ではなく、突発的で予測不可能なワークロードに対応できるように設計する必要がある。
- 拡張性と将来的な成長を見据えた計画は、初期導入段階においても不可欠となっている。
20:00～25:00 — データ管理とRAGの課題
- データへのアクセス性が主要なボトルネックとして浮上しており、メタデータの不備や発見性の低さのために、大規模なデータセットが十分に活用されていないことが多い。
- 検索拡張生成には、ファイルレベルの属性だけでなく、意味のあるメタデータが必要です。
- 科学分野と企業環境は、保存されたデータの理解と収益化において、同様の課題に直面している。
- 重複したデータセットと可視性の欠如は、現在のストレージ運用における非効率性を浮き彫りにしている。
- 効果的なデータキュレーションは、AIの価値を引き出すための基盤として位置づけられている。
25:00～30:00 — 教育におけるAIと安全なデータ処理
- オレゴン州立大学は、動画による提出物と自動評価を利用した、AIを活用した学生評価システムを導入した。
- FERPA（家族教育権・プライバシー法）への準拠とデータプライバシー要件は、オンプレミスインフラストラクチャに関する意思決定を左右する要因となる。
- 大容量のローカルストレージにより、学生が作成した大量のコンテンツを安全に処理することが可能になります。
- システムは、複数のコースと期間にわたる継続的な取り込み、処理、および保持をサポートする必要があります。
- AIは、教員の業務負担を増やすことなく、拡張性の高い学生フィードバックを可能にする。
30:00～35:00 — クラウドとオンプレミス、そしてトークンエコノミクス
- クラウドコストの上昇とトークン消費量の増加により、特に推論処理において、ワークロードがオンプレミス環境に戻されつつある。
- トークノミクスは、特に予算に制約のある学術環境において、重要な運用上の考慮事項となる。
- 実験にはオンプレミスのリソースを、特定の高付加価値タスクにはクラウドを利用するハイブリッド戦略が登場している。
- クエリ最適化とトークン削減の手法は、コスト管理においてますます重要になってきている。
- データ主権とコンプライアンスに関する懸念は、オンプレミス環境の導入をさらに後押しする要因となっている。
35:00～40:00 — モデル最適化と階層型AIアーキテクチャ
- 階層型モデル戦略では、定型的なタスクにはより小規模で専門的なモデルを、複雑なクエリにはより大規模なモデルを活用します。
- CPUとGPUの連携により、ワークロード全体にわたってより効率的なリソース利用が可能になります。
- オンプレミスシステムは、コスト増を伴わずに反復的な実験を可能にし、ワークフローの効率性を向上させます。
- キャッシュとメモリ最適化により、再計算が削減され、パフォーマンスが向上します。
- 将来のアーキテクチャでは、モデルの選択とオーケストレーションがますます自動化されるようになるだろう。
40:00～45:00 — インフラストラクチャインテリジェンスと運用AI
- AIはインフラ管理に組み込まれつつあり、予測監視や自動修復を可能にしている。
- オンプレミスのAIエージェントがキャンパスシステムを監視し、運用に影響が出る前に障害を特定します。
- より小型で対象を絞ったモデルは、作戦情報活動のユースケースにおいて効果的であることが証明されている。
- ハードウェアの進歩、特にGPUの進歩により、効率性の向上とともに急速な性能向上が実現している。
- 電力制約がシステム設計に影響を与え、規模の大きさよりも効率性が優先されるようになっている。
45:00～50:00 — 電力、冷却、およびデータセンターの設計
- 電力密度と冷却性能は、現在、AIインフラの展開における主要な制約要因となっている。
- 液冷は、空冷に比べて、より高い性能、より低い騒音、そしてより優れたエネルギー効率を実現します。
- 既存のデータセンターに液冷システムを後付けすることは、実現可能で費用対効果も高い。
- ストレージ効率の向上により、より多くの電力をコンピューティングリソースに割り当てることが可能になる。
- 冷却プレートや浸漬冷却などの冷却技術革新により、総エネルギー消費量を大幅に削減できます。
50:00～55:00 — パフォーマンス向上と実践的な導入
- 液冷システムは効率を向上させるだけでなく、BIOSチューニングによってより高い持続的なパフォーマンスも可能にします。
- 音響影響の低減により、AIシステムを従来とは異なる環境に導入することが可能になる。
- 大学や企業は、電力消費量の削減とパフォーマンスの向上を通じて、有意義な投資対効果（ROI）を達成できる。
- 冷却戦略の選定には、複雑さ、コスト、および運用目標のバランスを取る必要がある。
- 実際の導入事例は、高度な冷却手法の性能上の利点を実証している。
55:00～終了 — 導入戦略とAIの民主化
- 参入障壁を下げることは極めて重要であり、オンプレミスのサンドボックス環境はリスクのない実験を可能にする。
- ハードウェア、ソフトウェア、ワークフローを統合するには、ベンダーやISV（独立系ソフトウェアベンダー）とのパートナーシップが不可欠です。
- ハードウェア貸出システムのようなプログラムを利用することで、組織はAIインフラを導入する前にテストを行うことができる。
- 事前検証済みのソフトウェアスタックは、導入を簡素化し、価値実現までの時間を短縮します。
- 広く普及させるには、小規模な機関が小規模から始め、迅速に反復開発を行い、必要に応じて規模を拡大できるようにすることが不可欠である。
以下は、オレゴン州立大学が実施した研究に関連する過去の記事へのリンクです。
海上のAI：オレゴン州立大学がリアルタイムで海洋を研究するために出航
ポッドキャスト#145: オレゴン州立大学とエッジAIの重要性
Metrum AIとオレゴン州立大学が学術評価の新たな基準をどのように構築しているか
Amazon