GTC 2026において、VDURAはAI環境におけるGPU利用率とストレージ効率を向上させるデータプラットフォームのアップデートを発表しました。今回の発表には、リモートダイレクトメモリアクセス（RDMA）の一般提供開始、コンテキスト認識型階層化技術のプレビュー、そしてAMD EPYC Turin CPUとNVIDIA ConnectX-7ネットワークをベースとした検証済みのインフラストラクチャ構成が含まれています。
今回のアップデートは、GPUクラスタとストレージ間のデータ移動のボトルネックを解消し、大規模なAIトレーニングおよび推論ワークロード向けにストレージ階層全体にわたるデータ配置を最適化することを目的としています。RDMAによりGPUダイレクトデータパスが実現
VDURAはプラットフォーム全体にRDMAサポートを追加し、GPUサーバーがCPUを介さずにネットワーク経由でストレージに直接アクセスできるようにしました。これにより、従来のカーネルやCPUを介した経路をバイパスしたGPUからストレージへのデータ転送が可能になり、レイテンシの低減とスループットの向上を実現します。
この実装は、同社のデータ転送レイヤーであるVDURA DirectFlowと統合されており、すべてのGPUサーバー通信がRDMAを使用するように設計されています。データパスにおけるCPUオーバーヘッドを排除することで、コンピューティングリソースはモデルのトレーニングと推論タスクに専念できます。このアプローチは、分散AIクラスタにおけるパイプラインの遅延を最小限に抑えつつ、GPU利用率を高めることを目的としています。
コンテキスト認識型階層化によりデータ配置効率が向上する
VDURAはまた、今年後半にリリース予定のコンテキスト認識型階層化機能の第1段階についても詳細を明らかにした。この機能は、ワークロードの動作とアクセスパターンに基づいて、ストレージ階層全体にデータを自動的に配置するものである。
初期段階では、DirectFlowバッファをローカルのNVMe SSDに拡張することで、頻繁にアクセスされるデータをコンピューティングリソースにより近い場所に配置します。これにより、ホットデータに対する共有ストレージやネットワーク接続ストレージへの依存度が低減され、アクティブなワークロードの応答時間が改善されます。
このプラットフォームでは、KVCacheのライトバック制御機能も導入されており、重要な推論データのみを選択的に永続ストレージに保存します。これにより、不要な書き込み処理を削減しつつ、本番環境の推論パイプラインに必要な永続性保証を維持します。
さらに、VDURAはDRAMとローカルSSDにまたがる統合コンテキストキャッシュ階層化フレームワークを実装しています。これにより、LMCacheクラスのパフォーマンスに匹敵する高速な読み書きアクセスが可能になり、長コンテキストLLM推論や検索拡張生成などのユースケースをサポートします。
VDURAは、コンテキスト認識型階層化の今後のフェーズでは、アプリケーション認識型データ配置、ノード間のキャッシュコヒーレンスの向上、NVIDIA BlueField-4 DPUなどの新たなインフラストラクチャコンポーネントのサポートへと拡張していくと述べている。
同社はまた、AMD EPYC TurinプロセッサとNVIDIA ConnectX-7ネットワークアダプタを組み合わせた最適化されたプラットフォーム構成も発表した。これらの構成は、RDMA対応データパスを補完し、GPUクラスタとストレージシステム間の高スループットかつ低遅延の通信をサポートするように設計されている。
フルスタックAIデータパイプラインに焦点を当てる
VDURAのCEOであるケン・クラフィー氏は、メモリから長期保存ストレージまでデータ階層全体を網羅する同社のAIストレージプラットフォームについて説明し、そのパフォーマンスを強調しました。同氏によると、このプラットフォームはRDMAを使用してCPUを介さずに直接データにアクセスし、コンテキスト認識型階層化機能によってストレージ階層全体にデータを配置します。クラフィー氏は、これらのイノベーションにより、組織はより大規模なモデルをサポートし、より多くの推論要求を処理し、本番環境におけるAIの信頼性要件を満たしながらAIインフラストラクチャを拡張できると述べました。
この複合的なアプローチは、より大規模なモデルをサポートし、推論スループットを向上させ、インフラストラクチャの効率性を改善すると同時に、本番環境におけるAI導入の信頼性要件を維持することを目的としています。
利用状況
RDMAは現在、VDURA V5000およびV7000プラットフォームで利用可能です。コンテキスト認識型階層化フェーズ1は、2026年後半に一般提供開始予定で、現在早期アクセスプログラムが進行中です。
Amazon