StorageReview.com

Smartbird専用AIクラスターがWEKA NeuralMeshを統合し、マネージドエンタープライズAIを実現

Enterprise  ◇  エンタープライズストレージ

SmartbirdとWEKAは、エンタープライズAIワークロード向けマネージドサービスとして販売されるSmartbirdの専用AIクラスターにWEKA NeuralMeshを組み込むパートナーシップを発表しました。Smartbirdは、オンプレミスまたは専用コロケーション施設において、単一顧客のワークロード向けに各クラスターを設計、構築、運用します。両社は、顧客データが顧客管理環境に保持され、初日から本番環境で使用可能な状態となるため、設計段階から主権が確保されていると説明しています。この契約は、Smartbirdが計画しているインフラストラクチャパートナーシップネットワークの第一弾となります。

SmartbirdとWEKAのパートナーシップを示すグラフィック。青いデータ波の上に2つのロゴが配置されている。

Smartbirdは、以前はAllbirdsとして知られていた会社です。Allbirdsは靴ブランドと資産を売却し、6月にSmartbird, Inc.に社名を変更しました。NASDAQ上場はBIRDのティッカーシンボルで維持し、GPUコンピューティングプロバイダーDCAIの元CEOであるナディア・カールステン博士を社長兼CEOに任命しました。社名変更当時、最初のクラスターはまだ設計段階で、米国とヨーロッパでデータセンターサイトの開発が進められていました。そのため、WEKAとの契約は、そのスタックがどのような構成になるのかを初めて垣間見ることができる機会となります。

データスループットと推論に関する主張

NeuralMeshはデータおよびメモリ層を提供する。両社によれば、GPUには毎秒数百ギガバイトのスループットでデータが継続的に供給されるというが、その数値の根拠となるハードウェア構成、ソフトウェアバージョン、テスト条件は明らかにされていない。推論および継続的に実行されるエージェントアプリケーションに関して、両社は、この統合プラットフォームによってGPUメモリ容量が拡張され、最初のトークン取得までの時間が短縮され、再計算が削減されることでトークンコストが低減されると述べている。

WEKA Observeのクラスタ概要ダッシュボードには、容量、スループット、IOPS、レイテンシの各パネルを備えた4つのNeuralMeshクラスタが表示されています。

WEKAがNeuralMeshで上記3つの課題に対して提示したのが、GPUメモリをNeuralMeshストレージに拡張するKVキャッシュ層であるAugmented Memory Gridです。WEKAによると、Augmented Memory GridはGPUメモリ容量を最大1000倍、最初のトークン取得までの時間を最大20倍短縮し、同じGPU上で同時接続できるユーザー数を10倍に増やすことができるとのことです。これは本番環境でのベンチマーク結果に基づいています。これらの数値は、NeuralMesh全般に関するWEKAの数値です。Smartbirdの発表では、クラスターがどのNeuralMeshコンポーネントを使用しているかは明記されておらず、GPU使用率、消費電力、トークンあたりのコストに関する測定結果も示されていません。

「企業は、個々の部品からAIインフラを構築したいとは考えていません。実績のある専門家が運用する、確実に機能する完全なソリューションを求めているのです」と、Smartbirdの社長兼CEOであるナディア・カールステン博士は述べています。「SmartbirdのAIクラスターはすべて、銀行、病院、製造業、政府機関など、顧客固有の要件に合わせて設計されています。WEKA NeuralMeshを組み込むことで、Smartbirdは大規模な運用でも優れた性能を発揮することが実証されたデータおよびメモリ層を顧客に提供します。」

「エージェント型AIは容赦がありません。アイドル状態のGPUや停止したパイプラインは、そのまま損益計算書に悪影響を及ぼします。企業はこれまで、パフォーマンスか主権のどちらかを犠牲にしなければならないと言われてきましたが、それは常にインフラの欠陥であり、物理法則ではありませんでした」と、WEKAの共同創業者兼CEOであるリラン・ズヴィベル氏は述べています。「WEKA NeuralMeshは、このトレードオフを解消します。Smartbirdは、顧客が構築や運用する必要のない専用クラスターとしてこれを提供します。両社が協力することで、規制対象業界向けに、自社のみが利用するインフラ上でフルスピードで動作する、GPUあたり、ワットあたり、ドルあたりの出力が向上した生産型AIを提供します。」

専用インフラストラクチャとマネージドオペレーション

Smartbirdは、設備、コンピューティング、ネットワーク、データインフラストラクチャ、データオーケストレーションを含むフルスタックを運用するため、顧客は責任を負うパートナーが1社のみとなり、複数のベンダーを統合したり、複数のハードウェアリリースサイクルを追跡したりする必要はありません。各クラスターは顧客と1対1でマッピングされ、両社によれば、完全専用のフットプリントにより、政府、医療、金融サービスワークロードに必要な分離性、暗号化、監査可能性が実現されるとのことです。両社は、展開地域、暗号化の実装、コンプライアンス認証については明らかにしていません。

両社はプラットフォームを初日から実用化できると説明しているものの、一般提供開始日は未定で、顧客も特定されておらず、6月の社名変更時点ではSmartbirdのサイトはまだ開発中だった。NeuralMesh自体は両社の中で出荷製品であり、WEKAは3月に一般提供を開始し、 7月にはマルチテナントのNeuralMesh 6に移行した。並行して行われた契約により、NeuralMeshはAndromedaの50社以上のGPUプロバイダーの傘下に入った。

WEKAニューラルメッシュ

スマートバード

StorageReview と連携する

ニュースレター| YouTube | ポッドキャスト(iTunes / Spotify) | Instagram | Twitter | TikTok | RSSフィード

ハロルド・フリッツ

IBM が Selectric を設立して以来、私はテクノロジー業界に携わってきました。しかし、私のバックグラウンドは執筆です。そこで私はプリセールスの仕事から抜け出し、自分のルーツに戻り、少し執筆活動をしながらもテクノロジーに携わることにしました。