Arista Networks は、コンピューティング ドメインとネットワーク ドメインを単一のマネージド AI エンティティに統合する AI データ センターを構築するための画期的なテクノロジーのデモンストレーションを発表しました。 NVIDIA と協力して実施されるこの取り組みは、顧客がネットワーク、NIC、サーバーなどの重要なコンポーネント全体で AI クラスターを均一に構成、管理、監視できるようにすることで、ジョブの完了時間を短縮する最適な生成 AI ネットワークの構築を目指しています。
AI クラスターの統合管理
AI クラスターと大規模言語モデル (LLM) が拡大し続けるにつれて、複雑さと関連するコンポーネントの数も大幅に増加しています。これらのコンポーネントには、GPU、NIC、スイッチ、光学系、ケーブルが含まれており、包括的なネットワークを形成するには、これらが連携して機能する必要があります。均一な制御により、NIC および GPU をホストする AI サーバーが、さまざまな層にわたる AI ネットワーク スイッチと確実に同期されます。この調整が行われていないと、特に NIC とネットワーク スイッチ間で構成ミスや調整ミスが発生するリスクがあり、診断が難しいネットワークの問題によりジョブの完了に重大な影響を与える可能性があります。
調整された混雑管理
大規模な AI クラスターでは、パケットのドロップや GPU の利用不足を防ぐために、同期された輻輳管理が必要です。コンピューティング リソースとネットワーク リソースを最適化するには、調整された同時の管理と監視も必要です。 Arista のソリューションの中核となるのは、ネットワークとホスト間の通信を可能にし、構成を調整して AI クラスターを最適化する EOS ベースのエージェントです。
リモート AI エージェントによる制御強化
Arista スイッチ上で実行される Arista EOS は、リモート AI エージェントを通じて直接接続された NIC およびサーバーに拡張できます。これにより、AI データセンター全体の単一の制御点と可視性が可能になり、統合されたソリューションが作成されます。リモート AI エージェントは、NVIDIA BlueField-3 SuperNIC 上でホストされるか、サーバー上で実行されて SuperNIC からテレメトリを収集し、ネットワーク スイッチ上の EOS がサーバー上のネットワークの問題を構成、監視、およびデバッグできるようにします。これにより、エンドツーエンドのネットワーク構成とサービス品質 (QoS) の一貫性が確保され、AI クラスターを統合ソリューションとして管理および最適化できるようになります。
Arista Networks の最高プラットフォーム責任者である John McCool 氏は次のように述べています。「Arista は、NVIDIA アクセラレーション コンピューティング、NVIDIA SuperNIC の調整されたオーケストレーション、構成、検証、監視を通じて、検出されたネットワークと GPU トポロジ間の通信の効率を向上させ、ジョブの完了時間を短縮することを目指しています」 、および Arista ネットワーク インフラストラクチャ。
この新しいテクノロジーは、Arista EOS ベースのリモート AI エージェントによって統合 AI クラスターを単一のソリューションとして管理できる方法を強調しています。 Arista は、リモート AI エージェントを介して EOS 機能をサーバーと SuperNIC に拡張することで、ホストとネットワーク間のパフォーマンスの問題や障害を継続的に追跡および報告することを保証し、影響を迅速に分離して最小限に抑えることができます。 EOS ベースのネットワーク スイッチは正確なネットワーク トポロジを常に認識し、リモート AI エージェントを使用して EOS を SuperNIC およびサーバーに拡張することで、AI データ センター内のすべての要素にわたるエンドツーエンドの QoS の調整された最適化が強化され、最終的にジョブの完了時間を短縮します。 。
次はアリスタネットワークスへ
アリスタネットワークスは、10月5日にニューヨーク証券取引所で開催されるアリスタIPO 2024周年祝賀会でAIエージェントテクノロジーを披露し、顧客トライアルはXNUMX年後半に開始される予定です。このデモンストレーションは、マルチベンダーの相互運用性の実現に向けた重要な一歩となります。 AI ネットワーキングと AI コンピューティング インフラストラクチャ間のシームレスな制御と調整を可能にし、AI と LLM ワークロードの増大する需要に対応するエコシステム。
Amazon