Arista Networks는 컴퓨팅 및 네트워크 도메인을 단일 관리형 AI 엔터티로 조정하는 AI 데이터 센터를 생성하는 획기적인 기술 시연을 발표했습니다. NVIDIA와 협력하여 진행된 이 이니셔티브는 고객이 네트워크, NIC 및 서버를 포함한 주요 구성 요소 전반에 걸쳐 AI 클러스터를 균일하게 구성, 관리 및 모니터링할 수 있도록 함으로써 작업 완료 시간을 단축하는 최적의 생성 AI 네트워크를 구축하고자 합니다.
AI 클러스터 통합 관리
AI 클러스터와 LLM(대형 언어 모델)이 계속 확장됨에 따라 관련 구성 요소의 복잡성과 수도 크게 증가합니다. 이러한 구성 요소에는 포괄적인 네트워크를 형성하기 위해 응집력 있게 작동해야 하는 GPU, NIC, 스위치, 광학 장치 및 케이블이 포함됩니다. 통일된 제어를 통해 NIC 및 GPU를 호스팅하는 AI 서버가 다양한 계층에 걸쳐 AI 네트워크 스위치와 동기화되도록 보장합니다. 이러한 정렬이 없으면 특히 NIC와 네트워크 스위치 간에 구성이 잘못되거나 잘못 정렬될 위험이 있으며, 이는 진단하기 어려운 네트워크 문제로 인해 작업 완료에 심각한 영향을 미칠 수 있습니다.
조정된 혼잡 관리
대규모 AI 클러스터에는 패킷 삭제 및 GPU 활용도 저하를 방지하기 위해 동기화된 혼잡 관리가 필요합니다. 컴퓨팅 및 네트워크 리소스를 최적화하려면 조정된 동시 관리 및 모니터링도 필요합니다. Arista 솔루션의 핵심에는 네트워크와 호스트 간의 통신을 지원하고 AI 클러스터를 최적화하기 위한 구성을 조정하는 EOS 기반 에이전트가 있습니다.
향상된 제어를 위한 원격 AI 에이전트
Arista 스위치에서 실행되는 Arista EOS는 원격 AI 에이전트를 통해 직접 연결된 NIC 및 서버로 확장될 수 있습니다. 이를 통해 AI 데이터 센터 전반에 걸쳐 단일 제어 지점과 가시성을 확보하여 통합 솔루션을 생성할 수 있습니다. NVIDIA BlueField-3 SuperNIC에서 호스팅되거나 서버에서 실행되고 SuperNIC에서 원격 측정을 수집하는 원격 AI 에이전트를 사용하면 네트워크 스위치의 EOS가 서버의 네트워크 문제를 구성, 모니터링 및 디버그할 수 있습니다. 이를 통해 엔드투엔드 네트워크 구성과 서비스 품질(QoS) 일관성이 보장되어 AI 클러스터를 응집력 있는 솔루션으로 관리하고 최적화할 수 있습니다.
Arista Networks의 최고 플랫폼 책임자인 John McCool은 다음과 같이 말했습니다. "Arista는 검색된 네트워크와 GPU 토폴로지 간의 통신 효율성을 향상시켜 NVIDIA 가속 컴퓨팅인 NVIDIA SuperNIC의 조정된 오케스트레이션, 구성, 검증 및 모니터링을 통해 작업 완료 시간을 향상시키는 것을 목표로 합니다. , Arista 네트워크 인프라입니다.”
이 새로운 기술은 Arista EOS 기반 원격 AI 에이전트를 통해 통합 AI 클러스터를 단일 솔루션으로 관리할 수 있는 방법을 강조합니다. 원격 AI 에이전트를 통해 EOS 기능을 서버 및 SuperNIC로 확장함으로써 Arista는 호스트와 네트워크 간의 성능 문제 또는 오류를 지속적으로 추적하고 보고하여 신속한 격리를 지원하고 영향을 최소화합니다. EOS 기반 네트워크 스위치는 정확한 네트워크 토폴로지에 대한 지속적인 인식을 유지하고, 원격 AI 에이전트를 통해 EOS를 SuperNIC 및 서버로 확장하면 AI 데이터 센터의 모든 요소에 걸쳐 엔드투엔드 QoS의 조정된 최적화가 향상되어 궁극적으로 작업 완료 시간이 단축됩니다. .
Arista Networks의 다음 단계
Arista Networks는 10월 5일 NYSE에서 열리는 Arista IPO 2024주년 기념 행사에서 AI 에이전트 기술을 선보일 예정이며, 고객 시험은 XNUMX년 하반기에 시작될 것으로 예상됩니다. 이 시연은 상호 운용 가능한 다중 공급업체 달성을 향한 중요한 단계를 나타냅니다. AI 네트워킹과 AI 컴퓨팅 인프라 간의 원활한 제어 및 조정을 지원하여 증가하는 AI 및 LLM 워크로드 수요를 해결하는 에코시스템입니다.
아마존