오라클은 라스베이거스에서 열린 오라클 AI 월드에서 오라클 클라우드 인프라(OCI)용 전용 패브릭, 멀티플래너 네트워킹, SmartNIC 및 직접 데이터 경로를 처음으로 통합한 네트워킹 제품군인 오라클 액셀러론의 두 번째 확장 기능을 발표했습니다. 새로운 기능에는 OCI의 공유 프런트엔드 네트워크에서 사용되는 RDMA, 액셀러론 베어메탈 및 VM 형태 전반에 걸친 NVMe 블록 스토리지 연결(오라클은 이를 통해 블록 성능이 최대 3배 향상되었다고 평가함), 장애 조치 및 로드 밸런싱을 NCCL 및 RCCL 계층으로 이동시키는 통합 통신 플러그인, 그리고 프런트엔드 트래픽까지 확장된 멀티플래너 네트워킹이 포함됩니다.
오라클 클라우드 인프라스트럭처의 컴퓨팅 및 AI 인프라 담당 부사장인 프라딥 빈센트는 “AI 인프라는 네트워크 마찰에 매우 취약합니다.”라고 말했습니다. “수천 개의 액셀러레이터가 함께 작동하는 상황에서 하나의 경로가 혼잡해지거나 오류가 발생하면 그 영향은 단일 연결을 훨씬 넘어 훨씬 더 광범위해질 수 있습니다. 오라클 액셀러론을 통해 우리는 트래픽을 재라우팅하고, 장애로부터 복구하며, 고객이 안전하게 확장할 수 있도록 지원하는 네트워크를 구축하고 있습니다.”
프런트엔드 RDMA 및 3배 향상된 NVMe 블록 스토리지 성능 주장
OCI의 프런트엔드 네트워크는 Oracle Database, 고객 컴퓨팅, 블록 및 객체 스토리지, SaaS 및 OCI 서비스, 백본 링크, 인터넷 액세스, 온프레미스 연결을 동일한 패브릭에서 제공합니다. 이러한 이유로 RDMA는 기존에는 전용 백엔드 클러스터 네트워크에만 사용되었습니다. Oracle Acceleron 고성능 패브릭은 추론, 스토리지 및 HPC 트래픽을 위해 RDMA를 공유 프런트엔드에 배치하며, Oracle은 모든 큐 페어 유형과 동사를 지원하므로 기존 RDMA 애플리케이션을 변경 없이 실행할 수 있다고 밝혔습니다. 또한 Oracle은 프런트엔드 링크를 사용하여 별도의 GPU 클러스터를 연결하고, 백엔드 패브릭은 각 클러스터 내부의 학습을 처리합니다.
스토리지 부분은 새로운 Acceleron 베어메탈 및 VM 폼팩터 전반에 걸쳐 확장된 NVMe 블록 스토리지 연결 옵션으로, 오라클은 이를 통해 AI, 데이터베이스 및 기타 데이터 집약적인 워크로드에서 NVMe 블록 스토리지 성능이 최대 3배까지 향상된다고 밝혔습니다. 오라클은 기준 구성, 워크로드, 그리고 해당 수치가 처리량, IOPS 또는 지연 시간을 나타내는지 여부를 공개하지 않았으며, 당사도 해당 테스트를 실행하거나 검증하지 않았습니다. 이번 발표에는 오라클의 표준 미래 제품 고지 사항이 포함되어 있으며, 새로운 기능에 대한 출시 예정일은 명시되어 있지 않습니다.
RDMA와 TCP가 프런트 엔드를 공유하는 것은 혼잡 제어 문제를 야기합니다. RDMA 전송은 일반적으로 속도 기반 제어를 사용하고 TCP는 윈도우 기반 제어를 사용하기 때문에 한쪽 루프가 다른 쪽 루프의 대역폭을 고갈시킬 수 있기 때문입니다. 오라클의 해결책은 Acceleron SmartNIC에 있습니다. 계층적 토큰 버킷은 공유되는 상위 버킷 아래에서 RDMA 및 비RDMA 클래스의 대역폭을 추적합니다. 토큰이 부족해지면 NIC는 확률적으로 ECN 지원 패킷을 표시하거나 나머지를 드롭합니다. 이는 점진적인 혼잡 신호를 생성하고 랙 상단 링크에서의 인캐스트를 차단합니다. 각 클래스는 상대방의 사용되지 않는 대역폭을 빌려 쓸 수 있습니다.
패브릭 내부 혼잡 발생 시, SmartNIC는 단방향 지연 혼잡 제어(One-Way-Delay Congestion Control)를 실행하여 순방향 경로 지연을 측정함으로써 역방향 경로 혼잡으로 인한 오경보를 방지합니다. 흐름에서 지연이 증가하면 세 가지 대체 경로를 탐색하고, 더 나은 경로가 있으면 해당 흐름을 이동시키고, 그렇지 않으면 ECN 마킹을 수행하거나 흐름을 드롭합니다. 오라클은 이러한 설계가 스위치에서 최소한의 QoS 지원만 필요로 하면서 호스트에서는 표준 커널 및 CPU 바이패스를 유지할 수 있다고 설명합니다.
| 능력 | 오라클이 밝힌 자사 제품의 기능 |
|---|---|
| 오라클 액셀러론 고성능 패브릭 | OCI 프런트엔드 컴퓨팅에서 추론, 스토리지 및 HPC 워크로드를 위한 RDMA를 지원하며, 모든 큐 쌍 유형과 동사를 사용할 수 있습니다. |
| 확장된 NVMe 블록 스토리지 연결 | Acceleron 베어메탈 및 VM 형태 전반에 걸쳐 NVMe 블록 스토리지를 제공하며, 블록 스토리지 성능이 최대 3배 향상되었습니다(제조사 제공 수치). |
| Oracle Collective Communications Library 플러그인 | NCCL 및 RCCL 네트워크 플러그인은 백엔드 멀티플래너 네트워크 전체에 트래픽을 분산시키고, 혼잡도에 따라 로드 밸런싱을 수행하며, 작동하지 않는 포트 및 NIC를 우회하여 장애 조치를 수행합니다. |
| 투명 프런트엔드 멀티플래너 네트워킹 | 프런트엔드 RDMA 트래픽에 대한 경로 선택, 페일오버 및 혼잡 제어는 SmartNIC에서 처리됩니다. |
OCCL은 장애 조치를 콜렉티브 레이어로 이동시켰습니다.
OCI의 백엔드 멀티플래너 네트워크는 멀티포트 NIC를 여러 개의 분리된 패브릭에 연결하여 트레이닝 작업에 n방향 이중화를 제공하지만, 이러한 플레인을 사용하려면 항상 사용 가능한 것은 아닌 NIC 수준의 기능이 필요했습니다. Oracle Collective Communications Library(CCL) 플러그인은 이러한 종속성을 제거합니다. 이 플러그인은 NVIDIA NCCL 및 AMD RCCL 플러그인 인터페이스를 기본적으로 지원하는 CCL 네트워크 플러그인으로, 집합 연산을 NIC 전송으로 변환하는 데 사용되는 계층 프레임워크를 지원합니다. 또한 NIC 펌웨어 및 토폴로지와 관계없이 플러그인 내부에 장애 조치, 복구 및 혼잡 인식 로드 밸런싱 기능을 제공합니다.
OCCL은 작동 시 여러 표준 Reliable Connection 큐 쌍에 걸쳐 집합 트래픽을 분산하고, 처리량이 높은 쌍을 통해 더 많은 트래픽을 전송하며, 메시지 및 청크 수준에서 혼잡한 경로에서 트래픽을 이동시킵니다. 포트 또는 전체 NIC에 장애가 발생하면 집합 트래픽을 다른 포트 또는 NIC로 전환하여 재시작 없이 작업이 계속되도록 합니다. 오라클은 이러한 방식이 패브릭 경로를 선택하고 변경 사항을 감시하는 라우팅 컨트롤러보다 간단하며, 단일 평면 및 다중 평면 네트워크 모두에서 작동한다고 설명합니다. 동일한 다중 평면 경로 선택 및 장애 조치 기능은 오라클이 투명 프런트엔드 다중 평면 네트워킹(Transparent Front-End Multiplanar Networking)이라고 부르는 기술을 통해 프런트엔드 RDMA 트래픽에도 적용됩니다.
이번 네트워킹 업데이트에는 Acceleron 외에도 두 가지 항목이 포함되었습니다. OCI Global CDN Connect는 지원되는 지역에서 적격 캐시 가져오기에 대해 OCI 송신 요금이 부과되지 않고 OCI Object Storage와 Cloudflare, Fastly, Netskrt 및 Mainstreaming 간의 직접 연결을 제공합니다. 또한 Oracle은 F5와 OCI App Defense 웹 애플리케이션 및 API 보호 서비스 개발을 위한 구속력 없는 양해각서를 체결했습니다.
아마존