NVIDIA의 새로운 L675S GPU로 구동되는 Lenovo ThinkSystem SR3 V40 서버는 로스앤젤레스에서 열린 SIGGRAPH에서 무대에 올랐으며, 글로벌 AI 롤아웃을 발전시키고 지능형 챗봇, 검색 및 요약 도구와 같은 생성 AI 애플리케이션을 도입하려는 NVIDIA의 계획의 중심이 되었습니다. 다양한 산업 분야의 사용자.
새로운 ThinkSystem은 NVIDIA OVX 서버로 선보였으며 곧 발표된 NVIDIA L40S GPU를 통합할 예정입니다. 이 협업은 AI 구현을 혁신하여 차세대 AI, 몰입형 메타버스 시뮬레이션 및 대규모 인지 결정을 가능하게 할 것으로 기대됩니다.
엔비디아 L40S GPU
새로 공개된 NVIDIA L40S GPU는 NVIDIA Omniverse 플랫폼을 통해 AI 교육 및 추론, 3D 설계 및 시각화, 비디오 처리, 산업 디지털화를 비롯한 컴퓨팅 집약적인 애플리케이션을 가속화하기 위해 특별히 제작된 강력한 범용 데이터 센터 프로세서입니다. 대규모 언어 모델(LLM) 추론 및 재훈련, 그래픽 및 비디오 애플리케이션을 위한 획기적인 다중 워크로드 가속화를 자랑합니다.
L40S GPU는 차세대 AI 지원 오디오, 음성, 2D, 비디오 및 3D 애플리케이션을 지원하며 곧 출시될 NVIDIA Omniverse OVX 3.0 플랫폼의 중요한 구성 요소로서 높은 충실도와 정확한 디지털 트윈을 제공합니다.
NVIDIA L40S GPU는 NVIDIA OVX 시스템의 핵심 자산이 될 것입니다. NVIDIA Ada Lovelace GPU 아키텍처와 넉넉한 48GB 메모리로 구동되는 각 서버는 최대 40개의 L8S GPU를 수용할 수 있습니다. 또한 1.45세대 텐서 코어와 FPXNUMX 트랜스포머 엔진을 자랑하며 놀라운 XNUMX페타플롭스의 텐서 처리 능력을 제공합니다.
이전 모델인 NVIDIA A100 Tensor Core GPU와 비교할 때 L40S는 수십억 개의 매개변수와 여러 데이터 양식이 포함된 복잡한 AI 워크로드를 처리하기 위해 생성 AI 추론 성능이 최대 1.2배, 훈련 성능이 최대 1.7배 더 빠릅니다.
L40S GPU는 다양한 전문 워크플로우에 적합하도록 설계되었습니다. 여기에는 142개의 212세대 RT 코어가 포함되어 있어 3테라플롭의 레이 트레이싱 성능을 제공하며 실시간 렌더링, 제품 디자인 및 XNUMXD 콘텐츠 생성과 같은 고충실도 전문 시각화 워크플로우에 이상적입니다.
또한 L40S의 18,176 CUDA 코어는 NVIDIA A5 GPU의 단정밀도 부동 소수점(FP32) 성능의 거의 100배를 제공하여 엔지니어링 및 과학 시뮬레이션에 대한 컴퓨팅 요구 사항을 가속화된 효율성으로 충족합니다.
ThinkSystem SR675 V3 구성
Lenovo는 새로운 GPU에 최적화된 새로운 서버 라인업으로 L40S를 지원할 수 있는 전략적 위치에 있습니다. 완벽하게 시뮬레이션된 디지털 트윈을 제너레이티브 AI와 결합함으로써 Lenovo는 비즈니스 프로세스 및 설계 결과를 개선하는 것을 목표로 합니다. NVIDIA OVX 시스템에서 Lenovo와 NVIDIA 간의 협력은 가상 세계의 구축 및 운영을 용이하게 하여 시스템의 기능을 제너레이티브 AI로 확장하고 AI 워크로드가 있는 데이터 센터에 강력한 성능을 제공합니다.
ThinkSystem SR675 V3는 NVLink 및 Lenovo Neptune 하이브리드 액체 냉각을 사용하는 NVIDIA HGX A100 4-GPU 시스템을 지원하는 세 가지 서버 구성을 하나로 제공합니다. 또한 4U 공간에서 NVIDIA L8S, NVIDIA H40 100GB 또는 NVIDIA H80 NVL 서버를 특징으로 하는 100개 또는 3개의 GPU 구성과 호환됩니다.
Lenovo는 이러한 개발을 AI 롤아웃을 단순화하고 모든 규모의 조직이 액세스할 수 있게 하며 모든 산업 분야에서 혁신적인 인텔리전스를 추진하는 데 있어 중요한 도약으로 보고 있습니다.
ThinkSystem SR675 V3 구성: 기본, 고밀도 및 HGX 모듈
AI/HPC 서버 구성 영역에서 서로 다른 구성의 장단점과 이점을 이해하는 것은 최적화 및 특정 워크로드 요구 사항에 매우 중요합니다. Lenovo ThinkSystem SR675 V3는 각각 특정 요구 사항에 맞게 설계된 Base, Dense 및 HGX 모듈 구성으로 유연성을 제공합니다.
기본 모듈
기본 모듈 구성은 GPU 지원과 스토리지 기능의 균형 잡힌 조합을 원하는 조직에 적합합니다. 최대 4개의 이중 너비, 전체 높이, 전체 길이를 수용할 수 있습니다. PCIe Gen5 x16 연결을 활용하는 FHFL GPU. 이는 AI 및 딥 러닝 워크로드를 위한 적절한 병렬 처리 기능을 제공합니다.
저장소 측면에서 기본 모듈은 최대 8개의 2.5" 핫스왑 SAS/SATA/NVMe 드라이브를 지원하여 저장소 볼륨과 속도 간의 균형을 제공합니다.
고밀도 모듈
병렬 GPU 처리를 우선시하는 조직의 경우 Dense Module은 최대 8개의 이중 너비, 전체 높이, 전체 길이 GPU를 지원할 수 있습니다. 각 GPU는 PCIe 스위치에서 PCIe Gen5 x16을 사용하므로 향상된 병렬 처리를 위해 단일 서버의 GPU 수를 최대화합니다.
스토리지와 관련하여 Dense Module은 다목적입니다. 최대 6개의 EDSFF E1.S NVMe SSD 또는 최대 4개의 EDSFF E3.S 1T NVMe HS SSD를 지원합니다. 이 구성은 집약적인 데이터 처리 작업에 더 많은 GPU가 필요하지만 일부 스토리지 유연성이 필요한 시나리오에 이상적입니다.
HGX 모듈
HGX 모듈 구성은 특수 GPU 요구 사항이 있는 고성능 요구 사항을 대상으로 합니다. 100개의 NVLink 연결 SXM4 GPU와 함께 NVIDIA HGX H5을 활용합니다. 이러한 SXM5 GPU는 섀시에 들어갈 수 있는 전체 수를 제한할 수 있지만 뛰어난 칩 성능을 제공하므로 까다로운 AI 및 딥 러닝 작업에 이상적입니다.
스토리지 측면에서 HGX 모듈은 속도에 최적화되어 있습니다. 최대 4개의 2.5" 핫스왑 NVMe SSD 또는 최대 4개의 EDSFF E3.S 1T NVMe HS SSD를 수용할 수 있습니다.
생각을 폐쇄
ThinkSystem SR675 V3의 각 모듈 구성에는 고유한 강점이 있습니다. HGX 모듈의 SXM5 GPU는 비교할 수 없는 성능을 제공하지만 더 많은 병렬 처리가 필요한 조직은 더 많은 PCIe GPU에 맞도록 Dense 모듈을 선택할 수 있습니다. 그러나 이것은 TDP 손실과 잠재적인 성능 저하를 초래합니다. 기본 모듈은 GPU 지원과 스토리지 옵션의 균형을 제공하는 중간 지점을 제공합니다. 항상 그렇듯이 최선의 선택은 당면한 작업의 특정 요구 사항과 제약 조건에 따라 다르며 이러한 구성 중 어떤 것도 우리 연구실에서 제외하지 않을 것입니다.
아마존