출시 전에 AI/ML 애플리케이션을 테스트할 플랫폼을 찾고 있지만 중복 환경에 액세스할 수 없습니까? 새로운 AI 워크로드를 구축하고 테스트할 수 있는 능력을 갖추면 시간, 비용 및 골칫거리를 줄일 수 있습니다. NVIDIA는 개발 문제에 대한 해결책이 될 수 있는 해답을 가지고 있습니다. 그리고 그것은 무료입니다! NVIDIA LaunchPad를 환영합니다.
엔비디아 런치패드를 소개합니다!
NVIDIA는 최근 LaunchPad를 발표했습니다. LaunchPad는 기업 사용자가 vSphere 7 환경에서 NVIDIA AI Enterprise 서버를 2~4주 동안 무료로 체험해 볼 수 있는 환경입니다. 기업은 NVIDIA 환경에 배포를 고려 중인 워크로드를 가지고 이 서비스를 활용할 수 있을 뿐만 아니라, NVIDIA가 제공하는 랩 환경을 통해 IT 전문가들이 NVIDIA 지원 서버 사용에 익숙해질 수도 있습니다. LaunchPad의 탄생 배경과 내부 운영 방식에 대해 브라이언 비엘러가 NVIDIA의 루크 위그널과 나눈 대화가 담긴 팟캐스트도 참고해 보세요 .
NVIDIA AI LaunchPad는 Equinix 시설 에서 호스팅됩니다 . 이 플랫폼을 통해 기업은 DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command 및 NVIDIA NGC의 사전 학습된 모델을 사용하여 복잡한 AI 모델 개발 속도를 높일 수 있습니다. 또한 네트워크에 분산된 NVIDIA 인증 서버에서 주류 AI를 확장할 수 있도록 지원합니다. 이러한 업계 표준 서버는 VMware vSphere에서 NVIDIA AI Enterprise 소프트웨어 제품군을 실행하여 최신 하이브리드 클라우드 환경에서 AI 워크로드를 확장하는 데 이상적입니다 .
NVIDIA LaunchPad 액세스
프로필 양식을 작성하면 사용자에게 자세한 개요 화면이 표시됩니다. 프로세스는 간단하며 AI 소프트웨어 및 인프라에 액세스하기 위한 환경 설정에 대한 지침을 제공합니다. NVIDIA LaunchPad의 목표는 애플리케이션 개발 및 배포 속도를 높이는 것입니다.
NVIDIA는 일부 회사에서 더 많은 AI를 사용하지 않고 있다고 생각합니다. 이는 AI가 실행될 수 있는 환경을 설정하는 복잡성에 대한 근거 없는 두려움입니다. 이를 염두에 두고 NVIDIA는 두 명의 다른 AI 전문가를 염두에 두고 이러한 두려움을 해결하도록 설계된 랩을 만들었습니다. AI 환경과 이를 사용해야 하는 AI 실무자를 일어서서 지원해야 하는 IT 관리자 및 관리자. 이 서비스를 제공하면 해당 AI 애플리케이션을 실행하기 위한 특정 인프라 구축에 IT 예산을 투자하기 전에 AI 지원 및 사용에 대한 확신을 구축하는 데 도움이 됩니다. 또한 친숙한 도구를 사용하여 이 환경에 AI 워크로드를 배포하면 개발자가 NVIDIA GPU로 AI 프로젝트의 가치를 실현할 수 있습니다.
NVIDIA LaunchPad 작업 흐름
AI, ML 및 고성능 컴퓨팅을 위한 GPU 최적화 소프트웨어 허브
NGC 카탈로그는 GPU 최적화 AI, 고성능 컴퓨팅(HPC) 및 종단 간 워크플로우를 단순화하고 가속화하는 데이터 분석 소프트웨어의 허브입니다. 온프레미스, 클라우드 또는 에지에 배포할 수 있는 엔터프라이즈급 컨테이너, 사전 훈련된 AI 모델 및 산업별 SDK를 통해 기업은 솔루션을 빠르고 자신 있게 빌드하고 제공할 수 있습니다.
현재 시스템에는 NVIDIA A30 또는 T4 GPU가 탑재될 수 있지만, 새로운 그래픽 카드가 출시됨에 따라 변경될 수 있습니다. 하드웨어와 관계없이 모든 시스템은 NVIDIA AI Enterprise를 사용하며, NVIDIA는 이를 다음과 같이 설명합니다.
" NVIDIA가 최적화, 인증 및 지원하는 엔드투엔드 클라우드 네이티브 AI 및 데이터 분석 소프트웨어 제품군으로, NVIDIA 인증 시스템을 사용하는 VMware vSphere에서 실행됩니다. 최신 하이브리드 클라우드 환경에서 AI 워크로드를 신속하게 배포, 관리 및 확장할 수 있도록 NVIDIA의 핵심 지원 기술이 포함되어 있습니다 ."
실습에는 NVIDIA에서 제공하는 URL에서 vSphere 클라이언트에 액세스할 수 있도록 vSphere가 사전 설치되어 있습니다.
IT 관리자에게는 GPU를 사용하도록 VM을 구성하는 것과 관련된 단계를 안내하는 랩이 있습니다. AI 실무자는 AI 연구원, 데이터 과학자 및 개발자가 AI 및 기계 학습 애플리케이션을 만드는 데 사용하는 애플리케이션, 프레임워크 및 도구가 포함된 NVIDIA AI Enterprise 제품군에 구축된 랩에 액세스할 수 있습니다.
NVIDIA AI Enterprise LaunchPad 과정 중 하나에서는 NVIDIA RAPIDS 와 뉴욕시 택시 데이터셋을 사용하여 맨해튼의 택시 요금을 예측하는 Jupyter 랩 노트북을 단계별로 안내합니다. 데이터셋에는 승차 지점, 하차 지점, 요금, 승객 수와 같은 열이 포함되어 있습니다. 이 랩에서는 해당 데이터를 사용하여 GPU에서 XGBoost 모델을 학습시킵니다. NVIDIA에서 제공하는 랩은 30분에서 몇 시간까지 소요될 수 있습니다. NVIDIA는 각 랩에 적합한 환경을 제공합니다.
NVIDIA 랩 환경과 별개로 작동하는 AI 모델을 설정하는 기능이 있습니다. 완전한 AI LaunchPad 환경을 신청하는 것은 랩을 요청하는 것과 유사합니다.
NVIDIA LaunchPad에 로그인하면 Ubuntu VM 생성, NVIDIA GPU 연결, NVIDIA 드라이버 획득 및 OS에 추가, NVIDIA API 키 및 소프트웨어 획득, 라이선스 부여를 통해 VM 설정에 대한 자세한 지침이 있습니다. GPU를 사용하는 VM. AI 소프트웨어는 컨테이너 기반이므로 랩에는 Docker, NVIDIA 컨테이너 도구 키트, Tensor 흐름 설치 및 AI 예제 실행이 포함됩니다. 자체 AI 프로젝트를 구축하고 배포할 수 있는 종합 작업 환경입니다.
단계별 접근
가상 머신 구성은 문서화가 잘 되어 있으며, 입력 화면에는 필요한 도움말이 제공됩니다. NVIDIA는 VMware와 협력하여 필요한 구성을 구현하고 적절한 도구를 설치하여 최소한의 부담으로 개념 증명 환경을 구축하고 실행할 수 있는 간단한 인터페이스를 개발했습니다. 이 점도 분명히 해두겠습니다. 이러한 가상 머신은 매우 우수한 사양을 갖추고 있습니다. 저희 환경에서는 NVIDIA A30 그래픽 카드와 충분한 DRAM 및 코어를 탑재한 Dell PowerEdge R750 서버를 사용했습니다.
가입 요청이 승인되면 NVIDIA는 사용자 이름과 임시 비밀번호가 포함된 URL을 전송합니다. 앞서 언급했듯이 저희 환경은 A30 GPU가 장착된 Dell NVIDIA 인증 시스템 이었습니다 . 하지만 사용자의 요구에 맞춰 환경을 맞춤 설정할 수 있는 다양한 구성 옵션이 제공됩니다.
변경이 필요하십니까? NVIDIA LaunchPad는 도중에 변경이 필요한 경우 사용자가 뒤로 물러날 수 있도록 설계되었습니다. 자세한 지침과 함께 메뉴에 항상 액세스할 수 있습니다.
VM은 구성 프로세스 중에 입력된 하드웨어 및 소프트웨어 요구 사항을 기반으로 생성됩니다.
Docker 컨테이너 설치 및 NVIDIA GPU 구성용 Docker 유틸리티 엔진 실행 후 마지막 단계는 AI 및 데이터 과학 애플리케이션 및 프레임워크를 설치하는 것입니다.
vSphere 화면과 VM 콘솔 간 이동도 원활하며 기본 메뉴에서 액세스할 수 있습니다. 일부 권장 브라우저는 다른 브라우저보다 더 잘 작동하는 것 같습니다. Safari는 약간의 속쓰림을 유발할 수 있지만 이를 해결할 수 있는 방법이 있습니다.
마지막으로 AI 애플리케이션 및 추가 VM 구성을 설치하면 프로세스가 완료됩니다. 문제가 발생하면 NVIDIA는 매우 신속하게 대응합니다. 사실, 우리는 스스로 자초한 문제에 부딪혔고 도움이 필요했습니다. 가동 중지 시간이 거의 없이 다시 작업에 돌입했습니다. 공정하게 말하면 우리는 LaunchPad를 평가하는 미디어 조직이지만 NVIDIA는 LaunchPad를 테스트하는 모든 사람이 생산적인 시간을 가질 수 있도록 하려는 동기가 매우 높습니다.
최종 생각
NVIDIA LaunchPad는 매우 사용하기 쉬운 강력한 개념 증명 도구입니다. 결국 NVIDIA, VMware 및 Equinix 간의 협업은 NVIDIA의 가장 인기 있는 일부 GPU에 대해 실제 AI 및 ML 애플리케이션을 테스트하기 위한 강력한 환경을 제공합니다.
게다가 NVIDIA는 협업이 필요한 두 가지 핵심 인물인 IT 관리자와 데이터 과학자/AI 실무자를 위해 이 작업을 잘 수행했습니다. 이러한 최신 AI 워크로드는 종종 기존 IT 스택에 스트레스를 유발합니다. 워크로드는 복잡하고 값비싼 하드웨어에서 실행되며 IT 부서의 지원 문제를 야기합니다. LaunchPad를 vSphere의 잘 알려진 범위에 넣으면 IT의 일반적인 문제가 많이 사라집니다. 반면에 AI 실무자는 강력한 GPU 및 부팅할 컴퓨팅 환경과 함께 필요한 모든 도구를 얻습니다. 완료되면 조직에서 작업을 수행하려는 경우 VM을 쉽게 이동할 수 있습니다.
VMware Hands-on-Labs 및 VMware TestDrive를 떠올리게 할 뿐만 아니라 자체 AI 프로젝트로 작업할 수 있는 추가 이점을 제공하는 NVIDIA의 이 무료 제품에 대해 기쁘게 생각합니다. NVIDIA LaunchPad를 사용하는 동안 열악한 환경을 우발적으로 제거했을 때 문서가 매우 심도 있고 지원이 훌륭하다는 것을 알았습니다. LaunchPad에서 최대 XNUMX주 동안 플레이할 수 있으므로 AI 성장에 대해 진지한 조직은 즉시 이를 확인해야 합니다.
NVIDIA AI Enterprise 에 대한 자세한 내용은 여기를 클릭하십시오. NVIDIA LaunchPad 에 대한 자세한 내용은 여기를 클릭하십시오 . NVIDIA LaunchPad 시작 방법에 대해서는 NVIDIA 영업 담당자에게 문의하십시오.
NVIDIA LaunchPad 팟캐스트를 청취하여 더 많은 것을 배우세요.
아마존