正在尋找一個平台在發布前測試您的 AI/ML 應用程序，但無法訪問該冗餘環境？ 能夠構建和測試新的 AI 工作負載可以節省時間、金錢和麻煩。 NVIDIA 有一個答案，可能會解決您的開發問題。 而且是免費的！ 歡迎使用 NVIDIA LaunchPad。
隆重推出 NVIDIA LaunchPad！
NVIDIA 最近發布了 LaunchPad——一個企業用戶可免費體驗 NVIDIA AI Enterprise 伺服器的 vSphere 7 環境，為期 2-4 週。企業用戶完全可以將此服務用於正在考慮部署到 NVIDIA 環境中的工作負載，同時也可以透過 NVIDIA 建立的實驗室環境，幫助 IT 專業人員熟悉 NVIDIA 伺服器的使用。此外，我們還提供一期播客節目，Brian Beeler 在節目中與 NVIDIA 的 Luke Wignall 探討了LaunchPad 的誕生歷程及其內部運作機制。
NVIDIA AI LaunchPad 託管於Equinix 資料中心。該平台支援企業利用 DGX SuperPOD、NVIDIA Base Command、 NVIDIA Fleet Command以及 NVIDIA NGC 的預訓練模型，加速開發複雜的 AI 模型。它還支援在網路中分佈的 NVIDIA 認證伺服器上擴展主流 AI 應用。這些符合業界標準的伺服器非常適合在 VMware vSphere 上執行NVIDIA AI 企業版軟體套件，從而在現代混合雲環境中擴展 AI 工作負載。
訪問 NVIDIA LaunchPad
完成配置文件表單後，用戶會看到一個詳細的概覽屏幕。 該過程非常簡單，提供有關設置環境以訪問 AI 軟件和基礎設施的說明。 NVIDIA LaunchPad 的目標是加速應用程序開發和部署。
NVIDIA 認為一些公司沒有使用更多 AI 是對設置 AI 可以運行的環境的複雜性的無端恐懼。 考慮到這一點，NVIDIA 創建了實驗室，旨在解決這些恐懼，同時考慮到兩個不同的 AI 專業人員； 需要站出來支持 AI 環境的 IT 管理員和經理，以及需要使用它們的 AI 從業者。 提供這項服務將有助於在投資 IT 預算構建特定基礎架構來運行這些 AI 應用程序之前，建立支持和使用 AI 的信心。 此外，使用熟悉的工具在此環境中部署 AI 工作負載，使開發人員能夠使用 NVIDIA GPU 實現其 AI 項目的價值。
NVIDIA LaunchPad 工作流程
用於人工智能、機器學習和高性能計算的 GPU 優化軟件中心
NGC 目錄是 GPU 優化的人工智能、高性能計算 (HPC) 和數據分析軟件的中心，可簡化和加速端到端工作流程。 借助可在本地、雲端或邊緣部署的企業級容器、預訓練的 AI 模型和行業特定的 SDK，企業可以自信地快速構建和交付解決方案。
目前這些系統可能配備 NVIDIA A30 或 T4 GPU，但隨著新顯示卡的發布，配置可能會有所變更。無論硬體配置如何，所有系統都使用NVIDIA AI Enterprise， NVIDIA 將其描述為：
「這是一套端到端的雲端原生人工智慧和數據分析軟體套件，經 NVIDIA 優化、認證和支持，可在 VMware vSphere 和 NVIDIA 認證系統上運行。它包含 NVIDIA 的關鍵賦能技術，可在現代混合雲中快速部署、管理和擴展人工智慧工作負載。」
實驗室預裝了 vSphere，可以從 NVIDIA 提供的 URL 訪問 vSphere 客戶端。
IT 管理員擁有實驗室，可以引導他們完成配置 VM 以使用 GPU 所涉及的步驟。 AI 從業者可以訪問基於 NVIDIA AI Enterprise 套件構建的實驗室，其中包括 AI 研究人員、數據科學家和開發人員用於創建其 AI 和機器學習應用程序的應用程序、框架和工具。
NVIDIA AI 企業啟動平台 (LaunchPad) 的一項課程將引導您使用 Jupyter 實驗筆記本，利用NVIDIA RAPIDS和紐約市計程車資料集來預測曼哈頓的乘車費用。此資料集包含上車點、下車點、車費金額和乘客人數等列。本實驗中的資料用於在 GPU 上訓練 XGBoost 模型。 NVIDIA 提供的實驗耗時從 30 分鐘到數小時不等。 NVIDIA 將為每個實驗提供相應的環境。
獨立於 NVIDIA 實驗室環境的是建立工作 AI 模型的能力。 申請完整的 AI LaunchPad 環境類似於申請實驗室。
一旦登錄到 NVIDIA LaunchPad，就會有詳細的說明，用於通過創建 Ubuntu VM 來設置 VM、將 NVIDIA GPU 關聯到它、獲取 NVIDIA 驅動程序並將其添加到操作系統、獲取 NVIDIA API 密鑰和軟件以及許可VM 使用 GPU。 由於 AI 軟件是基於容器的，因此該實驗室包括安裝 Docker、NVIDIA 容器工具包、Tensor Flow 和運行 AI 示例。 這是一個完整的工作環境，允許您構建和部署自己的 AI 項目。
循序漸進的方法
虛擬機器配置文件齊全，輸入介面也提供了必要的協助資訊。 NVIDIA 與 VMware 合作，創建了一個簡潔易用的介面，方便使用者完成所需的配置並安裝相應的工具，從而以最小的壓力快速建立並運行概念驗證環境。此外，我們還要明確一點：這些機器配置非常精良。我們的環境使用了一台戴爾 PowerEdge R750 伺服器，配備 NVIDIA A30 顯示卡以及充足的記憶體和核心數。
註冊申請獲準後，NVIDIA 會傳送一個包含使用者名稱和臨時密碼的 URL。如前所述，我們的環境是戴爾NVIDIA 認證系統，配備 A30 GPU。不過，使用者可以根據自身需求進行特定配置，從而客製化體驗。
需要做出改變嗎？ NVIDIA LaunchPad 的設計允許用戶在過程中需要更改時退後一步。 始終可以通過詳細說明訪問菜單。
VM是根據配置過程中輸入的硬件和軟件要求創建的。
在安裝 Docker 容器並運行用於 NVIDIA GPU 配置的 Docker Utility Engine 之後，最後一步是安裝 AI 和數據科學應用程序和框架。
在 vSphere 屏幕和 VM 控制台之間移動也是無縫的，可以從主菜單訪問。 一些推薦的瀏覽器似乎比其他瀏覽器更好用。 Safari 可能會讓您感到胃灼熱，但有一些方法可以解決這些問題。
最後，安裝 AI 應用程序和進一步的 VM 配置完成該過程。 如果您遇到問題，NVIDIA 會非常及時地響應。 事實上，我們遇到了一些自找的問題，需要幫助。 我們恢復了行動，幾乎沒有停機時間。 公平地說，我們是一家評估 LaunchPad 的媒體組織，但 NVIDIA 非常積極地確保每個測試 LaunchPad 的人都有一個富有成效的時間。
最後的思考
NVIDIA LaunchPad 是一款強大的概念驗證工具，非常易於使用。 最後，NVIDIA、VMware 和 Equinix 之間的協作提供了一個強大的環境，用於針對 NVIDIA 一些最流行的 GPU 測試真實的 AI 和 ML 應用程序。
更好的是，NVIDIA 已經為需要協作的兩個關鍵角色（IT 管理員和數據科學家/AI 從業者）做好了這項工作。 因此，這些現代 AI 工作負載通常會對傳統 IT 堆棧造成壓力。 工作負載很複雜，運行在昂貴的硬件上，給 IT 帶來了令人頭疼的支持問題。 通過將 LaunchPad 置於易於理解的 vSphere 範圍內，許多 IT 的典型擔憂就會消失。 另一方面，人工智能從業者獲得了他們需要的所有工具，以及強大的 GPU 和計算環境。 完成後，如果組織希望隨身攜帶 VM，則 VM 很容易攜帶。
我們對 NVIDIA 的這一免費產品感到興奮，因為它讓我們想起了 VMware 動手實驗室和 VMware TestDrive，以及允許您在其上處理自己的 AI 項目的額外好處。 在我們使用 NVIDIA LaunchPad 期間，我們發現文檔非常深入，並且當我們不小心消除了我們糟糕的環境時，支持也非常出色。 在 LaunchPad 上有長達 XNUMX 週的時間，認真對待提升 AI 技能的組織肯定需要立即檢查一下。
如需了解更多關於NVIDIA AI Enterprise 的信息，請點擊此處。如需了解更多關於NVIDIA LaunchPad 的信息，請點擊此處。請聯絡您的 NVIDIA 銷售代表，以了解如何開始使用 NVIDIA LaunchPad。
收聽我們的 NVIDIA LaunchPad Podcast，以了解更多資訊。
Amazon