正在寻找一个平台在发布前测试您的 AI/ML 应用程序,但无法访问该冗余环境? 能够构建和测试新的 AI 工作负载可以节省时间、金钱和麻烦。 NVIDIA 有一个答案,可能会解决您的开发问题。 而且是免费的! 欢迎使用 NVIDIA LaunchPad。
隆重推出 NVIDIA LaunchPad!
NVIDIA 近期发布了 LaunchPad——一个企业用户可免费体验 NVIDIA AI Enterprise 服务器的 vSphere 7 环境,为期 2-4 周。企业用户完全可以将此服务用于正在考虑部署到 NVIDIA 环境中的工作负载,同时也可以通过 NVIDIA 创建的实验室环境,帮助 IT 专业人员熟悉 NVIDIA 服务器的使用。此外,我们还提供一期播客节目,Brian Beeler 在节目中与 NVIDIA 的 Luke Wignall 探讨了LaunchPad 的诞生历程及其内部运作机制。
NVIDIA AI LaunchPad 托管于Equinix 数据中心。该平台支持企业利用 DGX SuperPOD、NVIDIA Base Command、 NVIDIA Fleet Command以及 NVIDIA NGC 的预训练模型,加速开发复杂的 AI 模型。它还支持在网络中分布的 NVIDIA 认证服务器上扩展主流 AI 应用。这些符合行业标准的服务器非常适合在 VMware vSphere 上运行NVIDIA AI 企业版软件套件,从而在现代混合云环境中扩展 AI 工作负载。
访问 NVIDIA LaunchPad
完成配置文件表单后,用户会看到一个详细的概览屏幕。 该过程非常简单,提供有关设置环境以访问 AI 软件和基础设施的说明。 NVIDIA LaunchPad 的目标是加速应用程序开发和部署。
NVIDIA 认为一些公司没有使用更多 AI 是对设置 AI 可以运行的环境的复杂性的无端恐惧。 考虑到这一点,NVIDIA 创建了实验室,旨在解决这些恐惧,同时考虑到两个不同的 AI 专业人员; 需要站出来支持 AI 环境的 IT 管理员和经理,以及需要使用它们的 AI 从业者。 提供这项服务将有助于在投资 IT 预算构建特定基础架构来运行这些 AI 应用程序之前,建立支持和使用 AI 的信心。 此外,使用熟悉的工具在此环境中部署 AI 工作负载,使开发人员能够使用 NVIDIA GPU 实现其 AI 项目的价值。
NVIDIA LaunchPad 工作流程
用于人工智能、机器学习和高性能计算的 GPU 优化软件中心
NGC 目录是 GPU 优化的人工智能、高性能计算 (HPC) 和数据分析软件的中心,可简化和加速端到端工作流程。 借助可在本地、云端或边缘部署的企业级容器、预训练的 AI 模型和行业特定的 SDK,企业可以自信地快速构建和交付解决方案。
目前这些系统可能配备 NVIDIA A30 或 T4 GPU,但随着新显卡的发布,配置可能会有所变化。无论硬件配置如何,所有系统都使用NVIDIA AI Enterprise, NVIDIA 将其描述为:
“这是一套端到端的云原生人工智能和数据分析软件套件,经 NVIDIA 优化、认证和支持,可在 VMware vSphere 和 NVIDIA 认证系统上运行。它包含 NVIDIA 的关键赋能技术,可在现代混合云中快速部署、管理和扩展人工智能工作负载。”
实验室预装了 vSphere,可以从 NVIDIA 提供的 URL 访问 vSphere 客户端。
IT 管理员拥有实验室,可以引导他们完成配置 VM 以使用 GPU 所涉及的步骤。 AI 从业者可以访问基于 NVIDIA AI Enterprise 套件构建的实验室,其中包括 AI 研究人员、数据科学家和开发人员用于创建其 AI 和机器学习应用程序的应用程序、框架和工具。
NVIDIA AI 企业启动平台 (LaunchPad) 的一项课程将引导您使用 Jupyter 实验笔记本,利用NVIDIA RAPIDS和纽约市出租车数据集来预测曼哈顿的乘车费用。该数据集包含上车点、下车点、车费金额和乘客人数等列。本实验中的数据用于在 GPU 上训练 XGBoost 模型。NVIDIA 提供的实验耗时从 30 分钟到数小时不等。NVIDIA 将为每个实验提供相应的环境。
独立于 NVIDIA 实验室环境的是建立工作 AI 模型的能力。 申请完整的 AI LaunchPad 环境类似于申请实验室。
一旦登录到 NVIDIA LaunchPad,就会有详细的说明,用于通过创建 Ubuntu VM 来设置 VM,将 NVIDIA GPU 关联到它,获取 NVIDIA 驱动程序并将其添加到操作系统,获取 NVIDIA API 密钥和软件,以及许可VM 使用 GPU。 由于 AI 软件是基于容器的,因此该实验室包括安装 Docker、NVIDIA 容器工具包、Tensor Flow 和运行 AI 示例。 这是一个完整的工作环境,允许您构建和部署自己的 AI 项目。
循序渐进的方法
虚拟机配置文档齐全,输入界面也提供了必要的帮助信息。NVIDIA 与 VMware 合作,创建了一个简洁易用的界面,方便用户完成所需的配置并安装相应的工具,从而以最小的压力快速搭建并运行概念验证环境。此外,我们还要明确一点:这些机器配置非常精良。我们的环境使用了一台戴尔 PowerEdge R750 服务器,配备 NVIDIA A30 显卡以及充足的内存和核心数。
注册申请获批后,NVIDIA 会发送一个包含用户名和临时密码的 URL。如前所述,我们的环境是戴尔NVIDIA 认证系统,配备 A30 GPU。不过,用户可以根据自身需求进行特定配置,从而定制体验。
需要做出改变吗? NVIDIA LaunchPad 的设计允许用户在过程中需要更改时退后一步。 始终可以通过详细说明访问菜单。
VM是根据配置过程中输入的硬件和软件要求创建的。
在安装 Docker 容器并运行用于 NVIDIA GPU 配置的 Docker Utility Engine 之后,最后一步是安装 AI 和数据科学应用程序和框架。
在 vSphere 屏幕和 VM 控制台之间移动也是无缝的,可以从主菜单访问。 一些推荐的浏览器似乎比其他浏览器更好用。 Safari 可能会让您感到胃灼热,但有一些方法可以解决这些问题。
最后,安装 AI 应用程序和进一步的 VM 配置完成该过程。 如果您遇到问题,NVIDIA 会非常及时地响应。 事实上,我们遇到了一些自找的问题,需要帮助。 我们恢复了行动,几乎没有停机时间。 公平地说,我们是一家评估 LaunchPad 的媒体组织,但 NVIDIA 非常积极地确保每个测试 LaunchPad 的人都有一个富有成效的时间。
总结
NVIDIA LaunchPad 是一款强大的概念验证工具,非常易于使用。 最后,NVIDIA、VMware 和 Equinix 之间的协作提供了一个强大的环境,用于针对 NVIDIA 一些最流行的 GPU 测试真实的 AI 和 ML 应用程序。
更好的是,NVIDIA 已经为需要协作的两个关键角色(IT 管理员和数据科学家/AI 从业者)做好了这项工作。 因此,这些现代 AI 工作负载通常会对传统 IT 堆栈造成压力。 工作负载很复杂,运行在昂贵的硬件上,给 IT 带来了令人头疼的支持问题。 通过将 LaunchPad 置于易于理解的 vSphere 范围内,许多 IT 的典型担忧就会消失。 另一方面,人工智能从业者获得了他们需要的所有工具,以及强大的 GPU 和计算环境。 完成后,如果组织希望随身携带 VM,则 VM 很容易携带。
我们对 NVIDIA 的这一免费产品感到兴奋,因为它让我们想起了 VMware 动手实验室和 VMware TestDrive,以及允许您在其上处理自己的 AI 项目的额外好处。 在我们使用 NVIDIA LaunchPad 期间,我们发现文档非常深入,并且当我们不小心消除了我们糟糕的环境时,支持也非常出色。 在 LaunchPad 上有长达 XNUMX 周的时间,认真对待提升 AI 技能的组织肯定需要立即检查一下。
如需了解更多关于NVIDIA AI Enterprise 的信息,请点击此处。如需了解更多关于NVIDIA LaunchPad 的信息,请点击此处。请联系您的 NVIDIA 销售代表,了解如何开始使用 NVIDIA LaunchPad。
收听我们的 NVIDIA LaunchPad Podcast,了解更多信息。





Amazon