主页 企业云端 NVIDIA LaunchPad 企业人工智能实验室评论

NVIDIA LaunchPad 企业人工智能实验室评论

by 哈罗德弗里茨

正在寻找一个平台在发布前测试您的 AI/ML 应用程序,但无法访问该冗余环境? 能够构建和测试新的 AI 工作负载可以节省时间、金钱和麻烦。 NVIDIA 有一个答案,可能会解决您的开发问题。 而且是免费的! 欢迎使用 NVIDIA LaunchPad。

正在寻找一个平台在发布前测试您的 AI/ML 应用程序,但无法访问该冗余环境? 能够构建和测试新的 AI 工作负载可以节省时间、金钱和麻烦。 NVIDIA 有一个答案,可能会解决您的开发问题。 而且是免费的! 欢迎使用 NVIDIA LaunchPad。

隆重推出 NVIDIA LaunchPad!

NVIDIA 最近发布了 LaunchPad – 企业用户可以在 vSphere 7 环境中免费使用 NVIDIA AI Enterprise 服务器 2-4 周的实践环境。 尽管企业非常欢迎将此服务用于他们考虑在 NVIDIA 环境中部署的工作负载,但他们也可以通过 NVIDIA 创建的实验室,让 IT 专业人员熟悉使用支持 NVIDIA 的服务器。 如果您愿意,我们还 有一个播客,其中 Brian Beeler 与 Luke Wignall 进行了对话 来自 NVIDIA 的 LaunchPad 是如何诞生的以及内部发生了什么。

NVIDIA LaunchPad 架构

NVIDIA AI LaunchPad 托管在 Equinix 设施. 该平台允许企业使用 DGX SuperPOD、NVIDIA Base Command、 NVIDIA 舰队司令部,以及来自 NVIDIA NGC 的预训练模型。 它还支持在分布在网络中的 NVIDIA 认证服务器上扩展主流 AI。 这些行业标准的服务器非常适合运行 NVIDIA 人工智能企业 VMware vSphere 上的软件套件,用于在现代混合云中扩展 AI 工作负载。

访问 NVIDIA LaunchPad

完成配置文件表单后,用户会看到一个详细的概览屏幕。 该过程非常简单,提供有关设置环境以访问 AI 软件和基础设施的说明。 NVIDIA LaunchPad 的目标是加速应用程序开发和部署。

NVIDIA LaunchPad 管理员概览

NVIDIA 认为一些公司没有使用更多 AI 是对设置 AI 可以运行的环境的复杂性的无端恐惧。 考虑到这一点,NVIDIA 创建了实验室,旨在解决这些恐惧,同时考虑到两个不同的 AI 专业人员; 需要站出来支持 AI 环境的 IT 管理员和经理,以及需要使用它们的 AI 从业者。 提供这项服务将有助于在投资 IT 预算构建特定基础架构来运行这些 AI 应用程序之前,建立支持和使用 AI 的信心。 此外,使用熟悉的工具在此环境中部署 AI 工作负载,使开发人员能够使用 NVIDIA GPU 实现其 AI 项目的价值。

NVIDIA LaunchPad 工作流程

NVIDIA LaunchPad 工作流程

用于人工智能、机器学习和高性能计算的 GPU 优化软件中心

NGC 目录是 GPU 优化的人工智能、高性能计算 (HPC) 和数据分析软件的中心,可简化和加速端到端工作流程。 借助可在本地、云端或边缘部署的企业级容器、预训练的 AI 模型和行业特定的 SDK,企业可以自信地快速构建和交付解决方案。

这些系统目前可能配备 NVIDIA A30 或 T4 GPU,但随着新卡的发布,这种情况可能会发生变化。 无论硬件如何,所有系统都使用 英伟达人工智能企业, NVIDIA 将其描述为:

端到端的云原生 AI 和数据分析软件套件,经过 NVIDIA 优化、认证和支持,可在具有 NVIDIA 认证系统的 VMware vSphere 上运行。 它包括来自 NVIDIA 的关键支持技术,用于在现代混合云中快速部署、管理和扩展 AI 工作负载设立的区域办事处外,我们在美国也开设了办事处,以便我们为当地客户提供更多的支持。“

实验室预装了 vSphere,可以从 NVIDIA 提供的 URL 访问 vSphere 客户端。

IT 管理员拥有实验室,可以引导他们完成配置 VM 以使用 GPU 所涉及的步骤。 AI 从业者可以访问基于 NVIDIA AI Enterprise 套件构建的实验室,其中包括 AI 研究人员、数据科学家和开发人员用于创建其 AI 和机器学习应用程序的应用程序、框架和工具。

NVIDIA AI Enterprise LaunchPad 之旅之一将引导您完成 Jupyter 实验室笔记本,使用 英伟达快速 和纽约市出租车数据集来预测曼哈顿的乘车费用。 该数据集包含诸如上车点、下车点、票价金额、乘客人数等列。 本实验中的数据用于在 GPU 上训练 XGBoost 模型。 NVIDIA 提供的实验室需要 30 分钟到几个小时。 NVIDIA 将为每个实验室提供合适的环境。

独立于 NVIDIA 实验室环境的是建立工作 AI 模型的能力。 申请完整的 AI LaunchPad 环境类似于申请实验室。

一旦登录到 NVIDIA LaunchPad,就会有详细的说明,用于通过创建 Ubuntu VM 来设置 VM,将 NVIDIA GPU 关联到它,获取 NVIDIA 驱动程序并将其添加到操作系统,获取 NVIDIA API 密钥和软件,以及许可VM 使用 GPU。 由于 AI 软件是基于容器的,因此该实验室包括安装 Docker、NVIDIA 容器工具包、Tensor Flow 和运行 AI 示例。 这是一个完整的工作环境,允许您构建和部署自己的 AI 项目。

循序渐进的方法

配置 VM 有详细记录,如果需要,输入屏幕有必要的帮助。 NVIDIA 与 VMware 合作,创建了一个简单的界面来实施所需的配置并安装适当的工具,以最小的压力启动和运行概念验证环境。 在这一点上,我们也要弄清楚。 这些都是设备齐全的机器。 我们的环境有一个 戴尔PowerEdge R750,带有 NVIDIA A30 和大量 DRAM 和内核。

注册请求获得批准后,NVIDIA 会发送一个 URL,其中包括用户名和临时密码。 如前所述,我们的环境是戴尔 NVIDIA 认证系统 配备 A30 GPU。 但是,可以使用特定的配置选项来自定义体验以满足用户的需求。

需要做出改变吗? NVIDIA LaunchPad 的设计允许用户在过程中需要更改时退后一步。 始终可以通过详细说明访问菜单。

VM是根据配置过程中输入的硬件和软件要求创建的。

在安装 Docker 容器并运行用于 NVIDIA GPU 配置的 Docker Utility Engine 之后,最后一步是安装 AI 和数据科学应用程序和框架。

在 vSphere 屏幕和 VM 控制台之间移动也是无缝的,可以从主菜单访问。 一些推荐的浏览器似乎比其他浏览器更好用。 Safari 可能会让您感到胃灼热,但有一些方法可以解决这些问题。

最后,安装 AI 应用程序和进一步的 VM 配置完成该过程。 如果您遇到问题,NVIDIA 会非常及时地响应。 事实上,我们遇到了一些自找的问题,需要帮助。 我们恢复了行动,几乎没有停机时间。 公平地说,我们是一家评估 LaunchPad 的媒体组织,但 NVIDIA 非常积极地确保每个测试 LaunchPad 的人都有一个富有成效的时间。

总结

NVIDIA LaunchPad 是一款强大的概念验证工具,非常易于使用。 最后,NVIDIA、VMware 和 Equinix 之间的协作提供了一个强大的环境,用于针对 NVIDIA 一些最流行的 GPU 测试真实的 AI 和 ML 应用程序。

更好的是,NVIDIA 已经为需要协作的两个关键角色(IT 管理员和数据科学家/AI 从业者)做好了这项工作。 因此,这些现代 AI 工作负载通常会对传统 IT 堆栈造成压力。 工作负载很复杂,运行在昂贵的硬件上,给 IT 带来了令人头疼的支持问题。 通过将 LaunchPad 置于易于理解的 vSphere 范围内,许多 IT 的典型担忧就会消失。 另一方面,人工智能从业者获得了他们需要的所有工具,以及强大的 GPU 和计算环境。 完成后,如果组织希望随身携带 VM,则 VM 很容易携带。

我们对 NVIDIA 的这一免费产品感到兴奋,因为它让我们想起了 VMware 动手实验室和 VMware TestDrive,以及允许您在其上处理自己的 AI 项目的额外好处。 在我们使用 NVIDIA LaunchPad 期间,我们发现文档非常深入,并且当我们不小心消除了我们糟糕的环境时,支持也非常出色。 在 LaunchPad 上有长达 XNUMX 周的时间,认真对待提升 AI 技能的组织肯定需要立即检查一下。

欲了解更多信息 NVIDIA AI Enterprise,点击这里。 如需了解更多信息 NVIDIA LaunchPad,点击这里. 与您的 NVIDIA 销售代表讨论如何开始使用 NVIDIA LaunchPad。

通过聆听我们的 NVIDIA 了解更多 LaunchPad 播客.

参与 StorageReview

电子报 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | RSS订阅