Ищете платформу для тестирования ваших приложений ИИ/машинного обучения перед запуском, но у вас нет доступа к такой резервной среде? Возможность создавать и тестировать новые рабочие нагрузки ИИ может сэкономить время, деньги и нервы. У NVIDIA есть решение, которое может стать ответом на вашу проблему разработки. И оно бесплатное! Добро пожаловать в NVIDIA LaunchPad.
Представляем NVIDIA LaunchPad!
Компания NVIDIA недавно анонсировала LaunchPad — практическую среду, где корпоративные пользователи могут бесплатно использовать серверы NVIDIA AI Enterprise в среде vSphere 7 в течение 2-4 недель. Хотя предприятия могут использовать этот сервис для рабочих нагрузок, которые они планируют развернуть в среде NVIDIA, они также могут пройти лабораторные работы, созданные NVIDIA, которые позволяют ИТ-специалистам освоиться с использованием серверов NVIDIA. Если хотите, у нас также есть подкаст, где Брайан Билер беседует с Люком Уигналлом из NVIDIA о том, как появился LaunchPad и что происходит внутри.
Платформа NVIDIA AI LaunchPad размещена в центре обработки данных Equinix . Она позволяет предприятиям ускорить разработку сложных моделей ИИ с использованием DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command и предварительно обученных моделей из NVIDIA NGC. Платформа также поддерживает масштабирование основных задач ИИ на сертифицированных NVIDIA серверах, распределенных по сети. Эти стандартные серверы идеально подходят для запуска пакета программного обеспечения NVIDIA AI Enterprise на VMware vSphere, что позволяет масштабировать рабочие нагрузки ИИ в современном гибридном облаке.
Доступ к NVIDIA LaunchPad
После заполнения формы профиля пользователю отображается подробный обзорный экран. Процесс прост и содержит инструкции по настройке среды для доступа к программному обеспечению и инфраструктуре ИИ. Цель NVIDIA LaunchPad — ускорить разработку и развертывание приложений.
Компания NVIDIA считает, что недостаточная эффективность использования ИИ в некоторых компаниях обусловлена необоснованным страхом перед сложностью создания среды, в которой может работать ИИ. Учитывая это, NVIDIA создала лаборатории, призванные развеять эти опасения, ориентируясь на две группы специалистов по ИИ: ИТ-администраторов и менеджеров, которым необходимо создавать и поддерживать среды ИИ, и специалистов-практиков, которым необходимо их использовать. Предложение этой услуги поможет укрепить уверенность в поддержке и использовании ИИ до того, как будут вложены средства в создание специальной инфраструктуры для запуска этих приложений ИИ. Кроме того, развертывание рабочих нагрузок ИИ в этой среде с использованием привычных инструментов позволит разработчикам реализовать потенциал своих проектов ИИ с помощью графического процессора NVIDIA.
Рабочий процесс NVIDIA LaunchPad
Оптимизированный для графических процессоров программный центр для искусственного интеллекта, машинного обучения и высокопроизводительных вычислений.
Каталог NGC — это центр оптимизированного для графических процессоров программного обеспечения для искусственного интеллекта, высокопроизводительных вычислений (HPC) и анализа данных, который упрощает и ускоряет сквозные рабочие процессы. Благодаря контейнерам корпоративного уровня, предварительно обученным моделям ИИ и отраслевым SDK, которые можно развертывать локально, в облаке или на периферии сети, предприятия могут быстро и уверенно создавать и внедрять решения.
В настоящее время системы могут быть оснащены графическими процессорами NVIDIA A30 или T4, хотя это может измениться с выходом новых видеокарт. Независимо от аппаратной части, все системы используют NVIDIA AI Enterprise, которую NVIDIA описывает следующим образом:
« Комплексный облачный пакет программного обеспечения для искусственного интеллекта и анализа данных, оптимизированный, сертифицированный и поддерживаемый NVIDIA для работы на VMware vSphere с сертифицированными NVIDIA системами. Он включает в себя ключевые технологии от NVIDIA для быстрого развертывания, управления и масштабирования рабочих нагрузок ИИ в современном гибридном облаке ».
В лабораториях предустановлена vSphere, и доступ к клиенту vSphere осуществляется по URL-адресу, предоставленному NVIDIA.
ИТ-администраторы имеют доступ к лабораториям, которые пошагово объясняют, как настраивать виртуальные машины для использования графических процессоров. Специалисты по искусственному интеллекту имеют доступ к лабораториям, созданным на основе пакета NVIDIA AI Enterprise, который включает приложения, фреймворки и инструменты, используемые исследователями ИИ, специалистами по обработке данных и разработчиками для создания своих приложений в области ИИ и машинного обучения.
Один из этапов программы NVIDIA AI Enterprise LaunchPad знакомит вас с лабораторной работой в Jupyter, где с помощью NVIDIA RAPIDS и набора данных о такси Нью-Йорка прогнозируются цены на поездки в Манхэттене. Набор данных содержит столбцы, такие как точки посадки, точки высадки, сумма проезда, количество пассажиров. Данные в этой лабораторной работе используются для обучения модели XGBoost на графическом процессоре. Продолжительность лабораторных работ, предоставляемых NVIDIA, составляет от 30 минут до нескольких часов. NVIDIA предоставит соответствующую среду для каждой лабораторной работы.
Помимо лабораторной среды NVIDIA, существует возможность создать работающую модель ИИ. Запрос на получение полной среды AI LaunchPad аналогичен запросу на создание лаборатории.
После входа в NVIDIA LaunchPad вы получите подробные инструкции по настройке виртуальной машины, включая создание виртуальной машины Ubuntu, привязку к ней графического процессора NVIDIA, получение и добавление драйвера NVIDIA в операционную систему, получение ключа API NVIDIA и программного обеспечения, а также лицензирование виртуальной машины для использования графического процессора. Поскольку программное обеспечение для ИИ основано на контейнерах, лабораторная работа включает установку Docker, набора инструментов NVIDIA для контейнеров, TensorFlow и запуск примеров ИИ. Это полноценная рабочая среда, позволяющая создавать и развертывать собственные проекты в области ИИ.
Пошаговый подход
Настройка виртуальной машины хорошо документирована, и при необходимости можно получить необходимую помощь на экранах ввода. NVIDIA, в сотрудничестве с VMware, создала простой интерфейс для реализации необходимой конфигурации и установки соответствующих инструментов, чтобы запустить тестовую среду с минимальными усилиями. Давайте также проясним этот момент. Это очень хорошо оснащенные машины. В нашей среде использовался сервер Dell PowerEdge R750 с видеокартой NVIDIA A30 и большим объемом оперативной памяти и ядер.
После одобрения запроса на регистрацию NVIDIA отправляет URL-адрес, включающий имя пользователя и временный пароль. Как уже отмечалось, в нашей среде использовалась сертифицированная NVIDIA система Dell с графическими процессорами A30. Однако доступны специальные параметры конфигурации для настройки работы в соответствии с потребностями пользователя.
Нужно внести изменения? NVIDIA LaunchPad разработан таким образом, чтобы пользователь мог вернуться к исходным настройкам, если потребуется внести изменения в процессе работы. Меню всегда доступно и содержит подробные инструкции.
Виртуальная машина создается на основе требований к аппаратному и программному обеспечению, заданных в процессе настройки.
После установки контейнера Docker и запуска утилиты Docker Utility Engine для настройки графического процессора NVIDIA, заключительным шагом является установка приложений и фреймворков для искусственного интеллекта и анализа данных.
Переключение между экраном vSphere и консолью виртуальной машины также происходит плавно и осуществляется из главного меню. Некоторые рекомендуемые браузеры, похоже, работают лучше, чем другие. Safari может вызывать некоторые проблемы, но их можно обойти.
Наконец, установка приложения ИИ и дальнейшая настройка виртуальной машины завершают процесс. NVIDIA очень оперативно реагирует на возникающие проблемы. На самом деле, у нас возникли некоторые проблемы, которые мы создали сами, и нам потребовалась помощь. Мы вернулись к работе практически без простоев. Справедливости ради, мы — медиа-организация, оценивающая LaunchPad, но NVIDIA очень заинтересована в том, чтобы все, кто тестирует LaunchPad, провели время продуктивно.
Заключение
NVIDIA LaunchPad — это мощный инструмент для проверки концепций, который впечатляюще прост в использовании. В конечном итоге, сотрудничество между NVIDIA, VMware и Equinix обеспечивает надежную среду для тестирования реальных приложений искусственного интеллекта и машинного обучения на некоторых из самых популярных графических процессоров NVIDIA.
Более того, NVIDIA реализовала это решение для двух ключевых групп пользователей, которым необходимо сотрудничать: ИТ-администраторов и специалистов по анализу данных/искусственному интеллекту. Зачастую современные задачи в области ИИ создают нагрузку на традиционную ИТ-инфраструктуру. Эти задачи сложны, выполняются на дорогостоящем оборудовании и создают проблемы для ИТ-поддержки. Разместив LaunchPad в хорошо знакомой среде vSphere, многие типичные проблемы ИТ-отдела исчезают. С другой стороны, специалисты по ИИ получают все необходимые инструменты, включая мощный графический процессор и вычислительную среду. После завершения разработки виртуальные машины легко переносимы, если организация захочет взять свою работу с собой.
Мы в восторге от этого бесплатного предложения от NVIDIA, поскольку оно напоминает нам о VMware Hands-on-labs и VMware TestDrive, а также предоставляет дополнительное преимущество в виде возможности работы над собственным проектом в области ИИ. За время работы с NVIDIA LaunchPad мы обнаружили, что документация довольно подробная, а поддержка превосходная, особенно когда мы случайно удалили нашу неудачную среду. Благодаря возможности поработать на LaunchPad в течение четырех недель, организациям, серьезно настроенным на развитие своих навыков в области ИИ, определенно стоит немедленно ознакомиться с этим предложением.
Для получения дополнительной информации о NVIDIA AI Enterprise нажмите здесь . Для получения дополнительной информации о NVIDIA LaunchPad нажмите здесь . Обратитесь к своему представителю по продажам NVIDIA, чтобы узнать, как начать работу с NVIDIA LaunchPad.
Узнайте больше, прослушав наш подкаст NVIDIA LaunchPad.





Amazon