Szukasz platformy do testowania aplikacji AI/ML przed premierą, ale nie masz dostępu do tego redundantnego środowiska? Możliwość tworzenia i testowania nowych obciążeń AI może zaoszczędzić czas, pieniądze i nerwy. NVIDIA ma rozwiązanie, które może być rozwiązaniem Twojego problemu programistycznego. I jest darmowe! Witamy w NVIDIA LaunchPad.
Przedstawiamy NVIDIA LaunchPad!
NVIDIA niedawno ogłosiła LaunchPad – praktyczne środowisko, w którym użytkownicy korporacyjni mogą bezpłatnie korzystać z serwerów NVIDIA AI Enterprise w środowisku vSphere 7 przez 2-4 tygodnie. Chociaż przedsiębiorstwa mogą korzystać z tej usługi w przypadku obciążeń, które planują wdrożyć w środowisku NVIDIA, mogą również wziąć udział w laboratoriach stworzonych przez NVIDIA, które pozwalają specjalistom IT zapoznać się z obsługą serwerów obsługujących NVIDIA. Jeśli wolisz, mamy również podcast, w którym Brian Beeler rozmawia z Lukiem Wignallem z NVIDIA o tym, jak powstała platforma LaunchPad i co się w niej dzieje.
Platforma NVIDIA AI LaunchPad jest hostowana w obiekcie Equinix . Umożliwia ona przedsiębiorstwom przyspieszenie rozwoju złożonych modeli AI za pomocą DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command oraz wstępnie wytrenowanych modeli z NVIDIA NGC. Obsługuje również skalowanie popularnych rozwiązań AI na serwerach z certyfikatem NVIDIA, rozproszonych w sieci. Te serwery, zgodne ze standardami branżowymi, idealnie nadają się do uruchamiania pakietu oprogramowania NVIDIA AI Enterprise na platformie VMware vSphere w celu skalowania obciążeń AI w nowoczesnej chmurze hybrydowej.
Dostęp do NVIDIA LaunchPad
Po wypełnieniu formularza profilowego użytkownikowi wyświetla się szczegółowy ekran podsumowujący. Proces jest prosty i zawiera instrukcje dotyczące konfiguracji środowiska w celu uzyskania dostępu do oprogramowania i infrastruktury AI. Celem NVIDIA LaunchPad jest przyspieszenie tworzenia i wdrażania aplikacji.
Firma NVIDIA uważa, że niektóre firmy nie wykorzystują w większym stopniu sztucznej inteligencji (AI), co wynika z nieuzasadnionych obaw dotyczących złożoności konfiguracji środowiska, w którym AI może działać. Mając to na uwadze, NVIDIA stworzyła laboratoria zaprojektowane z myślą o tych obawach, z myślą o dwóch różnych specjalistach ds. AI: administratorach i menedżerach IT, którzy muszą wspierać środowiska AI, oraz praktykach AI, którzy muszą z nich korzystać. Oferowanie tej usługi pomoże zbudować pewność siebie we wspieraniu i wykorzystywaniu AI przed zainwestowaniem budżetu IT w budowę specjalistycznej infrastruktury do obsługi tych aplikacji AI. Co więcej, wdrażanie obciążeń AI w tym środowisku, przy użyciu znanych narzędzi, pozwala deweloperom docenić wartość ich projektów AI dzięki procesorom graficznym NVIDIA.
Przepływ pracy NVIDIA LaunchPad
Zoptymalizowane pod kątem GPU centrum oprogramowania dla sztucznej inteligencji, uczenia maszynowego i obliczeń o wysokiej wydajności
Katalog NGC to centrum zoptymalizowanej pod kątem GPU sztucznej inteligencji (AI), obliczeń o wysokiej wydajności (HPC) i oprogramowania do analizy danych, które upraszcza i przyspiesza kompleksowe przepływy pracy. Dzięki kontenerom klasy korporacyjnej, wstępnie wytrenowanym modelom AI oraz branżowym zestawom SDK, które można wdrażać lokalnie, w chmurze lub na brzegu sieci, przedsiębiorstwa mogą szybko i pewnie tworzyć i dostarczać rozwiązania.
Systemy mogą być obecnie wyposażone w procesor graficzny NVIDIA A30 lub T4, choć sytuacja może ulec zmianie wraz z pojawieniem się nowych kart. Niezależnie od sprzętu, wszystkie systemy korzystają z technologii NVIDIA AI Enterprise, którą NVIDIA opisuje jako:
„ Kompleksowy, natywny dla chmury pakiet oprogramowania do sztucznej inteligencji i analizy danych, zoptymalizowany, certyfikowany i wspierany przez firmę NVIDIA do działania na platformie VMware vSphere z systemami certyfikowanymi przez firmę NVIDIA. Zawiera kluczowe technologie firmy NVIDIA umożliwiające szybkie wdrażanie, zarządzanie i skalowanie obciążeń AI w nowoczesnej chmurze hybrydowej ”.
W laboratoriach preinstalowano platformę vSphere z dostępem do klienta vSphere za pośrednictwem adresu URL udostępnionego przez firmę NVIDIA.
Administratorzy IT mają do dyspozycji laboratoria, które przeprowadzają ich przez etapy konfiguracji maszyn wirtualnych do korzystania z procesorów GPU. Praktycy AI mają dostęp do laboratoriów opartych na pakiecie NVIDIA AI Enterprise, który obejmuje aplikacje, frameworki i narzędzia wykorzystywane przez badaczy AI, analityków danych i programistów do tworzenia aplikacji AI i uczenia maszynowego.
Jedna z sesji NVIDIA AI Enterprise LaunchPad prowadzi użytkownika przez notatnik laboratoryjny Jupyter, wykorzystując NVIDIA RAPIDS i zbiór danych nowojorskich taksówek do prognozowania cen przejazdów na Manhattanie. Zbiór danych zawiera kolumny takie jak punkty odbioru, punkty oddania, wysokość opłaty i liczba pasażerów. Dane w tym laboratorium służą do trenowania modelu XGBoost na GPU. Laboratoria oferowane przez NVIDIA trwają od 30 minut do kilku godzin. NVIDIA zapewni odpowiednie środowisko dla każdego laboratorium.
Poza środowiskiem laboratoryjnym NVIDIA istnieje możliwość stworzenia działającego modelu AI. Ubieganie się o dostęp do kompletnego środowiska AI LaunchPad jest podobne do wnioskowania o laboratorium.
Po zalogowaniu się do NVIDIA LaunchPad dostępne są szczegółowe instrukcje dotyczące konfiguracji maszyny wirtualnej, obejmujące utworzenie maszyny wirtualnej Ubuntu, powiązanie z nią procesora graficznego NVIDIA, pozyskanie i dodanie sterownika NVIDIA do systemu operacyjnego, pozyskanie klucza API NVIDIA i oprogramowania oraz licencjonowanie maszyny wirtualnej w celu korzystania z procesora graficznego. Ponieważ oprogramowanie AI jest oparte na kontenerach, laboratorium obejmuje instalację Dockera, zestawu narzędzi kontenerowych NVIDIA, przepływu Tensor Flow oraz uruchamianie przykładów AI. To kompletne środowisko pracy, które pozwala na budowanie i wdrażanie własnych projektów AI.
Podejście krok po kroku
Konfiguracja maszyny wirtualnej jest dobrze udokumentowana, a ekrany wprowadzania danych oferują niezbędną pomoc w razie potrzeby. Firma NVIDIA, we współpracy z VMware, stworzyła prosty interfejs do wdrożenia wymaganej konfiguracji i zainstalowania odpowiednich narzędzi, aby środowisko proof-of-concept działało z minimalnym obciążeniem. Należy to również jasno określić. To bardzo dobrze wyposażone maszyny. Nasze środowisko składało się z serwera Dell PowerEdge R750 z procesorem NVIDIA A30 oraz dużą ilością pamięci DRAM i rdzeni.
Po zatwierdzeniu prośby o rejestrację, NVIDIA wysyła adres URL zawierający nazwę użytkownika i tymczasowe hasło. Jak wspomniano, nasze środowisko to system Dell z certyfikatem NVIDIA i procesorami graficznymi A30. Dostępne są jednak konkretne opcje konfiguracji, pozwalające dostosować środowisko do potrzeb użytkownika.
Potrzebujesz wprowadzić zmianę? NVIDIA LaunchPad został zaprojektowany tak, aby umożliwić użytkownikowi wycofanie się, jeśli w trakcie pracy zajdzie potrzeba wprowadzenia zmian. Menu jest zawsze dostępne ze szczegółowymi instrukcjami.
Maszyna wirtualna jest tworzona na podstawie wymagań sprzętowych i programowych podanych podczas procesu konfiguracji.
Po zainstalowaniu kontenera Docker i uruchomieniu narzędzia Docker Utility Engine dla konfiguracji procesora graficznego NVIDIA ostatnim krokiem jest instalacja aplikacji i struktur sztucznej inteligencji i nauki o danych.
Przemieszczanie się między ekranem vSphere a konsolą maszyny wirtualnej jest również płynne i dostępne z menu głównego. Niektóre polecane przeglądarki wydają się działać lepiej niż inne. Przeglądarka Safari może powodować pewne problemy, ale istnieją sposoby na ich obejście.
Na koniec instalacja aplikacji AI i dalsza konfiguracja maszyn wirtualnych kończą proces. NVIDIA bardzo szybko reaguje na problemy. W rzeczywistości, napotkaliśmy kilka problemów z własnej winy i potrzebowaliśmy pomocy. Wróciliśmy do działania z bardzo krótkim przestojem. Szczerze mówiąc, jesteśmy organizacją medialną, która testuje LaunchPad, ale NVIDIA jest bardzo zmotywowana, aby zapewnić wszystkim testującym LaunchPad produktywny czas.
Uwagi końcowe
NVIDIA LaunchPad to solidne narzędzie do weryfikacji koncepcji, które jest imponująco łatwe w obsłudze. Ostatecznie, współpraca między firmami NVIDIA, VMware i Equinix zapewnia solidne środowisko do testowania rzeczywistych aplikacji AI i ML na niektórych z najpopularniejszych procesorów graficznych NVIDIA.
Co więcej, NVIDIA zadbała o to, aby rozwiązanie to sprawdzało się w przypadku dwóch kluczowych osób, które muszą ze sobą współpracować: administratora IT i analityka danych/praktyka AI. Nowoczesne obciążenia AI często obciążają tradycyjny stos IT. Są one skomplikowane, działają na drogim sprzęcie i przysparzają IT problemów z obsługą. Umieszczenie LaunchPad w dobrze znanych ramach vSphere rozwiązuje wiele typowych problemów IT. Z drugiej strony, praktycy AI otrzymują wszystkie potrzebne narzędzia, a do tego solidne środowisko GPU i obliczeniowe. Po zakończeniu wdrożenia maszyny wirtualne można łatwo przenosić, jeśli organizacja chce zabrać ze sobą swoją pracę.
Jesteśmy podekscytowani tą darmową ofertą od firmy NVIDIA, ponieważ przypomina nam ona warsztaty VMware Hands-on-Labs i VMware TestDrive, a także oferuje dodatkową korzyść w postaci możliwości pracy nad własnym projektem AI. Podczas naszej pracy w NVIDIA LaunchPad przekonaliśmy się, że dokumentacja jest dość obszerna, a wsparcie techniczne – doskonałe, gdy przypadkowo wyeliminowaliśmy nasze słabe środowisko. Mając do czterech tygodni na wypróbowanie LaunchPad, organizacje poważnie myślące o rozwoju swoich umiejętności w zakresie AI zdecydowanie powinny natychmiast to sprawdzić.
Aby uzyskać więcej informacji o NVIDIA AI Enterprise, kliknij tutaj . Aby uzyskać więcej informacji o NVIDIA LaunchPad, kliknij tutaj . Porozmawiaj z przedstawicielem handlowym firmy NVIDIA, aby dowiedzieć się, jak rozpocząć korzystanie z NVIDIA LaunchPad.
Dowiedz się więcej, słuchając naszego podcastu NVIDIA LaunchPad.
Amazon