Letar du efter en plattform för att testa dina AI/ML-applikationer innan lansering, men har inte tillgång till den redundanta miljön? Att ha förmågan att bygga och testa nya AI-arbetsbelastningar kan spara tid, pengar och huvudvärk. NVIDIA har ett svar som kan vara lösningen på ditt utvecklingsproblem. Och det är gratis! Välkommen NVIDIA LaunchPad.
Vi presenterar NVIDIA LaunchPad!
NVIDIA presenterade nyligen LaunchPad – en praktisk miljö där företagsanvändare kan använda NVIDIA AI Enterprise-servrar i en vSphere 7-miljö kostnadsfritt i 2–4 veckor. Även om företag är mer än välkomna att använda den här tjänsten med arbetsbelastningar som de funderar på att driftsätta i en NVIDIA-miljö, kan de också gå igenom labb som NVIDIA har skapat som gör det möjligt för IT-proffs att bekanta sig med att använda NVIDIA-aktiverade servrar. Om du föredrar har vi också en podcast där Brian Beeler har ett samtal med Luke Wignall från NVIDIA om hur LaunchPad kom till och vad som händer inuti.
NVIDIA AI LaunchPad finns i en Equinix-anläggning . Plattformen gör det möjligt för företag att påskynda utvecklingen av komplexa AI-modeller med hjälp av DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command och förtränade modeller från NVIDIA NGC. Den stöder också skalning av mainstream AI på NVIDIA-certifierade servrar distribuerade över nätverket. Dessa branschstandardservrar är idealiska för att köra NVIDIA AI Enterprise- programvarupaketet på VMware vSphere för att skala AI-arbetsbelastningar i det moderna hybridmolnet.
Åtkomst till NVIDIA LaunchPad
Efter att ha fyllt i ett profilformulär får användaren en detaljerad översiktsskärm. Processen är enkel och ger instruktioner om hur man ställer in miljön för att komma åt AI-programvara och infrastruktur. Målet för NVIDIA LaunchPad är att påskynda applikationsutveckling och distribution.
NVIDIA anser att vissa företag inte använder mer AI är den ogrundade rädslan i komplexiteten i att sätta upp en miljö där AI kan köras. Med detta i åtanke skapade NVIDIA labb designade för att hantera dessa rädslor med två olika AI-proffs i åtanke; IT-administratörer och chefer som behöver stå upp och stödja AI-miljöer och AI-utövare som behöver använda dem. Att erbjuda den här tjänsten kommer att bidra till att bygga upp förtroendet för att stödja och använda AI innan man investerar en IT-budget för att bygga ut en specifik infrastruktur för att köra dessa AI-applikationer. Dessutom, att distribuera AI-arbetsbelastningar i den här miljön, med välbekanta verktyg, gör det möjligt för utvecklare att inse värdet av sitt AI-projekt med en NVIDIA GPU.
NVIDIA LaunchPad WorkFlow
GPU-optimerad mjukvaruhubb för AI, ML och högpresterande datoranvändning
NGC-katalogen är ett nav av GPU-optimerad AI, högpresterande datoranvändning (HPC) och programvara för dataanalys som förenklar och accelererar end-to-end-arbetsflöden. Med behållare av företagsklass, förutbildade AI-modeller och branschspecifika SDK:er som kan distribueras på plats, i molnet eller vid kanten, kan företag bygga och leverera lösningar snabbt och med tillförsikt.
Systemen kan vara utrustade med ett NVIDIA A30- eller ett T4-grafikkort för närvarande, men det kan ändras när nya kort släpps. Oavsett hårdvara använder alla system NVIDIA AI Enterprise, vilket NVIDIA beskriver som:
” en heltäckande, molnbaserad svit av AI- och dataanalysprogramvara, optimerad, certifierad och supporterad av NVIDIA för att köras på VMware vSphere med NVIDIA-certifierade system. Den inkluderar viktiga möjliggörande tekniker från NVIDIA för snabb distribution, hantering och skalning av AI-arbetsbelastningar i det moderna hybridmolnet .”
Labben har vSphere förinstallerat med åtkomst till en vSphere-klient från URL:en från NVIDIA.
IT-administratörer har labb som leder dem genom stegen som är involverade i att konfigurera virtuella datorer för att använda GPU:er. AI-utövare har tillgång till labb byggda på NVIDIA AI Enterprise-sviten som inkluderar applikationer, ramverk och verktyg som AI-forskare, datavetare och utvecklare använder för att skapa sina AI- och Machine Learning-applikationer.
En av NVIDIA AI Enterprise LaunchPad-resorna guidar dig genom en Jupyter-labbbok, där du använder NVIDIA RAPIDS och New York Citys taxidataset för att förutsäga resepriser på Manhattan. Datasetet innehåller kolumner som upphämtningsplatser, avlämningsplatser, biljettbelopp och antal passagerare. Data i detta labb används för att träna en XGBoost-modell på GPU. Labben som tillhandahålls av NVIDIA tar från 30 minuter till flera timmar. NVIDIA tillhandahåller lämplig miljö för varje labb.
Separat från NVIDIAs labbmiljö finns möjligheten att etablera en fungerande AI-modell. Att ansöka om hela AI LaunchPad-miljön liknar att begära ett labb.
När du väl är inloggad på NVIDIA LaunchPad, finns det detaljerade instruktioner för hur du ställer in den virtuella datorn genom att skapa en Ubuntu VM, associera en NVIDIA GPU till den, skaffa och lägga till en NVIDIA-drivrutin till operativsystemet, skaffa en NVIDIA API-nyckel och programvara och licensiera VM för att använda GPU. Eftersom AI-mjukvara är containerbaserad, inkluderar labbet installation av Docker, NVIDIA containerverktygssats, Tensor-flöde och körning av AI-exempel. Detta är en total arbetsmiljö som låter dig bygga och distribuera ditt eget AI-projekt.
Steg-för-steg tillvägagångssätt
Konfigurationen av den virtuella maskinen är väl dokumenterad, och inmatningsskärmarna har den hjälp som behövs om det behövs. NVIDIA har, i samarbete med VMware, skapat ett enkelt gränssnitt för att implementera den konfiguration som krävs och installera lämpliga verktyg för att få igång koncepttestmiljön med minimal stress. Låt oss vara tydliga på den här punkten också. Det här är mycket välutrustade maskiner. Vår miljö hade en Dell PowerEdge R750 , med en NVIDIA A30 och gott om DRAM och kärnor.
När registreringsbegäran har godkänts skickar NVIDIA en URL, inklusive användarnamn och tillfälligt lösenord. Som nämnts var vår miljö ett Dell NVIDIA-certifierat system med A30 GPU:er. Specifika konfigurationsalternativ finns dock tillgängliga för att anpassa upplevelsen för att möta användarens behov.
Behöver du göra en förändring? NVIDIA LaunchPad har utformats för att låta användaren ta ett steg tillbaka om ändringar krävs under vägen. Menyn är alltid tillgänglig med detaljerade instruktioner.
Den virtuella datorn skapas baserat på hårdvaru- och mjukvarukraven som matas in under konfigurationsprocessen.
Efter installationen av Docker-behållaren och körning av Docker Utility Engine för NVIDIA GPU-konfiguration, är det sista steget att installera AI och Data Science Applications and Frameworks.
Att flytta mellan vSphere-skärmen och VM-konsolen är också sömlöst och nås från huvudmenyn. Vissa rekommenderade webbläsare verkar fungera bättre än andra. Safari kan ge dig halsbränna, men det finns sätt att kringgå dem.
Slutligen, installationen av AI-applikationen och ytterligare VM-konfigurationer slutför processen. NVIDIA är mycket lyhörd om du stöter på problem. Faktum är att vi stötte på några självförvållade problem och behövde hjälp. Vi var tillbaka i aktion med väldigt lite stillestånd. För att vara rättvis är vi en medieorganisation som utvärderar LaunchPad, men NVIDIA är mycket motiverade för att säkerställa att alla som testar LaunchPad har en produktiv tid.
Avslutande tankar
NVIDIA LaunchPad är ett robust proof-of-concept-verktyg som är imponerande lätt att använda. I slutändan ger samarbetet mellan NVIDIA, VMware och Equinix en robust miljö för att testa riktiga AI- och ML-applikationer mot några av NVIDIAs mest populära GPU:er.
Ännu bättre, NVIDIA har fått detta att fungera bra för två nyckelpersoner som behöver samarbeta, IT-administratören och datavetaren/AI-utövaren. Så ofta orsakar dessa moderna AI-arbetsbelastningar stress på den traditionella IT-stacken. Arbetsbelastningen är komplicerad, körs på dyr hårdvara och orsakar supporthuvudvärk för IT. Genom att placera LaunchPad i vSpheres välförstådda ramar försvinner många av IT:s typiska problem. Å andra sidan får AI-utövare alla verktyg de behöver, med en robust GPU och datormiljö att starta upp. När de är färdiga är de virtuella datorerna lätta att bära om en organisation vill ta sitt arbete med sig.
Vi är glada över detta kostnadsfria erbjudande från NVIDIA eftersom det påminner oss om VMware Hands-on-labs och VMware TestDrive samt den extra fördelen med att låta dig arbeta med ditt eget AI-projekt på det. Under vår tid i NVIDIA LaunchPad fann vi att dokumentationen var ganska djup och stödet var utmärkt när vi av misstag utrotade vår dåliga miljö. Med upp till fyra veckor på sig att spela runt på LaunchPad, måste organisationer som verkligen vill odla sina AI-kotletter definitivt kolla upp detta omedelbart.
För mer information om NVIDIA AI Enterprise, klicka här . För mer information om NVIDIA LaunchPad, klicka här . Prata med din NVIDIA-säljare om hur du kommer igång med NVIDIA LaunchPad.
Lär dig mer genom att lyssna på vår NVIDIA LaunchPad Podcast.
Amazon