Letar du efter en plattform för att testa dina AI/ML-applikationer innan lansering, men har inte tillgång till den redundanta miljön? Att ha förmågan att bygga och testa nya AI-arbetsbelastningar kan spara tid, pengar och huvudvärk. NVIDIA har ett svar som kan vara lösningen på ditt utvecklingsproblem. Och det är gratis! Välkommen NVIDIA LaunchPad.
Letar du efter en plattform för att testa dina AI/ML-applikationer innan lansering, men har inte tillgång till den redundanta miljön? Att ha förmågan att bygga och testa nya AI-arbetsbelastningar kan spara tid, pengar och huvudvärk. NVIDIA har ett svar som kan vara lösningen på ditt utvecklingsproblem. Och det är gratis! Välkommen NVIDIA LaunchPad.
Vi presenterar NVIDIA LaunchPad!
NVIDIA tillkännagav nyligen LaunchPad – en praktisk miljö där företagsanvändare kan använda NVIDIA AI Enterprise-servrar i en vSphere 7-miljö utan kostnad i 2-4 veckor. Även om företag är mer än välkomna att använda den här tjänsten med arbetsbelastningar som de överväger att distribuera i en NVIDIA-miljö, kan de också gå igenom labb som NVIDIA har skapat som gör att IT-proffs kan bli bekväma med att använda NVIDIA-aktiverade servrar. Om du föredrar, vi också har en podcast där Brian Beeler har ett samtal med Luke Wignall från NVIDIA om hur LaunchPad kom till och vad som händer inuti.
NVIDIA AI LaunchPad är värd i en Equinix anläggning. Plattformen tillåter företag att påskynda utvecklingen av komplexa AI-modeller med hjälp av DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command, och förtränade modeller från NVIDIA NGC. Det stöder även skalning av mainstream AI på NVIDIA-certifierade servrar distribuerade över nätverket. Dessa industristandardservrar är idealiska för att köra NVIDIA AI Enterprise mjukvarusvit på VMware vSphere för att skala AI-arbetsbelastningar i det moderna hybridmolnet.
Åtkomst till NVIDIA LaunchPad
Efter att ha fyllt i ett profilformulär får användaren en detaljerad översiktsskärm. Processen är enkel och ger instruktioner om hur man ställer in miljön för att komma åt AI-programvara och infrastruktur. Målet för NVIDIA LaunchPad är att påskynda applikationsutveckling och distribution.
NVIDIA anser att vissa företag inte använder mer AI är den ogrundade rädslan i komplexiteten i att sätta upp en miljö där AI kan köras. Med detta i åtanke skapade NVIDIA labb designade för att hantera dessa rädslor med två olika AI-proffs i åtanke; IT-administratörer och chefer som behöver stå upp och stödja AI-miljöer och AI-utövare som behöver använda dem. Att erbjuda den här tjänsten kommer att bidra till att bygga upp förtroendet för att stödja och använda AI innan man investerar en IT-budget för att bygga ut en specifik infrastruktur för att köra dessa AI-applikationer. Dessutom, att distribuera AI-arbetsbelastningar i den här miljön, med välbekanta verktyg, gör det möjligt för utvecklare att inse värdet av sitt AI-projekt med en NVIDIA GPU.
NVIDIA LaunchPad WorkFlow
GPU-optimerad mjukvaruhubb för AI, ML och högpresterande datoranvändning
NGC-katalogen är ett nav av GPU-optimerad AI, högpresterande datoranvändning (HPC) och programvara för dataanalys som förenklar och accelererar end-to-end-arbetsflöden. Med behållare av företagsklass, förutbildade AI-modeller och branschspecifika SDK:er som kan distribueras på plats, i molnet eller vid kanten, kan företag bygga och leverera lösningar snabbt och med tillförsikt.
Systemen kan vara utrustade med en NVIDIA A30 eller en T4 GPU för närvarande, även om det kan ändras när nya kort släpps. Oavsett hårdvara använder alla system NVIDIA AI Enterprise, som NVIDIA beskriver som:
"en heltäckande, molnbaserad svit av AI- och dataanalysprogramvara, optimerad, certifierad och stödd av NVIDIA för att köras på VMware vSphere med NVIDIA-certifierade system. Den innehåller viktiga möjliggörande teknologier från NVIDIA för snabb implementering, hantering och skalning av AI-arbetsbelastningar i det moderna hybridmolnet. "
Labben har vSphere förinstallerat med åtkomst till en vSphere-klient från URL:en från NVIDIA.
IT-administratörer har labb som leder dem genom stegen som är involverade i att konfigurera virtuella datorer för att använda GPU:er. AI-utövare har tillgång till labb byggda på NVIDIA AI Enterprise-sviten som inkluderar applikationer, ramverk och verktyg som AI-forskare, datavetare och utvecklare använder för att skapa sina AI- och Machine Learning-applikationer.
En av NVIDIA AI Enterprise LaunchPad-resorna leder dig genom en Jupyter labb-anteckningsbok, med NVIDIA RAPIDS och New York Citys taxidatauppsättning för att förutsäga biljettpriser på Manhattan. Datauppsättningen innehåller kolumner som upphämtningsställen, avlämningsplatser, biljettpris, antal passagerare. Data i detta labb används för att träna en XGBoost-modell på GPU. Labben som tillhandahålls av NVIDIA tar från 30 minuter till flera timmar. NVIDIA kommer att tillhandahålla lämplig miljö för varje labb.
Separat från NVIDIAs labbmiljö finns möjligheten att etablera en fungerande AI-modell. Att ansöka om hela AI LaunchPad-miljön liknar att begära ett labb.
När du väl är inloggad på NVIDIA LaunchPad, finns det detaljerade instruktioner för hur du ställer in den virtuella datorn genom att skapa en Ubuntu VM, associera en NVIDIA GPU till den, skaffa och lägga till en NVIDIA-drivrutin till operativsystemet, skaffa en NVIDIA API-nyckel och programvara och licensiera VM för att använda GPU. Eftersom AI-mjukvara är containerbaserad, inkluderar labbet installation av Docker, NVIDIA containerverktygssats, Tensor-flöde och körning av AI-exempel. Detta är en total arbetsmiljö som låter dig bygga och distribuera ditt eget AI-projekt.
Steg-för-steg tillvägagångssätt
Konfigurering av den virtuella datorn är väl dokumenterad och inmatningsskärmar har nödvändig hjälp om det behövs. NVIDIA, som arbetar med VMware, har skapat ett enkelt gränssnitt för att implementera den nödvändiga konfigurationen och installera lämpliga verktyg för att få proof-of-concept-miljön igång med minimal stress. Låt oss vara tydliga på denna punkt också. Det är mycket välutrustade maskiner. Vår miljö hade en Dell PowerEdge R750, med en NVIDIA A30 och massor av DRAM och kärnor.
När registreringsbegäran har godkänts skickar NVIDIA en URL, inklusive användarnamn och tillfälligt lösenord. Som nämnts var vår miljö en Dell NVIDIA-certifierat system med A30 GPU. Däremot finns specifika konfigurationsalternativ tillgängliga för att anpassa upplevelsen för att möta användarens behov.
Behöver du göra en förändring? NVIDIA LaunchPad har utformats för att låta användaren ta ett steg tillbaka om ändringar krävs under vägen. Menyn är alltid tillgänglig med detaljerade instruktioner.
Den virtuella datorn skapas baserat på hårdvaru- och mjukvarukraven som matas in under konfigurationsprocessen.
Efter installationen av Docker-behållaren och körning av Docker Utility Engine för NVIDIA GPU-konfiguration, är det sista steget att installera AI och Data Science Applications and Frameworks.
Att flytta mellan vSphere-skärmen och VM-konsolen är också sömlöst och nås från huvudmenyn. Vissa rekommenderade webbläsare verkar fungera bättre än andra. Safari kan ge dig halsbränna, men det finns sätt att kringgå dem.
Slutligen, installationen av AI-applikationen och ytterligare VM-konfigurationer slutför processen. NVIDIA är mycket lyhörd om du stöter på problem. Faktum är att vi stötte på några självförvållade problem och behövde hjälp. Vi var tillbaka i aktion med väldigt lite stillestånd. För att vara rättvis är vi en medieorganisation som utvärderar LaunchPad, men NVIDIA är mycket motiverade för att säkerställa att alla som testar LaunchPad har en produktiv tid.
Avslutande tankar
NVIDIA LaunchPad är ett robust proof-of-concept-verktyg som är imponerande lätt att använda. I slutändan ger samarbetet mellan NVIDIA, VMware och Equinix en robust miljö för att testa riktiga AI- och ML-applikationer mot några av NVIDIAs mest populära GPU:er.
Ännu bättre, NVIDIA har fått detta att fungera bra för två nyckelpersoner som behöver samarbeta, IT-administratören och datavetaren/AI-utövaren. Så ofta orsakar dessa moderna AI-arbetsbelastningar stress på den traditionella IT-stacken. Arbetsbelastningen är komplicerad, körs på dyr hårdvara och orsakar supporthuvudvärk för IT. Genom att placera LaunchPad i vSpheres välförstådda ramar försvinner många av IT:s typiska problem. Å andra sidan får AI-utövare alla verktyg de behöver, med en robust GPU och datormiljö att starta upp. När de är färdiga är de virtuella datorerna lätta att bära om en organisation vill ta sitt arbete med sig.
Vi är glada över detta kostnadsfria erbjudande från NVIDIA eftersom det påminner oss om VMware Hands-on-labs och VMware TestDrive samt den extra fördelen med att låta dig arbeta med ditt eget AI-projekt på det. Under vår tid i NVIDIA LaunchPad fann vi att dokumentationen var ganska djup och stödet var utmärkt när vi av misstag utrotade vår dåliga miljö. Med upp till fyra veckor på sig att spela runt på LaunchPad, måste organisationer som verkligen vill odla sina AI-kotletter definitivt kolla upp detta omedelbart.
För mer information om NVIDIA AI Enterprise, klicka här. För mer information om NVIDIA LaunchPad, klicka här. Prata med din NVIDIA-säljare om hur du kommer igång med NVIDIA LaunchPad.
Luta dig mer genom att lyssna på vår NVIDIA LaunchPad Podcast.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | Rssflöde
