Suchen Sie nach einer Plattform zum Testen Ihrer KI/ML-Anwendungen vor dem Start, haben aber keinen Zugriff auf diese redundante Umgebung? Die Möglichkeit, neue KI-Workloads zu erstellen und zu testen, kann Zeit, Geld und Kopfschmerzen sparen. NVIDIA hat eine Antwort, die möglicherweise die Lösung für Ihr Entwicklungsproblem darstellt. Und es ist kostenlos! Willkommen NVIDIA LaunchPad.
Wir stellen vor: NVIDIA LaunchPad!
NVIDIA hat kürzlich LaunchPad angekündigt – eine praktische Testumgebung, in der Unternehmenskunden NVIDIA AI Enterprise-Server in einer vSphere 7-Umgebung 2–4 Wochen lang kostenlos nutzen können. Unternehmen können diesen Service gerne für Workloads verwenden, die sie in einer NVIDIA-Umgebung einsetzen möchten. Alternativ stehen ihnen von NVIDIA entwickelte Labs zur Verfügung, in denen IT-Experten sich mit der Nutzung von NVIDIA-fähigen Servern vertraut machen können. Wir bieten außerdem einen Podcast an, in dem Brian Beeler mit Luke Wignall von NVIDIA über die Entstehung von LaunchPad und dessen Funktionsweise spricht .
NVIDIA AI LaunchPad wird in einem Rechenzentrum von Equinix gehostet . Die Plattform ermöglicht Unternehmen die beschleunigte Entwicklung komplexer KI-Modelle mithilfe von DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command und vortrainierten Modellen von NVIDIA NGC. Sie unterstützt zudem die Skalierung gängiger KI-Anwendungen auf NVIDIA-zertifizierten Servern im gesamten Netzwerk. Diese branchenüblichen Server eignen sich ideal für den Betrieb der NVIDIA AI Enterprise Software Suite auf VMware vSphere, um KI-Workloads in der modernen Hybrid Cloud zu skalieren.
Zugriff auf NVIDIA LaunchPad
Nach dem Ausfüllen eines Profilformulars wird dem Benutzer ein detaillierter Übersichtsbildschirm angezeigt. Der Prozess ist unkompliziert und bietet Anweisungen zum Einrichten der Umgebung für den Zugriff auf KI-Software und -Infrastruktur. Das Ziel von NVIDIA LaunchPad besteht darin, die Anwendungsentwicklung und -bereitstellung zu beschleunigen.
NVIDIA ist der Ansicht, dass einige Unternehmen nicht mehr KI einsetzen, was auf die unbegründete Befürchtung zurückzuführen ist, dass die Einrichtung einer Umgebung, in der KI ausgeführt werden kann, komplex ist. Vor diesem Hintergrund hat NVIDIA Labore eingerichtet, die darauf ausgelegt sind, diese Ängste mit Blick auf zwei verschiedene KI-Experten auszuräumen; IT-Administratoren und Manager, die KI-Umgebungen unterstützen und unterstützen müssen, und KI-Praktiker, die diese nutzen müssen. Das Anbieten dieses Dienstes wird dazu beitragen, Vertrauen in die Unterstützung und Nutzung von KI aufzubauen, bevor ein IT-Budget in den Aufbau einer spezifischen Infrastruktur zum Ausführen dieser KI-Anwendungen investiert wird. Darüber hinaus können Entwickler durch die Bereitstellung von KI-Workloads in dieser Umgebung mit vertrauten Tools den Wert ihres KI-Projekts mit einer NVIDIA-GPU ausschöpfen.
NVIDIA LaunchPad-WorkFlow
GPU-optimierter Software-Hub für KI, ML und Hochleistungsrechnen
Der NGC-Katalog ist eine Drehscheibe für GPU-optimierte KI, Hochleistungsrechnen (HPC) und Datenanalysesoftware, die End-to-End-Workflows vereinfacht und beschleunigt. Mit Containern der Enterprise-Klasse, vorab trainierten KI-Modellen und branchenspezifischen SDKs, die vor Ort, in der Cloud oder am Edge bereitgestellt werden können, können Unternehmen Lösungen schnell und sicher erstellen und bereitstellen.
Die Systeme sind derzeit möglicherweise mit einer NVIDIA A30- oder einer T4-GPU ausgestattet, dies kann sich jedoch mit der Veröffentlichung neuer Grafikkarten ändern. Unabhängig von der Hardware nutzen alle Systeme NVIDIA AI Enterprise, das NVIDIA wie folgt beschreibt:
„ Eine durchgängige, Cloud-native Suite von KI- und Datenanalysesoftware, optimiert, zertifiziert und unterstützt von NVIDIA für den Betrieb auf VMware vSphere mit NVIDIA-zertifizierten Systemen. Sie umfasst wichtige Basistechnologien von NVIDIA für die schnelle Bereitstellung, Verwaltung und Skalierung von KI-Workloads in der modernen Hybrid-Cloud .“
In den Laboren ist vSphere vorinstalliert und Sie können über die von NVIDIA bereitgestellte URL auf einen vSphere-Client zugreifen.
IT-Administratoren verfügen über Labore, die sie durch die Schritte führen, die bei der Konfiguration von VMs für die Verwendung von GPUs erforderlich sind. KI-Praktiker haben Zugriff auf Labore, die auf der NVIDIA AI Enterprise-Suite basieren und Anwendungen, Frameworks und Tools umfassen, die KI-Forscher, Datenwissenschaftler und Entwickler zum Erstellen ihrer KI- und maschinellen Lernanwendungen verwenden.
Eine der Übungen im NVIDIA AI Enterprise LaunchPad führt Sie durch ein Jupyter-Labor-Notebook. Dabei werden NVIDIA RAPIDS und der New Yorker Taxidatensatz verwendet, um Fahrpreise in Manhattan vorherzusagen. Der Datensatz enthält Spalten wie Abhol- und Zielort, Fahrpreis und Anzahl der Fahrgäste. Die Daten dieser Übung dienen dem Training eines XGBoost-Modells auf der GPU. Die von NVIDIA bereitgestellten Übungen dauern zwischen 30 Minuten und mehreren Stunden. NVIDIA stellt für jede Übung die passende Umgebung bereit.
Unabhängig von der NVIDIA-Laborumgebung besteht die Möglichkeit, ein funktionierendes KI-Modell zu erstellen. Die Bewerbung für die komplette AI LaunchPad-Umgebung ähnelt der Beantragung eines Labors.
Sobald Sie sich beim NVIDIA LaunchPad angemeldet haben, erhalten Sie detaillierte Anweisungen zum Einrichten der VM durch Erstellen einer Ubuntu-VM, Zuordnen einer NVIDIA-GPU, Erwerben und Hinzufügen eines NVIDIA-Treibers zum Betriebssystem, Erwerben eines NVIDIA-API-Schlüssels und einer NVIDIA-Software sowie Lizenzieren der VM zur Nutzung der GPU. Da KI-Software auf Containern basiert, umfasst das Labor die Installation von Docker, dem NVIDIA Container Tool Kit, Tensor Flow und das Ausführen von KI-Beispielen. Dies ist eine umfassende Arbeitsumgebung, die es Ihnen ermöglicht, Ihr eigenes KI-Projekt zu erstellen und bereitzustellen.
Schritt-für-Schritt-Ansatz
Die Konfiguration der VM ist gut dokumentiert, und die Eingabemasken bieten bei Bedarf die notwendige Hilfe. NVIDIA hat in Zusammenarbeit mit VMware eine benutzerfreundliche Oberfläche entwickelt, um die erforderliche Konfiguration vorzunehmen und die passenden Tools zu installieren, damit die Proof-of-Concept-Umgebung schnell und unkompliziert eingerichtet werden kann. Um es klarzustellen: Es handelt sich um sehr leistungsstarke Maschinen. Unsere Umgebung basierte auf einem Dell PowerEdge R750 mit einer NVIDIA A30 und ausreichend Arbeitsspeicher und Kernen.
Nach Genehmigung der Registrierungsanfrage sendet NVIDIA eine URL mit Benutzername und temporärem Passwort. Wie bereits erwähnt, nutzten wir ein Dell NVIDIA-zertifiziertes System mit A30-GPUs. Es stehen jedoch spezifische Konfigurationsoptionen zur Verfügung, um die Benutzererfahrung an die individuellen Bedürfnisse anzupassen.
Müssen Sie etwas ändern? NVIDIA LaunchPad wurde so konzipiert, dass der Benutzer einen Schritt zurücktreten kann, wenn unterwegs Änderungen erforderlich sind. Das Menü ist jederzeit mit detaillierten Anweisungen zugänglich.
Die VM wird basierend auf den Hardware- und Softwareanforderungen erstellt, die während des Konfigurationsprozesses eingegeben werden.
Nach der Installation des Docker-Containers und der Ausführung der Docker Utility Engine für die NVIDIA-GPU-Konfiguration besteht der letzte Schritt in der Installation von KI- und Data-Science-Anwendungen und -Frameworks.
Der Wechsel zwischen dem vSphere-Bildschirm und der VM-Konsole ist ebenfalls nahtlos und erfolgt über das Hauptmenü. Einige empfohlene Browser scheinen besser zu funktionieren als andere. Safari verursacht möglicherweise Sodbrennen, aber es gibt Möglichkeiten, dies zu umgehen.
Abschließend wird der Prozess durch die Installation der KI-Anwendung und weiterer VM-Konfigurationen abgeschlossen. NVIDIA reagiert sehr schnell, wenn Probleme auftreten. Tatsächlich stießen wir auf einige selbstverschuldete Probleme und benötigten Hilfe. Wir waren mit sehr wenigen Ausfallzeiten wieder einsatzbereit. Fairerweise muss man sagen, dass wir eine Medienorganisation sind, die LaunchPad evaluiert, aber NVIDIA ist hoch motiviert, sicherzustellen, dass jeder, der LaunchPad testet, eine produktive Zeit hat.
Fazit
Das NVIDIA LaunchPad ist ein robustes Proof-of-Concept-Tool, das beeindruckend einfach zu bedienen ist. Letztendlich bietet die Zusammenarbeit zwischen NVIDIA, VMware und Equinix eine robuste Umgebung zum Testen echter KI- und ML-Anwendungen mit einigen der beliebtesten GPUs von NVIDIA.
Besser noch: NVIDIA hat dafür gesorgt, dass dies für zwei Schlüsselpersonen, die zusammenarbeiten müssen, gut funktioniert: den IT-Administrator und den Datenwissenschaftler/KI-Praktiker. Diese modernen KI-Workloads verursachen oft eine Belastung für den traditionellen IT-Stack. Die Workloads sind kompliziert, laufen auf teurer Hardware und bereiten der IT Support-Probleme. Durch die Einbindung von LaunchPad in die wohlbekannten Grenzen von vSphere verschwinden viele der typischen Bedenken der IT-Abteilung. Andererseits erhalten KI-Anwender alle Tools, die sie benötigen, und dazu noch eine robuste GPU- und Rechenumgebung. Wenn die VMs fertig sind, sind sie leicht portierbar, wenn eine Organisation ihre Arbeit mitnehmen möchte.
Wir freuen uns über dieses kostenlose Angebot von NVIDIA, da es uns an VMware Hands-on-labs und VMware TestDrive erinnert und den zusätzlichen Vorteil bietet, dass Sie damit mit Ihrem eigenen KI-Projekt arbeiten können. Während unserer Zeit bei NVIDIA LaunchPad empfanden wir die Dokumentation als recht umfangreich und den Support als ausgezeichnet, als wir versehentlich unsere schlechte Umgebung löschten. Da LaunchPad bis zu vier Wochen Zeit zum Ausprobieren hat, sollten Unternehmen, die ihre KI-Fähigkeiten ausbauen möchten, dies auf jeden Fall sofort ausprobieren.
Für weitere Informationen zu NVIDIA AI Enterprise klicken Sie hier . Für weitere Informationen zu NVIDIA LaunchPad klicken Sie hier . Sprechen Sie mit Ihrem NVIDIA-Vertriebsmitarbeiter, um zu erfahren, wie Sie mit NVIDIA LaunchPad loslegen können.
Erfahren Sie mehr, indem Sie unseren NVIDIA LaunchPad Podcast hören.
Amazon