Heute hat NVIDIA seine neue vComputeServer-Software angekündigt. Durch eine Partnerschaft mit VMware sollen diese neuen Technologien die GPU-Virtualisierung in KI, Deep Learning und Data Science bringen. Kunden können KI-Workloads auf GPUs nahtlos zwischen Kundenrechenzentren und VMware Cloud on AWS migrieren. Die heutige Ankündigung unterstützt nicht nur VMware vSphere, sondern auch KVM-basierte Hypervisoren wie Red Hat und Nutanix.
KI, Deep Learning und Data Science sind rechenintensive Server-Workloads. Bisher waren diese Workloads nur auf die CPU beschränkt. Mit der vComputeServer-Software und NVIDIA NGC können KI-Workloads jetzt problemlos in virtualisierten Umgebungen wie VMware vSphere bereitgestellt werden. Dies funktioniert, indem es Administratoren ermöglicht, KI-Workloads auf GPU-Servern in virtualisierten Umgebungen auszuführen. NVIDIA gibt an, dass dadurch die Sicherheit, Auslastung und Verwaltbarkeit verbessert werden. Durch die Nutzung von vComputeServer mit vier NVIDIA V100-GPUs wird Deep Learning 50-mal schneller beschleunigt als bei reinen CPU-Servern.
Die Veröffentlichung von vComputeServer erweitert das vGPU-Portfolio von NVIDIA um Unterstützung für Datenanalyse, maschinelles Lernen, KI, Deep Learning, HPC und andere Server-Workloads. Die neue Software bietet außerdem mehrere Funktionen wie GPU-Sharing, sodass mehrere virtuelle Maschinen von einer einzigen GPU betrieben werden können, und GPU-Aggregation, sodass eine oder mehrere GPUs eine virtuelle Maschine betreiben können. Dies ermöglicht eine maximale Auslastung bei gleichzeitiger kosteneffizienter Nutzung vorhandener Technologie.
Zu den Funktionen von vComputeServer gehören:
- GPU-Leistung: Bis zu 50-mal schnelleres Deep-Learning-Training als nur CPU, ähnliche Leistung wie beim Ausführen einer GPU auf Bare-Metal.
- Erweiterte Rechenleistung: Fehlerkorrekturcode und dynamische Seitenlöschung verhindern Datenbeschädigung bei hochpräzisen Workloads.
- Live-Migration: GPU-fähige virtuelle Maschinen können mit minimaler Unterbrechung oder Ausfallzeit migriert werden.
- Erhöhte Sicherheit: Unternehmen können die Sicherheitsvorteile der Servervirtualisierung auf GPU-Cluster ausweiten.
- Mandantenfähige Isolation: Workloads können isoliert werden, um mehrere Benutzer auf einer einzigen Infrastruktur sicher zu unterstützen.
- Verwaltung und Überwachung: Administratoren können dieselben Hypervisor-Virtualisierungstools zur Verwaltung von GPU-Servern verwenden, mit Transparenz auf Host-, virtueller Maschinen- und App-Ebene.
- Breites Spektrum unterstützter GPUs: vComputeServer wird auf NVIDIA T4- oder V100-GPUs sowie Quadro RTX 8000- und 6000-GPUs und früheren Generationen von P40-, P100- und P60-GPUs mit Pascal-Architektur unterstützt.
Verfügbarkeit
NVIDIA vComputeServer wird voraussichtlich diesen Monat verfügbar sein.
Amazon