NVIDIA hat mit seiner neuesten Enthüllung – dem NVIDIA GH200 Grace Hopper Superchip – in der Welt der künstlichen Intelligenz (KI) und des Hochleistungsrechnens für Furore gesorgt. Dieses aktuelle Angebot hat in den MLPerf-Benchmarks eine hervorragende Leistung gezeigt und die Kompetenz von NVIDIA im Bereich Cloud- und Edge-KI unter Beweis gestellt.
Ein Superchip, der Bände spricht
Der GH200 Superchip ist nicht irgendein gewöhnlicher Chip. Es kombiniert auf einzigartige Weise eine Hopper-GPU mit einer Grace-CPU und bietet so mehr Speicher, Bandbreite und die Möglichkeit, die Leistung zwischen CPU und GPU automatisch anzupassen, um Spitzenleistung zu erzielen. Diese innovative Integration ermöglicht es dem Chip, ein empfindliches Gleichgewicht zwischen Leistung und Leistung zu erreichen und sicherzustellen, dass KI-Anwendungen die Ressourcen erhalten, die sie benötigen, wenn sie sie benötigen.
Außergewöhnliche MLPerf-Ergebnisse
MLPerf-Benchmarks sind ein angesehener Industriestandard und der GH200 von NVIDIA hat nicht enttäuscht. Der Superchip führte nicht nur alle Inferenztests im Rechenzentrum durch, sondern stellte auch die Vielseitigkeit der KI-Plattform von NVIDIA unter Beweis und erweiterte ihren Anwendungsbereich vom Cloud-Betrieb bis zu den Rändern des Netzwerks.
Darüber hinaus blieben auch die H100-GPUs von NVIDIA nicht zurück. Die mit acht H100-GPUs ausgestatteten HGX H100-Systeme zeigten bei allen MLPerf-Inferenztests einen überlegenen Durchsatz. Dies unterstreicht das immense Potenzial und die Fähigkeiten der H100-GPUs, insbesondere für Aufgaben wie Computer Vision, Spracherkennung, medizinische Bildgebung, Empfehlungssysteme und große Sprachmodelle (LLMs).
TensorRT-LLM: Verbesserung der Inferenzleistung
NVIDIA war schon immer Vorreiter kontinuierlicher Innovation, und TensorRT-LLM ist ein Beweis dafür. Diese generative KI-Software optimiert die Inferenz und ist als Open-Source-Bibliothek verfügbar. Obwohl sie nicht rechtzeitig für die August-Evaluierung bei MLPerf eingereicht wurde, birgt sie großes Potenzial und ermöglicht es Nutzern, die Leistung ihrer H100-GPUs ohne zusätzliche Kosten zu steigern. Partner wie Meta, Cohere und Grammarly haben von NVIDIAs Bemühungen zur Verbesserung der LLM-Inferenz profitiert, was die Bedeutung solcher Softwareentwicklungen im KI-Bereich unterstreicht.
L4-GPUs: Brücke zwischen Mainstream-Servern und Leistung
Die neuesten MLPerf-Benchmarks belegen die hervorragende Leistung der L4-GPUs bei einer Vielzahl von Anwendungen. In kompakten Beschleunigern eingesetzt, erreichen diese GPUs eine bis zu sechsmal höhere Effizienz als CPUs mit höherer Leistungsaufnahme. Die Integration dedizierter Media-Engines in Verbindung mit CUDA-Software verschafft der L4-GPU einen entscheidenden Vorteil, insbesondere bei Aufgaben der Computer Vision.
Grenzen überschreiten: Edge Computing und mehr
Die Fortschritte beschränken sich nicht nur auf Cloud Computing. Der Fokus von NVIDIA auf Edge Computing wird am Jetson Orin System-on-Module deutlich, das im Vergleich zu seinen Vorgängerversionen Leistungssteigerungen von bis zu 84 % bei der Objekterkennung aufweist.
MLPerf: Ein transparenter Benchmarking-Standard
MLPerf ist weiterhin ein objektiver Maßstab, auf den sich Benutzer auf der ganzen Welt bei Kaufentscheidungen verlassen. Die Einbeziehung von Cloud-Service-Giganten wie Microsoft Azure und Oracle Cloud Infrastructure sowie renommierten Systemherstellern wie Dell, Lenovo und Supermicro unterstreicht die Bedeutung von MLPerf in der Branche.
Zusammenfassend lässt sich sagen, dass NVIDIAs jüngste Leistung bei den MLPerf-Benchmarks seine Führungsposition im KI-Sektor stärkt. Mit einem breiten Ökosystem, kontinuierlichen Software-Innovationen und der Verpflichtung, qualitativ hochwertige Leistung zu liefern, gestaltet NVIDIA tatsächlich die Zukunft der KI.
Für eine detailliertere technische Analyse der Leistungen von NVIDIA verweisen wir auf den verlinkten technischen Blog . Wer die Benchmark-Erfolge von NVIDIA nachahmen möchte, findet die Software im MLPerf-Repository und im NVIDIA NGC Software Hub.
Amazon