Společnost NVIDIA udělala ve světě umělé inteligence (AI) a vysoce výkonných výpočtů pořádný rozruch svým nejnovějším představením – superčipu NVIDIA GH200 Grace Hopper. Tento nedávný produkt prokázal vynikající výkon v benchmarkech MLPerf a demonstroval tak schopnosti společnosti NVIDIA v oblasti cloudové a edge AI.
Superčip, který mluví za vše
Superčip GH200 není jen tak obyčejný čip. Unikátním způsobem kombinuje grafický procesor Hopper s procesorem Grace, což poskytuje zvýšenou paměť, šířku pásma a schopnost automaticky upravovat napájení mezi procesorem a grafickým procesorem pro maximální výkon. Tato inovativní integrace umožňuje čipu dosáhnout jemné rovnováhy mezi výkonem a spotřebou energie, což zajišťuje, že aplikace umělé inteligence dostanou potřebné zdroje, když je potřebují.
Výjimečné výsledky MLPerfu
Benchmarky MLPerf jsou respektovaným průmyslovým standardem a NVIDIA GH200 nezklamal. Superčip nejenže splnil všechny inferenční testy datových center, ale také předvedl všestrannost platformy umělé inteligence od NVIDIA a rozšířil její působnost od cloudových operací až po okraje sítě.
Ani grafické procesory NVIDIA H100 nezůstaly pozadu. Systémy HGX H100, vybavené osmi grafickými procesory H100, prokázaly vynikající propustnost ve všech testech MLPerf Inference. To zdůrazňuje obrovský potenciál a schopnosti grafických procesorů H100, zejména pro úkoly, jako je počítačové vidění, rozpoznávání řeči, lékařské zobrazování, doporučovací systémy a modely velkých jazyků (LLM).
TensorRT-LLM: Zesílení výkonu inference
Společnost NVIDIA byla vždy v popředí neustálých inovací a TensorRT-LLM je důkazem tohoto odkazu. Tento generativní software pro umělou inteligenci vylepšuje inferenci a je k dispozici jako open-source knihovna. Přestože nebyl včas odeslán do MLPerfu pro srpnové hodnocení, je slibný a umožňuje uživatelům zvýšit výkon jejich grafických procesorů H100 bez dalších nákladů. Partneři jako Meta, Cohere a Grammarly těžili z úsilí společnosti NVIDIA o vylepšení inference LLM, což znovu potvrzuje důležitost takového softwarového vývoje v oblasti umělé inteligence.
GPU L4: Propojení mainstreamových serverů a výkonu
V nejnovějších benchmarkech MLPerf vykazují grafické karty L4 chvályhodný výkon v celé řadě úloh. Tyto grafické karty, pokud jsou umístěny v kompaktních akcelerátorech, vykazují až šestkrát vyšší účinnost než procesory s vyšším výkonem. Zavedení specializovaných mediálních enginů ve spolupráci se softwarem CUDA dává grafickým kartám L4 výhodu, zejména v úlohách počítačového vidění.
Posouvání hranic: Edge Computing a další
Pokroky se neomezují pouze na cloud computing. Zaměření společnosti NVIDIA na edge computing je patrné u systému na modulu Jetson Orin, který vykazuje až o 84 % vyšší výkon než předchozí verze v detekci objektů.
MLPerf: Transparentní standard pro benchmarking
MLPerf je i nadále objektivním měřítkem, na které se uživatelé po celém světě spoléhají při rozhodování o nákupu. Zahrnutí cloudových gigantů, jako jsou Microsoft Azure a Oracle Cloud Infrastructure, spolu s renomovanými výrobci systémů, jako jsou Dell, Lenovo a Supermicro, podtrhuje význam MLPerf v tomto odvětví.
Závěrem lze říci, že nedávné výsledky společnosti NVIDIA v benchmarkech MLPerf posilují její vedoucí pozici v sektoru umělé inteligence. Díky širokému ekosystému, neustálým softwarovým inovacím a závazku poskytovat vysoce kvalitní výkon NVIDIA skutečně utváří budoucnost umělé inteligence.
Pro podrobnější technický přehled úspěchů společnosti NVIDIA se podívejte na odkazovaný technický blog . Ti, kteří chtějí replikovat úspěch společnosti NVIDIA v benchmarkingu, mohou k softwaru přistupovat z repozitáře MLPerf a softwarového centra NVIDIA NGC.
Amazon