StorageReview.com

AMD ROCm 10 trafia do sprzedaży z ROCm.AI GA: agentami Hyperloom, umiejętnościami AMD i rzekomym 3.3-krotnym wzrostem inferencji

AI  ◇  Enterprise

Firma AMD wydała platformę ROCm 10, zbiegającą się z dziesiątą rocznicą swojego otwartego stosu oprogramowania, i udostępniła platformę ROCm.AI deweloperom. Zaprezentowana po raz pierwszy na konferencji Advancing AI 2026 , platforma programistyczna ROCm.AI to natywna platforma dla sztucznej inteligencji, której celem jest przyspieszenie procesów kompilacji, wdrażania i optymalizacji na sprzęcie AMD.

ROCm.AI łączy trzy komponenty: ROCm Hyperloom, AMD Skills i ROCm CLI, tworząc ujednolicony zestaw narzędzi dla programistów. Platforma została zaprojektowana tak, aby wnieść specjalistyczną wiedzę AMD i optymalizację agentową bezpośrednio do narzędzi, z których programiści już korzystają.

Grafika AMD na 10. rocznicę wydania ROCm – abstrakcyjna rzeźba przedstawiająca połączone w sieć sfery nad liniami kodu

Według AMD system skonfigurowany z ROCm.AI zapewnia średnio 3.3-krotną poprawę wydajności wnioskowania i 2.4-krotną poprawę wydajności szkolenia w porównaniu z ROCm 7 na równoważnym sprzęcie. Osiągnięto to dzięki optymalizacji jąder, zarządzania pamięcią i harmonogramowania opartej na sztucznej inteligencji.

Autonomiczna optymalizacja wnioskowania

ROCm Hyperloom działa jako autonomiczny system agentowy, optymalizując kompleksowe obciążenia wnioskowania, zarówno w kodzie hosta, jak i jądrach GPU. System profiluje dane obciążenie, identyfikuje wąskie gardła wydajności, analizuje potencjalne ścieżki optymalizacji, wdraża ukierunkowane zmiany w kodzie, a następnie przeprowadza testy porównawcze i weryfikuje wyniki pod kątem poprawności.

Dzięki ROCm 10, Hyperloom rozszerza obsługę układów GPU AMD Instinct i zapewnia kompatybilność z frameworkami wnioskowania vLLM i SGLang. Deweloperzy mogą kierować optymalizacjami w bazach kodu HIP, Triton i FlyDSL, a Hyperloom generuje raporty, które szczegółowo opisują proponowane zmiany wraz z mierzonymi lub prognozowanymi wzrostami wydajności. Hyperloom jest dostępny zarówno jako samodzielny proces roboczy, jak i poprzez integrację z AMD Skills.

Wyselekcjonowana wiedza specjalistyczna dla agentów kodujących AI

AMD Skills dostarcza starannie wyselekcjonowaną wiedzę techniczną AMD i sprawdzone przepływy pracy bezpośrednio do obsługiwanych agentów kodowania AI , w tym Claude Code, Cursor i Codex. Dzięki temu programiści otrzymują wskazówki dotyczące rozwiązań AMD bez opuszczania istniejącego środowiska programistycznego.

Schemat stosu referencyjnego AMD Enterprise AI z zestawem SDK ROCm Core, Primus i warstwami wnioskowania ROCm obejmującymi Instinct, Radeon i Ryzen AI

Wraz z ROCm 10, katalog umiejętności AMD rozszerza się o trzy kategorie: natywne dla klienta przepływy pracy dla lokalnej integracji AI i aplikacji, przepływy pracy między stosami obejmujące diagnostykę, routing i analizę odtwarzania oraz natywne dla serwera przepływy pracy dla kart graficznych AMD Instinct i procesorów AMD EPYC, obejmujące serwowanie, profilowanie i analizę wydajności. Umiejętności zaprezentowane na konferencji Advancing AI są teraz dostępne w sklepach Claude Code, Codex i Cursor, a także w otwartym katalogu na GitHubie. AMD oświadcza, że ​​każda umiejętność jest poddawana testom strukturalnym i behawioralnym przed udostępnieniem.

Zunifikowane zarządzanie wierszem poleceń

Interfejs wiersza poleceń ROCm CLI, będący obecnie komponentem Technology Preview platformy ROCm.AI, zapewnia stabilny, ujednolicony interfejs wiersza poleceń do konfigurowania, zarządzania i uruchamiania obciążeń AI na sprzęcie AMD. Programiści mogą korzystać z tego samego zestawu poleceń ręcznie, za pośrednictwem agenta kodującego AI lub w ramach procesów ciągłej integracji, obejmujących inspekcję systemu, instalację i zarządzanie środowiskiem ROCm, obsługę modeli, diagnostykę i kontrolę w czasie wykonywania.

Lokalna sala sterowania AI ROCm CLI działająca w terminalu z opcjami konfiguracji ROCm 10, obsługi modelu i uruchamiania diagnostyki

Interfejs wiersza poleceń jest dystrybuowany jako prekompilowany plik binarny dla systemów Windows i Linux i nie wymaga wcześniejszej instalacji ROCm. Obsługuje zarządzane środowiska ROCm z wieloma środowiskami wykonawczymi działającymi równolegle, w tym aktywację i przywracanie środowiska wykonawczego, a także zintegrowane zarządzanie modelami i silnikiem. Aktualne adaptery obsługują Lemonade na wybranych systemach klienckich AMD oraz vLLM w przypadku obsługi GPU AMD Instinct.

W pakiecie z interfejsem CLI znajduje się konsola ROCm, wcześniej znana wewnętrznie jako „dash”, która zapewnia podgląd stanu systemu i aktywności obciążenia w czasie rzeczywistym. Umożliwia ona programistom monitorowanie stanu środowiska wykonawczego ROCm, stanu obsługi modeli, wykorzystania GPU oraz danych telemetrycznych z testów porównawczych, w tym wykorzystania pamięci o dużej przepustowości, poboru mocy i współczynnika tokenów na wat na obsługiwanych systemach AMD Instinct. Interfejs ROCm CLI Technology Preview oferuje niezależne od wersji środowisko, począwszy od wersji ROCm 7.13, z planowanym formalnym wsparciem dla wersji ROCm 10.

Szersze aktualizacje stosu ROCm 10

Te narzędzia dla deweloperów bazują na szerszym pakiecie oprogramowania ROCm 10, który wprowadza bardziej modułowy zestaw ROCm Core SDK. Wydanie zawiera również aktualizacje bibliotek, kompilatorów, frameworków, obsługi modeli, dostrajania wydajności i obsługiwanych platform sprzętowych.

Etykieta Wartość:
Konfiguracja sprzętu Supermicro AS -4126GS-NMR-LCC (płytka H14DSG-OD)
8x AMD Instinct MI355X
BIOS AMI v1.4a (2025-04-16)
Oprogramowanie układowe GPU SMC 04.86.11.02
TA RAS 27.69.00.10
TA XGMI 32.00.00.20
RLC43
MEC36
SDMA12
Ubuntu LTS 22.04.2
jądro 5.15.0-70-generic
sterownik amdgpu 6.16.6
HOST ROCm 7.1.0
Konfiguracja(e) oprogramowania Obraz GLM-5 ROCm Docker: rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219, wersja PyTorch 2.8.0, SGLang v0.5.8
Obraz dokera Kimi ROCm: vllm/vllm-openai-rocm:v0.16.0, vLLM wersja 0.16.0
Obraz Dockera DeepSeek-R1: rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915, wersja SGLang V0.5.13
vs GLM-5 ROCm Docker Image: rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post, ATOM v0.1.2.post
Obraz dokera Kimi ROCm: vllm/vllm-openai-rocm:v0.22.0, wersja vLLM V0.22.0

Skontaktuj się z StorageReview

Biuletyn | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Kanał RSS

Harold Fritts

Pracuję w branży technologicznej od czasu, gdy IBM stworzyło Selectric. Moim głównym zajęciem jest jednak pisanie. Postanowiłem więc odejść z działu przedsprzedaży i wrócić do korzeni, zajmując się trochę pisaniem, ale wciąż angażując się w technologię.