StorageReview.com

AMD ROCm 10 erscheint mit ROCm.AI GA: Hyperloom-Agenten, AMD-Fähigkeiten und einer angeblichen 3.3-fachen Steigerung der Inferenzleistung.

AI  ◇  Unternehmen

AMD hat ROCm 10 veröffentlicht, zeitgleich mit dem zehnjährigen Jubiläum seines offenen Software-Stacks, und ROCm.AI allgemein für Entwickler verfügbar gemacht. ROCm.AI, erstmals auf der Advancing AI 2026 vorgestellt , ist eine KI-native Entwicklungsplattform, die Build-, Bereitstellungs- und Optimierungsprozesse auf AMD-Hardware beschleunigen soll.

ROCm.AI vereint die drei Komponenten ROCm Hyperloom, AMD Skills und die ROCm CLI zu einer einheitlichen Entwicklerumgebung. Die Plattform integriert AMD-spezifisches Fachwissen und agentenbasierte Optimierung direkt in die bereits verwendeten Tools.

AMD-Artwork zur ROCm-Jubiläumsausgabe zum 10-jährigen Bestehen: eine abstrakte Skulptur aus vernetzten Kugeln über Codezeilen.

Laut AMD bietet ein mit ROCm.AI konfiguriertes System eine durchschnittliche 3.3-fache Verbesserung der Inferenzleistung und eine 2.4-fache Verbesserung der Trainingsleistung gegenüber ROCm 7 auf gleichwertiger Hardware. Dies wird durch eine KI-gesteuerte Optimierung von Kernels, Speichermanagement und Scheduling erreicht.

Autonome Inferenzoptimierung

ROCm Hyperloom fungiert als autonomes, agentenbasiertes System zur Optimierung von End-to-End-Inferenz-Workloads sowohl auf Host-Code- als auch auf GPU-Kernel-Ebene. Das System erstellt ein Profil des jeweiligen Workloads, identifiziert Leistungsengpässe, untersucht potenzielle Optimierungspfade, implementiert gezielte Codeänderungen und validiert anschließend die Ergebnisse anhand von Benchmarks.

Mit ROCm 10 erweitert Hyperloom die Unterstützung für AMD Instinct GPUs und bietet Kompatibilität mit den Inferenzframeworks vLLM und SGLang. Entwickler können Optimierungen in HIP-, Triton- und FlyDSL-Codebasen vornehmen. Hyperloom generiert Berichte, die vorgeschlagene Änderungen sowie gemessene oder prognostizierte Leistungssteigerungen detailliert auflisten. Hyperloom ist sowohl als eigenständiger Workflow als auch durch Integration mit AMD Skills verfügbar.

Ausgewähltes Fachwissen für KI-Codierungsagenten

AMD Skills stellt kuratiertes technisches AMD-Wissen und validierte Workflows direkt in unterstützten KI-Codierungsagenten wie Claude Code, Cursor und Codex bereit. Dadurch erhalten Entwickler AMD-spezifische Anleitungen, ohne ihre bestehende Entwicklungsumgebung verlassen zu müssen.

AMD Enterprise AI Referenzstack-Diagramm mit den ROCm Core SDK-, Primus- und ROCm Inference-Schichten, die Instinct, Radeon und Ryzen AI umfassen

Mit ROCm 10 wird der AMD Skills-Katalog um drei Kategorien erweitert: Client-native Workflows für lokale KI und Anwendungsintegration, Cross-Stack-Workflows für Diagnose, Routing und Replay-Analyse sowie Server-native Workflows für AMD Instinct GPUs und AMD EPYC-Prozessoren, einschließlich Serving, Profiling und Leistungsanalyse. Die auf der Advancing AI-Konferenz vorgestellten Skills sind jetzt über die Marktplätze Claude Code, Codex und Cursor sowie über einen offenen Katalog auf GitHub verfügbar. AMD gibt an, dass jeder Skill vor der Veröffentlichung strukturellen und Verhaltenstests unterzogen wird.

Einheitliche Befehlszeilenverwaltung

Die ROCm-CLI, derzeit eine Technologievorschau-Komponente von ROCm.AI, bietet eine stabile, einheitliche Befehlszeilenschnittstelle zum Einrichten, Verwalten und Ausführen von KI-Workloads auf AMD-Hardware. Entwickler können denselben Befehlssatz manuell, über einen KI-Codierungsagenten oder innerhalb von Continuous-Integration-Pipelines verwenden. Dies umfasst Systemprüfung, Installation und Verwaltung der ROCm-Umgebung, Bereitstellung von Modellen, Diagnose und Laufzeitsteuerung.

ROCm CLI lokaler KI-Kontrollraum, der in einem Terminal läuft, mit Optionen zum Einrichten von ROCm 10, zum Bereitstellen eines Modells und zum Ausführen von Diagnosen

Die CLI wird als vorkompilierte Binärdatei für Windows und Linux bereitgestellt und benötigt keine vorherige ROCm-Installation. Sie unterstützt verwaltete ROCm-Umgebungen mit mehreren parallelen Laufzeitumgebungen, einschließlich Laufzeitaktivierung und -rücksetzung, sowie integriertes Modell- und Engine-Management. Aktuelle Adapter unterstützen Lemonade auf ausgewählten AMD-Clientsystemen und vLLM für AMD Instinct GPU-basierte Anwendungen.

Die ROCm-CLI enthält die ROCm-Konsole (intern als „dash“ bekannt), die Systemstatus und Workload-Aktivität in Echtzeit anzeigt. Entwickler können damit den Zustand der ROCm-Laufzeitumgebung, den Status der Modellbereitstellung, die GPU-Auslastung und Benchmark-Telemetriedaten überwachen, darunter die Nutzung von Arbeitsspeicher mit hoher Bandbreite, den Stromverbrauch und die Token pro Watt auf unterstützten AMD Instinct-Systemen. Die ROCm CLI Technology Preview bietet ab ROCm 7.13 eine versionsunabhängige Benutzererfahrung; die offizielle Unterstützung für ROCm 10 ist geplant.

Erweiterte ROCm 10 Stack-Updates

Diese Entwicklertools basieren auf dem umfassenderen ROCm 10-Software-Stack, der ein modulareres ROCm Core SDK einführt. Das Release enthält außerdem Aktualisierungen für Bibliotheken, Compiler, Frameworks, Modellunterstützung, Leistungsoptimierung und unterstützte Hardwareplattformen.

Label Wert
Hardwarekonfiguration Supermicro AS -4126GS-NMR-LCC (Platine H14DSG-OD)
8x AMD Instinct MI355X
BIOS AMI v1.4a (2025-04-16)
GPU-Firmware SMC 04.86.11.02
TA RAS 27.69.00.10
TA XGMI 32.00.00.20
RLC43
MEC36
SDMA12
Ubuntu LTS 22.04.2
Kernel 5.15.0-70-generic
amdgpu-Treiber 6.16.6
HOST ROCm 7.1.0
Softwarekonfiguration(en) GLM-5 ROCm Docker-Image: rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219, PyTorch Version 2.8.0, SGLang v0.5.8
Kimi ROCm Docker-Image: vllm/vllm-openai-rocm:v0.16.0, vLLM-Version 0.16.0
DeepSeek-R1 Docker-Image: rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915, SGLang Version V0.5.13
vs GLM-5 ROCm Docker Image: rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post, ATOM v0.1.2.post
Kimi ROCm Docker-Image: vllm/vllm-openai-rocm:v0.22.0, vLLM-Version V0.22.0

Beteiligen Sie sich an StorageReview

Newsletter | YouTube | Podcast (iTunes / Spotify) | Instagram | Twitter | TikTok | RSS-Feed

Harold Fritts

Ich bin in der Technologiebranche tätig, seit IBM Selectric gegründet hat. Mein Hintergrund ist jedoch das Schreiben. Also beschloss ich, aus dem Vorverkaufsgeschäft auszusteigen und zu meinen Wurzeln zurückzukehren, ein bisschen zu schreiben, mich aber immer noch mit Technologie zu beschäftigen.