Intels Project Battlematrix bietet eine überzeugende Lösung für zugängliche KI-Infrastruktur und erweitert Workstation-Gehäuse durch ein Multi-GPU-Design um erhebliche GPU-Speicherkapazität. Die Plattform basiert auf der professionellen GPU Battlemage Arc Pro B60 (Codename: Battlemage Arc Pro B60) und richtet sich an Unternehmen, die große Sprachmodelle lokal bereitstellen möchten, ohne Cloud-Abonnementkosten oder Datenschutzbedenken. Mit bis zu 192 GB VRAM verteilt auf acht GPUs in einem einzigen System positioniert sich Battlematrix als vergleichsweise kostengünstige Alternative zu anderen professionellen GPU-Ökosystemen für KI-Inferenz-Workloads.
Sieh diesen Beitrag auf Instagram
Battlematrix unterscheidet sich von herkömmlichen Workstation-Konfigurationen durch Intels Dual-GPU-Kartendesign, bei dem zwei vollständige B60-GPUs auf einer einzigen Platine untergebracht sind, die PCIe-Bifurkation unterstützt. Dieser dichteoptimierte Ansatz ermöglicht Konfigurationen, die andernfalls Server-Motherboards erfordern würden. Die 24 GB GDDR6 pro GPU der Arc Pro B60 machen sie besonders geeignet für speicherintensive Transformer-Modelle. Erste Tests zeigen vielversprechendes Potenzial, die Softwareoptimierung hinkt jedoch noch hinter den Hardware-Fähigkeiten her.
Offenlegung
Die Tests wurden mit frühen Software- und Treiberversionen durchgeführt, darunter Entwicklungszweige des Intel LLM Scalers. Unsere Testplattform nutzt AMD EPYC-Prozessoren anstelle der Intel Xeon-Plattform. Intel positioniert Battlematrix als reine Intel-Lösung mit Xeon 6-Prozessoren, und Seriensysteme mit Intel-CPUs könnten eine höhere Leistung aufweisen, als unsere Ergebnisse vermuten lassen. Leser sollten diese Ergebnisse als vorläufig betrachten und berücksichtigen, dass die Software-Reife und die Plattformoptimierung im Laufe des Jahres 2026 verbessert werden dürften.
Spezifikationen und Architektur
| Normen | Detail |
|---|---|
| Produkt-Sammlung | Intel® Arc™ Pro B-Series-Grafik |
| Codename | Kampfmagier |
| GPU-Architektur | Xe2 (TSMC N5) |
| Xe-Farben | 20 |
| Slices rendern | 5 |
| Raytracing-Einheiten | 20 |
| XMX-Motoren | 160 |
| Xe Vector Motoren | 160 |
| Grafik Uhr | 2400 MHz |
| Grafiktakt (LP-Modus) | 2000 MHz |
| GPU FP32-Leistung | 12.28 TFLOPS |
| GPU Peak TOPS (INT8) | 197 |
| Gesamtplatinenleistung (TBP) | 200 W |
| Memory | 24 GB GDDR6 |
| Speicherschnittstelle | 192-bit |
| Speicherbandbreite | 456 GB / s |
| RAM-Geschwindigkeit | 19 Gbps |
| PCIe-Schnittstelle | PCIe 5.0 x8 |
| Unterstützte Displays | 4 |
| Grafikausgabe | HDMI 2.1 | DP2.1 (UHBR 13.5) | DP2.1 (UHBR 10) |
| Maximale Auflösung (HDMI) | 7680 x 4320 @ 120Hz |
| Maximale Auflösung (DP) | 7680 x 4320 @ 60Hz |
| Variable HDMI-Bildwiederholfrequenz | Ja |
| Adaptive VESA-Synchronisierung | Ja |
| H.264 / H.265 / AV1 Kodierung/Dekodierung | Ja |
| Raytracing-Unterstützung | Ja |
| oneAPI-Unterstützung | Ja |
| OpenVINO-Unterstützung | Ja |
| Intel IPEX-Unterstützung | Ja |
| Intel XeSS-Unterstützung | Ja |
Das Intel Arc Pro B60 teilt seine Siliziumbasis mit dem auf Spiele ausgerichteten Intel Arc B580Beide Chips basieren auf demselben, im 5-nm-Verfahren von TSMC gefertigten Chip. Dieser 272 mm² große Chip enthält 19.6 Milliarden Transistoren und integriert 20 Xe2-Kerne. Laut Herstellerangaben liefert er 12.28 TFLOPS FP32-Rechenleistung und 197 TOPS INT8-KI-Leistung pro GPU. Der entscheidende Unterschied liegt in der Speicherkonfiguration: Während der B580 mit 12 GB GDDR6 ausgestattet ist, bietet der B60 die doppelte Kapazität mit 24 GB.
Jede B60-GPU arbeitet mit 2,400 MHz über eine 192-Bit-Speicherschnittstelle und bietet eine Bandbreite von 456 GB/s pro GPU. Die Architektur verfügt über 160 XMX-KI-Engines (Xe Matrix Extensions) pro GPU, die speziell für die Beschleunigung von Matrixoperationen bei KI-Inferenz entwickelt wurden.
Dual-GPU-Design und PCIe-Bifurkation
Die Maxsun Arc Pro B60 Dual 48G Turbo ist ein Paradebeispiel für Intels Strategie der hohen Speicherdichte: Zwei vollständige GPUs sind auf einer einzigen Dual-Slot-Karte verbaut und unabhängig voneinander über PCIe 5.0 x8-Schnittstellen verbunden. Anders als bei herkömmlichen Dual-GPU-Designs, bei denen Chips zu einer einzigen GPU zusammengefasst werden, wird jede B60-GPU vom System als separates Gerät erkannt und benötigt daher Unterstützung für PCIe x8/x8-Bifurkation auf dem Mainboard. Ein einzelner x16-Steckplatz wird elektrisch in zwei x8-Anschlüsse aufgeteilt, wobei jede GPU über eine dedizierte Bandbreite verfügt.
PCIe 5.0 x8 bietet eine bidirektionale Bandbreite von 128 GB/s pro GPU und entspricht damit PCIe 4.0 x16. Die Dual-Card-Konfiguration ist 300 mm lang, belegt zwei Steckplätze mit Radiallüfterkühlung und bezieht eine Gesamtleistung von 400 W über einen einzelnen 12V-2×6-Anschluss mit einer Nennleistung von 600 W.
Jede Dual-Grafikkarte bietet vier Display-Ausgänge: zwei DisplayPort 2.1 UHBR20 und zwei HDMI 2.1a-Anschlüsse, jeweils einen pro GPU. Dies ermöglicht separate Videoausgabekonfigurationen für virtualisierte Desktop-Umgebungen oder Mehrbenutzersysteme. Wichtig ist, dass pro GPU jeweils nur einer der beiden Display-Ausgänge genutzt werden kann.
Sieh diesen Beitrag auf Instagram
Acht-GPU-Battlematrix-Konfiguration
Intels Referenzspezifikation für Battlematrix unterstützt bis zu acht Arc Pro B60 GPUs in einem Workstation-Gehäuse, was durch den Einsatz von vier Dual-GPU-Karten erreicht wird. Diese Konfiguration bietet folgende Vorteile:
- 192 GB Gesamt-VRAM (8 × 24 GB)
- 1,280 XMX AI-Motoren
- 1,576 INT8 TOPS aggregierte Berechnung
- 3.6 TB / s kombinierte Speicherbandbreite
Die Plattform erfordert Motherboards mit vier PCIe 5.0 x16-Steckplätzen, die Bifurkation unterstützen, und die Battlematrix-Spezifikation wird auch einen Xeon 6-Prozessor beinhalten; weitere Informationen zur Battlematrix-Konfiguration sind derzeit jedoch nicht verfügbar.
Anwendungsfälle und Wertversprechen
Zielgruppe
Intels Projekt Battlematrix zielt auf drei Marktsegmente ab: KI-Entwicklungsteams mit Bedarf an lokaler Infrastruktur, Softwareentwicklungsunternehmen, die KI-gestützte Arbeitsabläufe mit sensiblen Codebasen implementieren, und Organisationen, die kostengünstige Alternativen zu Cloud-basierten Inferenzdiensten suchen. Der zentrale Nutzen der Plattform liegt in der Datensouveränität und den geringeren Gesamtbetriebskosten im Vergleich zu mehrjährigen Cloud-Abonnements.
Private KI- und Agentenentwicklung
Die Hauptstärke der Battlematrix-Plattform liegt in der Unterstützung von Entwicklungsabläufen für große Sprachmodelle, die umfangreiche Kontextfenster und eine beträchtliche Anzahl von Parametern erfordern.
Entwicklungsteams, die agentenbasierte Systeme erstellen, profitieren besonders vom verfügbaren Speicher. RAG-Agentenimplementierungen verwalten typischerweise mehrere Komponenten gleichzeitig im GPU-Speicher: das Basis-Sprachmodell, Einbettungsmodelle für die Vektorsuche und Reranking-Modelle. Darüber hinaus führen agentenbasierte Workflows mehrstufige Schlussfolgerungen, Werkzeugnutzung und Selbstkorrektur durch und generieren so durch Iteration umfangreiche Kontextfenster. Ein Codierungsagent, der eine große Codebasis analysiert, kann im Laufe seines Betriebszyklus über 100 Tokens ansammeln.
Zukünftige VDI- und virtualisierte Spiele
Intels Roadmap sieht die Aktivierung von SR-IOV (Single Root I/O Virtualization) auf Arc Pro B60 GPUs vor, wodurch die Hardware in eine Mehrbenutzer-Grafikplattform umgewandelt wird. SR-IOV ermöglicht die Aufteilung einer physischen GPU in mehrere virtuelle GPUs, die jeweils separaten virtuellen Maschinen mit direktem Hardwarezugriff und isolierten Speicherbereichen zugewiesen werden können.
Diese Funktion ermöglicht lizenzfreie Virtual Desktop Infrastructure (VDI)-Szenarien, in denen ein einzelnes Battlematrix-System mit acht GPUs Dutzende gleichzeitige Benutzer mit dedizierter GPU-Beschleunigung für CAD-Anwendungen, Videobearbeitung oder gelegentliches Gaming unterstützt. Herkömmliche VDI-Lösungen erfordern neben den Hardwarekosten auch hohe Lizenzgebühren, was oft den Einsatz teurer professioneller oder Rechenzentrums-GPUs notwendig macht. Intels Engagement für lizenzfreie Virtualisierung eliminiert diese Betriebskosten.
Preisgestaltung und Wertversprechen
Intel gab bekannt, dass die Arc Pro B60 zu einem Preis von rund 600 US-Dollar pro GPU angeboten wird. Für erste Tests und Entwicklungsarbeiten bieten Konfigurationen mit einer oder zwei GPUs (600 bis 1,200 US-Dollar) einen erschwinglichen Einstieg. Eine einzelne Dual-GPU-Karte mit 48 GB VRAM bietet ausreichend Kapazität für quantisierte Modelle und deckt einen Großteil der gängigen Open-Source-LLM-Anwendungen ab.
Die von uns getestete Konfiguration Maxsun Dual Arc Pro B60 Dual 48G Turbo kostet direkt bei Maxsun 1,200 US-Dollar, was der ursprünglichen Ankündigung von Intel entspricht. Allerdings könnten sich die jüngsten Schwankungen der Speicherpreise auf diesen Preis auswirken.
Außergewöhnliches Preis-Leistungs-Verhältnis im Einstiegsbereich
Die Konfigurationen mit einer oder zwei Grafikkarten bieten ein attraktives Preis-Leistungs-Verhältnis für kleine Teams, Einzelentwickler und Heimlabore. Mit 600 US-Dollar für 24 GB und 1,200 US-Dollar für 48 GB GPU-Speicher ist diese Plattform deutlich günstiger als professionelle GPU-Alternativen, die in der Regel mindestens doppelt so viel kosten.
Dieses Wertversprechen ist besonders für Organisationen interessant, die die Integration von KI in Betracht ziehen, ohne dafür große Unternehmensbudgets einzusetzen.
vLLM Online-Serving-Benchmark-Leistung
vLLM ist die beliebteste Engine für Inferenz und Serverbereitstellung mit hohem Durchsatz für LLMs. Der vLLM Online-Serving-Benchmark ist ein Tool zur Leistungsbewertung, das die Serverleistung unter realen Bedingungen bei gleichzeitigen Anfragen misst. Er simuliert Produktionslasten, indem er Anfragen mit konfigurierbaren Parametern wie Anfragerate, Eingabe-/Ausgabelängen und Anzahl gleichzeitiger Clients an einen laufenden vLLM-Server sendet. Der Benchmark misst wichtige Kennzahlen wie Durchsatz (Tokens pro Sekunde), Zeit bis zum ersten Token (TTFT) und Zeit pro ausgegebenem Token (TPOT) und hilft Benutzern so, die Leistung von vLLM unter verschiedenen Lastbedingungen zu verstehen.
Testplattform:
- Server: Supermicro AS-4125GS-TNRT
- Prozessoren: AMD EPYC 9374F
- Speicher: 512 GB Samsung 4800 MT/s DDR5
- GPUs: 4x Maxsun MS-Intel ARC Pro B60 Dual 48G Turbo
Quantisierungsunterstützung und -grenzen
Diese GPUs sollten sich bei Inferenz mit niedriger Präzision und optimaler Leistung durch INT4-Quantisierung auszeichnen. Da wir jedoch die sehr frühe Entwicklungsversion des Intel LLM Scalers testeten, funktionierten nur die GPT OSS-Modelle, die ursprünglich mit dem MXFP4-Mikroskalierungsformat trainiert wurden, korrekt. Andere Quantisierungsformate, darunter Standard-INT4, FP8 und AWQ, starteten gar nicht. Diese Einschränkung erschwerte unsere umfassenden Tests der GPUs erheblich. Wir erwarten jedoch eine breitere Unterstützung für Quantisierung mit zunehmender Reife der Software.
Wir testeten die meisten Modelle in zwei Konfigurationen: dem vollständigen Battlematrix-Setup mit acht GPUs und der minimalen Anzahl an GPUs, die erforderlich waren, um das Modell im Speicher zu speichern. Dieser Vergleich offenbart interessante Skalierungseigenschaften, insbesondere hinsichtlich des Kommunikationsaufwands bei kleineren Batchgrößen.
Mikroskalierung von Datentypen
Mikroskalierung ist ein fortschrittliches Quantisierungsverfahren, das feine Skalierungsfaktoren auf kleine Gewichtsblöcke anwendet, anstatt große Parametergruppen gleichmäßig zu quantisieren. Das MXFP4-Format implementiert diese Technik mithilfe einer blockweisen Gleitkommadarstellung, wobei jeder Mikroskalenblock einen gemeinsamen Exponenten als Skalierungsfaktor verwendet. Dadurch bleibt die numerische Präzision erhalten, während gleichzeitig eine 4-Bit-Genauigkeit erreicht wird. Ein wesentlicher Vorteil des MXFP4-Datentyps besteht darin, dass die Quantisierung von Modellen in INT4 die Antwortqualität nicht wesentlich beeinträchtigt, im Gegensatz zur Quantisierung von höherpräzisen Formaten wie BF16. Die GPT-OSS-Modelle werden auf den B60-Systemen mit INT4-Quantisierung ausgeführt, da diese MXFP4 nicht nativ unterstützen.
OpenAI GPT-OSS 20B
Das 20B-Parametermodell verdeutlicht den Kommunikationsaufwand. Bei einer Batchgröße von 1 erreicht eine einzelne GPU 49.22 tok/s pro Benutzer, verglichen mit nur 22.83 tok/s bei Verteilung auf alle acht GPUs. Die Einzel-GPU-Konfiguration ist somit mehr als doppelt so schnell. Die Acht-GPU-Konfiguration hingegen erzielt bei höherer Parallelität einen Gesamtdurchsatz von 511.99 tok/s bei einer Batchgröße von 16.

OpenAI GPT-OSS 120B
Das größere 120B-Modell benötigt mindestens vier GPUs, wodurch ein Vergleich mit einer einzelnen GPU entfällt. Die Leistung der Konfigurationen mit vier und acht GPUs nähert sich immer mehr an, wobei der Durchsatz pro Benutzer bei einer Batchgröße von 1 nahezu identisch ist (jeweils 16.28 Token/s). Die Konfiguration mit acht GPUs bietet bei höheren Batchgrößen durch Datenparallelität moderate Leistungssteigerungen.
Expertenmischung: Qwen3 Coder 30B-A3B
Sparse MoE-Architekturen verwalten eine große Anzahl von Parametern, aktivieren aber während der Inferenz nur eine Teilmenge. Qwen3 Coder 30B-A3B aktiviert pro Token etwa 3 Milliarden Parameter aus seinem gesamten 30-Milliarden-Parameterpool und ist daher für den Einsatz in lokalen Codierungsassistentenumgebungen beliebt.
Tests mit BF16-Genauigkeit zeigen erneut, dass die Vier-GPU-Konfiguration bei kleineren Batchgrößen Vorteile bietet. Der Durchsatz pro Benutzer erreicht 15.34 tok/s bei TP=4 gegenüber 14.15 tok/s bei TP=8 und einer Batchgröße von 1.
Dichte Modelle
Dichte Modelle folgen der konventionellen LLM-Architektur, bei der alle Parameter und Aktivierungen während der Inferenz verwendet werden, was zu einem höheren Rechenaufwand als bei ihren spärlichen Pendants führt. Ohne funktionierende INT4-Quantisierung während unseres Testzeitraums erreichten diese Modelle eine BF16-Genauigkeit.
Lama 3.1 8B Anweisung
Das kompakte 8B-Modell passt problemlos auf eine einzelne GPU, wurde aber in verschiedenen Konfigurationen getestet, um das Skalierungsverhalten zu charakterisieren. Die Ergebnisse bestätigen das Muster: Vier GPUs liefern einen Gesamtdurchsatz von 240.48 Tok/s bei einer Batchgröße von 8, verglichen mit 227.90 Tok/s mit acht GPUs bei derselben Batchgröße. Der Durchsatz pro Benutzer bei einer Batchgröße von 1 bleibt nahezu identisch (22.37 Tok/s bzw. 22.83 Tok/s).
Mistral Small 3.1 24B Anleitung
Das Mistral-Modell mit 24 Byte Parametern stellt eine anspruchsvollere Arbeitslast dar. Bei einer Genauigkeit von BF16 erzielt das Modell eine starke Durchsatzskalierung bei höheren Batchgrößen und erreicht 574.16 tok/s bei einer Batchgröße von 256 über alle acht GPUs.
Befund
Bei allen getesteten Modellen zeigt sich ein einheitliches Muster: Bei kleinen Batchgrößen und unserer Konfiguration mit 256 Eingabe-/Ausgabe-Token liefert die Verwendung der minimal erforderlichen GPU-Anzahl eine bessere Leistung pro Benutzer als die Verteilung auf alle acht GPUs . Der Kommunikationsaufwand zwischen den GPUs über PCIe, selbst bei PCIe-5.0-Geschwindigkeit, führt zu Latenzen, die die Vorteile der Parallelisierung für Einzelbenutzer oder Szenarien mit geringer Parallelität überwiegen.
Diese Erkenntnis hat praktische Auswirkungen auf die Einsatzplanung. Organisationen, die Einzelbenutzer-Codierungsassistenten oder Agenten-Workflows mit geringer Parallelität einsetzen, können mit kleineren GPU-Konfigurationen auskommen und dennoch eine akzeptable Leistung erzielen. Die vollständige Battlematrix-Konfiguration mit acht GPUs ist besonders vorteilhaft für Batch-Inferenz-Workloads, die Generierung synthetischer Daten oder Szenarien mit hoher Parallelität, in denen der Gesamtdurchsatz wichtiger ist als die Latenz pro Anfrage, insbesondere bei der Verwendung größerer Modelle, die mehr Speicher benötigen.
Erfahrungen mit Arc Pro B60s
In den von uns durchgeführten, begrenzten Tests verlief die Nutzung erstaunlich problemlos. Die Inbetriebnahme der Karten war einfach, und auch die Einrichtung von LLM-Scaler, dem Entwicklungszweig von vLLM mit Battlemage-Unterstützung, erwies sich als ebenso unkompliziert. Die Software befindet sich jedoch noch in einem sehr frühen Entwicklungsstadium. Zu Beginn unserer Tests konnten wir keine GPU-Statistiken abrufen, und abgesehen von Tensorparallelität hatten wir mit anderen Parallelisierungsstrategien wie Expert-Parallelität oder Pipeline-Parallelität zur Skalierung auf mehreren Systemen keinen Erfolg. Angesichts des Vorab-Entwicklungsstadiums der Software hatten wir diese Einschränkungen jedoch erwartet.
Die Kühlung sorgte nach unserem ersten YouTube-Kurzvideo für erhebliche Diskussionen . Viele Kommentatoren äußerten Bedenken, dass die Grafikkarten in unserem offenen Testaufbau überhitzen könnten. Da uns keine Temperaturüberwachung zur Verfügung stand, verlegten wir die Karten schließlich in ein Servergehäuse, um eine ausreichende Luftzirkulation zu gewährleisten. Wir beabsichtigen, die Kühlleistung in der Workstation-Konfiguration für unseren vollständigen Test zu prüfen, da die finale Battlematrix-Konfiguration, wie sie in Intels Marketinggrafiken oben dargestellt ist, diese Karten in einem Workstation-Gehäuse eng beieinander platziert.
Hinsichtlich des Formfaktors sind diese Karten etwas länger als Standard-Workstation-GPUs, was zu Kompatibilitätsproblemen mit Gehäusen führen kann. In Servergehäuse passen sie jedoch problemlos, da die meisten Servergehäuse im vorderen Bereich der Karte zusätzlichen Platz für Halterungen bieten.
Zukünftige Testpläne
Wir planen, Intel Battlematrix nach der vollständigen Veröffentlichung und allgemeinen Verfügbarkeit der B60s erneut zu testen und einen ausführlicheren Test durchzuführen. Die LLM-Inferenzleistung werden wir anhand zusätzlicher vLLM-Tests mit einer Vielzahl von Modellen und Bereitstellungskonfigurationen evaluieren. Obwohl in dieser Vorschau nicht dargestellt, haben wir beobachtet, dass diese GPUs im aktuellen Softwarezustand bei Prefill-Operationen besser abschneiden als bei Dekodierungsoperationen. Der vollständige Test wird Prefill- und Dekodierungs-intensive Inferenz-Workloads genauer untersuchen, um dieses Verhalten zu charakterisieren.
Die Homelab-Community zeigte Interesse an der Nutzung dieser GPUs für eine der beliebtesten Anwendungen im Homelab-Bereich: Medienserver. Wir planen, diese mit Plex und möglicherweise Jellyfin mit Mitgliedern unseres Discord-Servers zu testen . Professionelle Anwendungen, darunter SolidWorks und Autodesk für CAD-Leistungstests, stehen ebenfalls auf unserer Agenda. Darüber hinaus wollen wir SR-IOV mit Proxmox testen, um einen VDI-Server für mehrere Benutzer bereitzustellen. Discord-Mitglieder sollen so die gleichzeitige Desktop-Auslastung und Cloud-Gaming evaluieren.
Fazit
Intels Arc Pro B60 Battlematrix ist eine vielversprechende Plattform, die GPU-Speicher mit hoher Kapazität zu Workstation-Preisen zugänglich macht. Das Dual-GPU-Kartendesign behebt Dichtebeschränkungen, die 24 GB pro GPU eignen sich ideal für LLM-Inferenz-Workloads, und die Preisstruktur bietet attraktive Alternativen zu etablierten professionellen GPU-Ökosystemen. Für Unternehmen, die Datensouveränität und Kosteneffizienz gegenüber Spitzenleistung priorisieren, ist diese Plattform eine Überlegung wert.
Die Reife der Software bleibt die größte Herausforderung. Intels Investitionen in die Framework-Optimierung mittels LLM Scaler und die kontinuierliche Treiberverbesserung zeigen das Bestreben, die Arc-GPU-Produktlinie weiterhin als wertvolle Ressource zu erhalten.
Es ist noch unklar, wie beliebt die Acht-GPU-Battlematrix-Konfiguration im Vergleich zur herausragenden Leistung der NVIDIA DGX Spark sein wird . Der eigentliche Erfolg dürfte jedoch bei den Einzel- und Doppelkartenkonfigurationen liegen, deren Einstiegspreise zwischen 600 und 1,200 US-Dollar die Hürden für die Erforschung privater KI-Infrastrukturen deutlich senken.
Wir werden unsere Tests weiter ausbauen, sobald Treiberupdates verfügbar sind und die Software-Frameworks ausgereifter sind. Wenn Sie dies selbst ausprobieren möchten, treten Sie unserem Discord-Server bei . Dort bieten wir einen Community-Server mit eingeschränktem Zugriff auf B60-Systeme an.







Amazon