StorageReview.com

Lenovo ThinkStation P3 Ultra SFF Gen 2 Testbericht: Kleines Gehäuse, überraschende Leistung

Privatkunden  ◇  Arbeitsplatz

Die Lenovo ThinkStation P3 Ultra SFF Gen 2 bietet leistungsstarke Workstation-Funktionen auf kleinstem Raum. Ideal für Architektur, Ingenieurwesen, Design, Datenanalyse und alle Bereiche, die auf ISV-zertifizierte Anwendungen setzen. Dank ihrer kompakten Bauweise ist sie perfekt für anspruchsvolle Aufgaben geeignet und somit die ideale Lösung für Teams, die hohe Leistung auf kleinem Raum benötigen.

Lenovo ThinkStation P3 Ultra SFF Gen 2: CPU-Optionen

Die ThinkStation P3 Ultra Gen 2 bietet eine breite Palette an Intel-CPU-Optionen, sodass Sie sie an Ihren Workflow und Ihr Budget anpassen können.

Lenovo ThinkStation P3 Ultra SFF Gen 2

Die Einstiegskonfigurationen beginnen mit Intels Core Ultra 5 Prozessoren. Diese CPUs nutzen Intels Hybrid-Kernarchitektur und bieten mehr als genug Leistung für alltägliche Aufgaben, Multitasking und einfache kreative Tätigkeiten. Je nach Ultra 5 Modell erreichen die Kernanzahlen bis zu 14, mit Boost-Taktraten von bis zu 5.2 GHz. Alle Ultra 5 Optionen verfügen über Intels integrierte Grafik, die für allgemeine visuelle Aufgaben und einfache Content-Erstellung geeignet ist.

Prozessortyp Farben Threads Grundfrequenz Max Frequency Cache Memory Support Prozessor Grafiken
Core Ultra 5 225 10 (6 P-Kerne + 4 E-Kerne) 10 P-Kern 3.3 GHz / E-Kern 2.7 GHz Maximaler Turbotakt bis zu 4.9 GHz / P-Kern 4.9 GHz / E-Kern 4.4 GHz 20 MB Intel Smart Cache DDR5-6400 Intel Graphics
Kern Ultra 5 225T 10 (6 P-Kerne + 4 E-Kerne) 10 P-Kern 2.5 GHz / E-Kern 1.9 GHz Maximaler Turbotakt bis zu 4.9 GHz / P-Kern 4.9 GHz / E-Kern 4.4 GHz 20 MB Intel Smart Cache DDR5-6400 Intel Graphics
Core Ultra 5 235 14 (6 P-Kerne + 8 E-Kerne) 14 P-Kern 3.4 GHz / E-Kern 2.9 GHz Maximaler Turbotakt bis zu 5.2 GHz / P-Kern 5.2 GHz / E-Kern 4.6 GHz 24 MB Intel Smart Cache DDR5-6400 Intel Graphics
Core Ultra 5 245K 14 (6 P-Kerne + 8 E-Kerne) 14 P-Kern 3.7 GHz / E-Kern 3.6 GHz Maximaler Turbotakt bis zu 5.2 GHz / P-Kern 5.2 GHz / E-Kern 4.6 GHz 24 MB Intel Smart Cache DDR5-6400 Intel Graphics
Core Ultra 7 265 20 (8 P-Kerne + 12 E-Kerne) 20 P-Kern 3.2 GHz / E-Kern 1.8 GHz Maximaler Turbotakt bis zu 5.3 GHz / P-Kern 5.2 GHz / E-Kern 4.6 GHz 30 MB Intel Smart Cache DDR5-6400 Intel Graphics
Core Ultra 7 265K 20 (8 P-Kerne + 12 E-Kerne) 20 P-Kern 3.9 GHz / E-Kern 2.7 GHz Maximaler Turbotakt bis zu 5.5 GHz / P-Kern 5.4 GHz / E-Kern 4.6 GHz 30 MB Intel Smart Cache DDR5-6400 Intel Graphics
Kern Ultra 7 265T 20 (8 P-Kerne + 12 E-Kerne) 20 P-Kern 1.5 GHz / E-Kern 1.2 GHz Maximaler Turbotakt bis zu 5.3 GHz / P-Kern 5.2 GHz / E-Kern 4.6 GHz 30 MB Intel Smart Cache DDR5-6400 Intel Graphics
Core Ultra 9 285 24 (8 P-Kerne + 16 E-Kerne) 24 P-Kern 3.8 GHz / E-Kern 2.5 GHz Maximaler Turbotakt bis zu 5.7 GHz / P-Kern 5.5 GHz / E-Kern 4.6 GHz 36 MB Intel Smart Cache DDR5-6400 Intel Graphics
Core Ultra 9 285K 24 (8 P-Kerne + 16 E-Kerne) 24 P-Kern 3.7 GHz / E-Kern 2.9 GHz Maximaler Turbotakt bis zu 5.7 GHz / P-Kern 5.5 GHz / E-Kern 4.6 GHz 36 MB Intel Smart Cache DDR5-6400 Intel Graphics
Kern Ultra 9 285T 24 (8 P-Kerne + 16 E-Kerne) 24 P-Kern 1.4 GHz / E-Kern 1.2 GHz Maximaler Turbotakt bis zu 5.4 GHz / P-Kern 5.3 GHz / E-Kern 4.6 GHz 36 MB Intel Smart Cache DDR5-6400 Intel Graphics

 

Für anspruchsvollere Arbeitsabläufe lässt sich das System mit Core Ultra 7 Prozessoren konfigurieren. Diese CPUs bieten bis zu 20 Kerne (8 P + 12 E) und liefern eine höhere, dauerhafte Leistung für Aufgaben wie Codekompilierung, Medienerstellung und CAD-Arbeiten. Die Boost-Taktraten erreichen bei Modellen der K-Serie bis zu 5.5 GHz und ermöglichen so schnellere Reaktionszeiten bei hoher Arbeitslast und großen Datensätzen.

Lenovo ThinkStation P3 Ultra SFF Gen 2 Front

Im High-End-Bereich bietet Lenovo Core Ultra 9-Konfigurationen mit bis zu 24 Kernen, die ausreichend Leistung für Aufgaben wie Rendering, Simulation und Datenanalyse liefern. Die Ultra 9-Modelle erreichen Taktraten von bis zu 5.7 GHz und unterstützen DDR5-5600 oder DDR5-6400, wodurch das System auch unter Volllast reaktionsschnell bleibt. Trotz dieser enormen Leistung fügen sich die Ultra 9-Optionen problemlos in das kompakte Kühldesign des P3 Ultra SFF Gen2 ein und ergeben so ein leistungsstarkes System auf kleinstem Raum.

GPU-Optionen

Lenovo bietet für die ThinkStation P3 Ultra SFF Gen 2 eine gezielte Auswahl an GPU-Optionen, von der in die Core Ultra-Prozessoren integrierten Intel-Grafik bis hin zu verschiedenen professionellen NVIDIA-Karten. Diese Optionen decken alle Anwendungsbereiche ab, von einfachen Büroarbeiten und kreativen Projekten bis hin zu anspruchsvollen 3D-, CAD- und KI-Anwendungen.

Die integrierte Intel-GPU ist für allgemeine Produktivitätsaufgaben, einfache Multimedia-Anwendungen und Multi-Monitor-Setups ausreichend. Sie hält den Stromverbrauch niedrig und genügt Nutzern, die keine GPU-beschleunigten Anwendungen benötigen.

Grafiken Memory Tuning Anschluss Formfaktor SLI / NVLink
Nvidia RTX A400 4GB GDDR6 50W 4× miniDP 1.4a Einzelner Steckplatz Keine Präsentation
Nvidia RTX A1000 8GB GDDR6 50W 4× miniDP 1.4a Einzelner Steckplatz Keine Präsentation
NVIDIA RTX 4000 SFF Ada Generation 20 GB GDDR6 mit ECC 70W 4× miniDP 1.4a Doppelsteckplatz Keine Präsentation
NVIDIA RTX 2000 Ada-Generation 16 GB GDDR6 mit ECC 70W 4× miniDP 1.4a Doppelsteckplatz Keine Präsentation

 

Für Anwender mit hohen Ansprüchen an die Grafikleistung einer Workstation bietet Lenovo im Gen 2-Gehäuse drei dedizierte NVIDIA-GPUs. Die Einstiegsoption ist die NVIDIA RTX A1000 mit 8 GB GDDR6-Speicher, die sich ideal für CAD, Design und GPU-gestützte Workflows eignet. Die leistungsstärkere RTX 2000 Ada bietet mit ebenfalls 8 GB GDDR6-Speicher eine höhere CUDA-, RT- und Tensor-Performance und ist damit deutlich besser für Echtzeitmodellierung, Visualisierung und rechenintensive Rasterberechnungen geeignet.

Das System lässt sich im High-End-Bereich mit der RTX 4000 SFF Ada Generation ausstatten, einer kompakten 70-Watt-Karte mit 20 GB GDDR6-Speicher, die starke Leistung für Rendering, KI-Anwendungen, Simulationen und größere Designprojekte bietet. Sie ist die leistungsstärkste GPU für die Gen2 Ultra und stellt einen deutlichen Fortschritt für Anwender dar, die hohe CUDA-Leistung auf kleinstem Raum benötigen.

Speicher und Speicher

Lenovo bietet mit der ThinkStation P3 Ultra Gen 2 SFF große Flexibilität bei Arbeitsspeicher und Datenspeicher, was maßgeblich zu ihrer vielseitigen Einsatzfähigkeit beiträgt. Sie unterstützt bis zu 128 GB DDR5-SO-DIMM-Speicher in zwei Steckplätzen mit Geschwindigkeiten von bis zu DDR5-5600 oder DDR5-6400, abhängig von Prozessor und Konfiguration. Für typische Produktivitäts- und Kreativanwendungen steht Standard-Speicher ohne ECC-Speicher zur Verfügung, während ECC-Speicher für höhere Zuverlässigkeit in Anwendungen wie Simulation, Engineering oder Finanzmodellierung sorgt. ECC erkennt und korrigiert kleine Speicherfehler und trägt so zur Stabilität von langlaufenden oder kritischen Anwendungen bei. Je nach Konfiguration und CPU-Unterstützung passt das System die Speichergeschwindigkeit automatisch an, um einen stabilen Betrieb zu gewährleisten.

Für den Speicher nutzt das P3 Ultra SFF Gen2 ausschließlich M.2-Steckplätze und unterstützt je nach Konfiguration und Adapterkarte bis zu vier M.2 PCIe SSDs. Die genaue Steckplatzbelegung variiert, kann aber drei integrierte Steckplätze sowie zusätzliche M.2-Steckplätze über eine Erweiterungskarte umfassen. Lenovo bietet sowohl Gen 4- als auch Gen 5-Performance-SSDs mit Speicherkapazitäten von 256 GB bis 4 TB an. Jeder Steckplatz unterstützt Opal 2.0 für maximale Datensicherheit.

RAID-Unterstützung wird durch den integrierten NVMe-Controller bereitgestellt und ermöglicht je nach Konfiguration RAID 0, RAID 1 oder RAID 5. Dank dieser Architektur lässt sich ein schnelles Startlaufwerk problemlos mit zusätzlichen SSDs für laufende Projekte, große Datensätze oder temporären Speicher kombinieren.

Lenovo ThinkStation P3 Ultra SFF Gen 2 Unterseite

Das System basiert auf dem Intel W880 Chipsatz, der PCIe Gen 4-Konnektivität für den GPU-Steckplatz und M.2-Speicher bietet. Gen 5 wird bei bestimmten Speicherkonfigurationen unterstützt. Lenovo bietet externe Netzteile mit 170 W, 230 W, 245 W und 330 W an, die alle einen Wirkungsgrad von 90 % aufweisen. Das 245-W-Netzteil verfügt über eine automatische Spannungserkennung, während die anderen Netzteile einen universellen Eingangsspannungsbereich von 100 V bis 240 V unterstützen.

Das System unterstützt zudem die Fernverwaltung über ein optionales Aspeed BMC, sodass IT-Teams den Systemzustand prüfen und Updates einspielen können, ohne vor Ort sein zu müssen. Im Bereich Sicherheit bietet Lenovos ThinkShield mehrere Schutzebenen, darunter TPM 2.0, ein selbstheilendes BIOS und Smart USB Protection, um Daten und Hardware zu schützen.

Lenovo ThinkStation P3 Ultra Gen 2 Spezifikationen

Normen Detail
Prozessoroptionen Intel Core Ultra 5 / Ultra 7 / Ultra 9 Prozessoren, bis zu 24 Kerne.
Zu den unterstützten Modellen gehören:
Ultra 5 225, 225T, 235, 245K
Ultra 7 265, 265K, 265T
Ultra 9 285, 285K, 285T
Boost-Taktraten bis zu 5.7 GHz.
Chipsatz Intel W880
Integrierte Graphiken Intel-Grafik (in allen Core Ultra-CPUs integriert)
Optionen für diskrete GPUs NVIDIA RTX A400: 4 GB GDDR6, 50 W, Single-Slot
NVIDIA RTX A1000: 8 GB GDDR6, 50 W, Single-Slot
NVIDIA RTX 2000 Ada Generation: 16 GB GDDR6 mit ECC, 70 W, Dual-Slot
NVIDIA RTX 4000 SFF Ada Generation: 20 GB GDDR6 mit ECC, 70 W, Dual-Slot
Memory Support Bis zu 128GB DDR5
Memory Slots 4 × DDR5 SODIMM-Steckplätze
Speichergeschwindigkeiten DDR5-5600 und DDR5-6400
ECC-Unterstützung Ja (ECC SODIMM wird unterstützt)
Speicherunterstützung Nur M.2 NVMe (kein 2.5-Zoll-Einschub)
Unterstützung für bis zu 4 × M.2-Steckplätze je nach Konfiguration.
Kompatibel mit PCIe Gen 4 und Gen 5.
RAID 0 und RAID 1 werden auf M.2-Laufwerken unterstützt.
Erweiterungssteckplätze Je nach Riser-Karte bis zu 3 PCIe-Steckplätze:
PCIe 4.0 x16, PCIe 4.0 x8, plus optionale serielle Karte oder Thunderbolt 4-Karte.
Frontanschlüsse 2 × USB-C 20 Gbit/s
1 × USB-A 10 Gbit/s
1 × 3.5-mm-Audiobuchse
Anschlüsse an der Rückseite 4 × USB-A 10 Gbit/s
3 × DisplayPort 1.2
1 × Gigabit-Ethernet (RJ-45)
Optional: 1 × Thunderbolt 4
Optional: Serielle Schnittstelle (1-Port- oder 4-Port-Version)
Ethernet 1 × Gigabit Ethernet (I219-LM)
Wireless Intel Wi-Fi 7 BE200 + Bluetooth 5.4
Audio Realtek ALC888Q mit Line-Out- und Mikrofonunterstützung
Stromversorgungsoptionen 170W (90%)
230W (90%)
245 W (90 %, automatische Erkennung)
330W (90%)
Sicherheit TPM 2.0
Selbstheilendes BIOS
Intelligenter USB-Schutz
Kensington-Schloss
Handlichkeit Optionales Aspeed BMC für Fernüberwachung und -verwaltung.
Betriebssysteme Windows-11 Pro
Ubuntu Linux
Red Hat Enterprise Linux
Abmessungen 87 × 223 × 202 mm
Gewicht Ca. 3.6 kg
Langlebigkeit MIL-STD-810H zertifiziert

Lenovo ThinkStation P3 Ultra SFF Gen 2: Design und Verarbeitung

Die ThinkStation P3 Ultra Gen 2 SFF besticht durch ihr innovatives, kompaktes Design und vereint Workstation-Leistung in einem Gehäuse mit Abmessungen von nur 87 x 223 x 202 mm. Mit einem Gewicht von ca. 3.6 kg liegt das System solide in der Hand. Die wabenförmige Frontblende optimiert die Luftzirkulation und verleiht dem System ein markantes, robustes Aussehen, das sich ideal für Studio- oder Laborumgebungen eignet. Das Gehäuse erfüllt die Anforderungen des MIL-STD-810H-Standards und ist somit vibrations-, hitze- und staubbeständig.

Lenovo ThinkStation P3 Ultra SFF Gen 2 Anschlüsse

Die Vorderseite verfügt über zwei USB-C-Anschlüsse (20 Gbit/s), einen USB-A-Anschluss (10 Gbit/s) und eine kombinierte Kopfhörer-/Mikrofonbuchse für den schnellen Zugriff auf häufig genutzte Verbindungen. Thunderbolt 4 ist nur über eine optionale Erweiterungskarte auf der Rückseite verfügbar. Auf der Rückseite befinden sich vier USB-A-Anschlüsse (10 Gbit/s), drei DisplayPort 1.2-Ausgänge und eine Gigabit-Ethernet-Buchse. Optionale Erweiterungskarten ermöglichen das Hinzufügen eines Thunderbolt-4-Anschlusses oder serieller Schnittstellen, sodass das System für spezifische professionelle Setups angepasst werden kann.

Lenovo ThinkStation P3 Ultra SFF Gen 2 GPU

Um Zugang zum Innenraum zu erhalten, drücken Sie die Chassisverriegelungen in die offene Position, dann sollte sich das Chassis herausschieben lassen.

Beim Öffnen des Systems fällt Lenovos Zwei-Zonen-Kühlsystem ins Auge. Das P3 Ultra Gen 2 nutzt geformte Luftkanäle, die GPU und CPU trennen und Frischluft direkt über die einzelnen Komponenten leiten, bevor sie durch den hinteren Luftauslass wieder austritt. Dieses Design verhindert eine Überhitzung von CPU und GPU und sorgt für einen stabilen Systembetrieb auch unter Last.

Innenleben der Lenovo ThinkStation P3 Ultra SFF Gen 2

Hier befinden sich zwei DDR5-SO-DIMM-Steckplätze an der linken Kante, während die CPU-Rückplatte und ein Systemlüfter den mittleren Bereich ausfüllen. Auf dieser Seite ist auch die Verkabelung des WLAN-Moduls untergebracht. Die CPU ist vom Benutzer austauschbar.

Lenovo ThinkStation P3 Ultra Gen 2 Leistung

Wir werden die Benchmark-Ergebnisse mit den folgenden Systemen vergleichen:

Der P3 Tower und der P3 Tiny eignen sich hervorragend als Vergleichspunkte für den P3 Ultra, da sie die Skalierbarkeit dieser Plattform in beiden Leistungsbereichen verdeutlichen. Der Tower zeigt, was der Ultra 9 285 mit einem größeren Gehäuse und einer leistungsstärkeren GPU (NVIDIA RTX 5000 Ada) leisten kann. Gleichzeitig demonstriert der P3 Tiny, wie sich die Performance verändert, wenn Kühlung und GPU-Leistung (NVIDIA RTX A1000) eingeschränkter sind.

Technische Daten:

  • Prozessor: Intel Core Ultra 9 285, 24 Threads (8 P-Kerne + 16 E-Kerne), Turbotakt bis zu 5.1 GHz
  • Betriebssystem: Windows 11 Pro 64-Bit
  • Grafik: NVIDIA RTX 4000 Ada
  • Arbeitsspeicher: 2 x 32 GB SO-DIMM DDR5 Non-ECC
  • Speicher: 1x 1 TB Samsung PM9E1 PCIe 5.0 SSD

Zum Zeitpunkt dieser Rezension listet BHPhoto genau dieses Modell für 4,128 US-Dollar.

UL Procyon KI-Inferenz-Benchmark

Der Procyon AI Inference Benchmark ermöglicht zuverlässige und effiziente Leistungstests durch die Optimierung der KI-Inferenzbewertung auf verschiedenen Plattformen. Er wurde in Zusammenarbeit mit führenden KI-Hardwareherstellern entwickelt und minimiert die Komplexität variabler Modelle und Systemkonfigurationen, um konsistente und reproduzierbare Benchmarks zu gewährleisten. Optimiert für die Messung von CPUs, GPUs oder KI-Beschleunigern, liefert er wertvolle Erkenntnisse darüber, wie gut verschiedene Systeme reale KI-Aufgaben bewältigen.

Der P3 Ultra liefert eine stabile CPU-Inferenzleistung mit 0.99 ms bei MobileNet und 8.52 ms bei komplexeren Modellen wie ResNet 50. Bei Workloads wie Inception V4 (25.57 ms) und DeepLab V3 (31.42 ms) steigt die Latenz erwartungsgemäß mit zunehmender Modellgröße. REAL-ESRGAN erreichte 2,565 ms, was angesichts seiner Komplexität normal ist. Der Ultra liegt bei den meisten CPU-Modellen hinter dem Tower und dem Tiny zurück, die Unterschiede sind jedoch gering.

CPU-Ergebnisse (durchschnittliche Zeit in ms) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Gesamtpunktzahl für KI-Computervision 157 196 184
MobileNet V3 0.99 ms 0.94 ms 0.98 ms
ResNet 50 8.52 ms 6.83 ms 7.47 ms
Inception V4 25.57 ms 19.66 ms 18.94 ms
DeepLab V3 31.42 ms 24.89 ms 24.97 ms
YOLO V3 58.88 ms 43.43 ms 44.46 ms
ECHT-ESRGAN 2,565.34 ms 2,019.39 ms 2,586.87 ms

Mit der RTX 4000 Ada erzielt das Ultra solide GPU-Zeiten wie 0.56 ms für MobileNet, 2.26 ms für ResNet 50 und 6.04 ms für Inception V4. YOLO V3 wird in 9.17 ms und REAL-ESRGAN in 246.78 ms berechnet. Dies sind starke Ergebnisse für ein so kompaktes System und liegen deutlich vor dem Tiny. Der Tower mit seiner leistungsstärkeren GPU beendet die Berechnungen naturgemäß deutlich schneller, insbesondere bei komplexeren Netzwerken.

GPU-Ergebnisse (durchschnittliche Zeit in ms) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285)(NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Gesamtpunktzahl für KI-Computervision 627 1,168 294
MobileNet V3 0.56 ms 0.46 ms 1.11 ms
ResNet 50 2.26 ms 1.07 ms 4.99 ms
Inception V4 6.04 ms 2.71 ms 14.49 ms
DeepLab V3 14.73 ms 12.27 ms 23.79 ms
YOLO V3 9.17 ms 4.63 ms 23.02 ms
ECHT-ESRGAN 246.78 ms 81.82 ms 538.75 ms

TensorRT steigert die Beschleunigung des Ultra deutlich und reduziert die Laufzeiten von MobileNet auf 0.31 ms, von ResNet 50 auf 1.42 ms und von Inception V4 auf 4.41 ms. DeepLab V3 benötigt 4.52 ms, YOLO V3 folgt mit 5.22 ms. REAL-ESRGAN verzeichnet eine merkliche Verbesserung auf 278 ms. Der Ultra positioniert sich zwischen Tower und Tiny und bietet eine überzeugende Kombination aus Geschwindigkeit und Effizienz für seine Größe, während der Tower dank seiner RTX 5000 Ada einen deutlich größeren Vorsprung hat.

TensorRT-Ergebnisse (durchschnittliche Zeit in ms) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Gesamtpunktzahl für KI-Computervision 1,031 1,706 532
MobileNet V3 0.31 ms 0.24 ms 0.55 ms
ResNet 50 1.42 ms 0.94 ms 2.45 ms
Inception V4 4.41 ms 2.76 ms 7.43 ms
DeepLab V3 4.52 ms 3.92 ms 9.44 ms
YOLO V3 5.22 ms 3.09 ms 12.01 ms
ECHT-ESRGAN 278.46 ms 84.04 ms 602.72 ms

UL Procyon: KI-Textgenerierung

Der Procyon AI Text Generation Benchmark vereinfacht die Leistungsprüfung von KI-basierten LLM-Modellen durch eine prägnante und konsistente Bewertungsmethode. Er ermöglicht wiederholte Tests mit verschiedenen LLM-Modellen und minimiert gleichzeitig die Komplexität großer Modelle und variabler Faktoren. Entwickelt in Zusammenarbeit mit führenden KI-Hardware-Herstellern, optimiert er die Nutzung lokaler KI-Beschleuniger für zuverlässigere und effizientere Leistungsbewertungen. Die unten aufgeführten Ergebnisse wurden mit TensorRT ermittelt.

Bei den Tests zur Textgenerierung lieferte die RTX 4000 Ada des Ultra über alle Modelle hinweg eine solide Leistung. Phi gibt sein erstes Token nach 0.395 Sekunden aus und erreicht durchschnittlich etwa 82 Token pro Sekunde. Mistral benötigt mit 0.666 Sekunden etwas länger zum Starten und produziert rund 57 Token pro Sekunde, während Llama3 etwa 48 Token pro Sekunde ausgibt. Llama2 braucht mit 1.1 Sekunden länger zum Starten und erreicht etwa 26 Token pro Sekunde. Der Ultra liegt in puncto Reaktionsfähigkeit durchgehend zwischen dem Tower und dem Tiny, tendiert aber eher zum Tower.

UL Procyon: KI-Textgenerierung Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Phi-Gesamtpunktzahl 2,303 4,344 1,117
Phi-Ausgabezeit bis zum ersten Token 0.395 s 0.218 s 0.808 s
Phi-Ausgabetoken pro Sekunde 81.784 Token/s 160.757 Token/s 39.379 Token/s
Phi Gesamtdauer 35.869 s 18.356 s 27.734 s
Mistral-Gesamtpunktzahl 1,977 4,136 3,045
Mistral-Ausgabezeit bis zum ersten Token 0.666 s 0.314 s 1.398 s
Mistral-Ausgabetoken pro Sekunde 57.102 Token/s 117.784 Token/s 27.734 Token/s
Mistral Gesamtdauer 51.942 s 25.142 s 107.361 s
Llama3 Gesamtpunktzahl 1,759 3,611 837
Llama3-Ausgabezeit bis zum ersten Token 0.628 s 0.301 s 1.412 s
Llama3-Ausgabetoken pro Sekunde 47.884 Token/s 96.565 Token/s 24.323 Token/s
Llama3 Gesamtdauer 61.189 s 30.285 s 121.980 s
Llama2 Gesamtpunktzahl 1,770 3,942 -
Llama2-Ausgabezeit bis zum ersten Token 1.106 s 0.502 s -
Llama2-Ausgabetoken pro Sekunde 25.617 Token/s 57.623 Token/s -
Llama2 Gesamtdauer 112.746 s 50.269 s -

UL-Procyon: KI-Bilderzeugung

Der Procyon AI Image Generation Benchmark bietet eine konsistente und präzise Methode zur Messung der KI-Inferenzleistung auf unterschiedlichster Hardware, von stromsparenden NPUs bis hin zu High-End-GPUs. Er umfasst drei Tests: Stable Diffusion XL (FP16) für High-End-GPUs, Stable Diffusion 1.5 (FP16) für GPUs mittlerer Leistung und Stable Diffusion 1.5 (INT8) für stromsparende Geräte. Der Benchmark verwendet für jedes System die optimale Inferenz-Engine und gewährleistet so faire und vergleichbare Ergebnisse.

Der P3 Ultra verarbeitet FP16 Stable Diffusion 1.5 in 4.75 Sekunden pro Bild und schließt den gesamten Durchlauf in etwa 76 Sekunden ab. INT8-Inferenz ist deutlich schneller und benötigt nur 1.81 Sekunden pro Bild für insgesamt 14.48 Sekunden. Stable Diffusion XL ist rechenintensiver und dauert 35.31 Sekunden pro Bild und insgesamt 565 Sekunden. Mit diesen Geschwindigkeiten liegt der Ultra deutlich vor dem Tiny, während der Tower dank seiner leistungsstärkeren GPU weiterhin deutlich schneller ist.

UL Procyon: KI-Bildgenerierung Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Stabile Diffusion 1.5 (FP16) – Gesamtpunktzahl 1,316 3,734 558
Stabile Diffusion 1.5 (FP16) – Gesamtzeit 75.986 s 26.779 s 179.144 s
Stable Diffusion 1.5 (FP16) – Bildgenerierungsgeschwindigkeit 4.749 s/Bild 1.674 s/Bild 11.196 s/Bild
Stabile Diffusion 1.5 (INT8) – Gesamtpunktzahl 17,263 45,881 6,793
Stabile Diffusion 1.5 (INT8) – Gesamtzeit 14.482 s 5.449 s 36.798 s
Stabile Diffusion 1.5 (INT8) – Bildgenerierungsgeschwindigkeit 1.810 s/Bild 0.681 s/Bild 4.600 s/Bild
Stabile Diffusion XL (FP16) – Gesamtpunktzahl  1,061 3,293 -
Stabile Diffusion XL (FP16) – Gesamtzeit 565.015 182.179 s -
Stabile Diffusion XL (FP16) – Bildgenerierungsgeschwindigkeit 35.313 s/Bild 11.386 s/Bild -

SPECworkstation 4

Der SPECworkstation 4.0 Benchmark ist ein umfassendes Tool zur Bewertung aller wichtigen Aspekte der Workstation-Leistung. Er liefert praxisnahe Messwerte für CPU-, Grafik-, Beschleuniger- und Festplattenleistung und ermöglicht es Anwendern, fundierte Entscheidungen hinsichtlich ihrer Hardware-Investitionen zu treffen. Der Benchmark beinhaltet spezielle Tests für KI/ML-Workloads, darunter Data-Science-Aufgaben und ONNX-Runtime-basierte Inferenztests, die die wachsende Bedeutung von KI/ML in Workstation-Umgebungen widerspiegeln. Er deckt sieben Branchen und vier Hardware-Subsysteme ab und bietet so eine detaillierte und relevante Messung der Leistungsfähigkeit aktueller Workstations.

In allen Kategorien von SPECworkstation erzielt das Ultra starke Ergebnisse, darunter 2.11 in Energie, 2.51 in Biowissenschaften und 2.28 in Medien und Unterhaltung. Produktdesign erreicht 2.28. Während das Tower in jeder Kategorie führend ist und das Tiny deutlich zurückliegt, positioniert sich das Ultra wie gewohnt im Mittelfeld.

SPECworkstation 4.0.0 (Höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Energie 2.11 2.49 1.33
Finanzdienstleistungen 1.52 2.44 1.62
Biowissenschaften 2.51 2.84 1.80
Medien & Unterhaltung 2.28 2.69 1.89
Produkt Design 2.28 2.46 1.77
Produktivität & Entwicklung 1.29 1.50 1.29

Luxmark

Luxmark ist ein GPU-Benchmark, der LuxRender, einen Open-Source-Raytracing-Renderer, nutzt, um die Systemleistung anhand hochdetaillierter 3D-Szenen zu bewerten. Dieser Benchmark eignet sich zur Beurteilung der Grafikrendering-Fähigkeiten von Servern und Workstations, insbesondere für Anwendungen im Bereich visueller Effekte und Architekturvisualisierung, bei denen eine präzise Lichtsimulation unerlässlich ist.

Die RTX 4000 Ada des P3 Ultra liefert solide Luxmark-Ergebnisse mit 15,054 Punkten im Hallbench-Benchmark und 5,612 Punkten in der Food-Szene. Diese Werte zeigen, dass der Ultra für eine kompakte Workstation Raytracing-Anwendungen recht effizient bewältigt. Seine Leistung liegt deutlich über der des Tiny mit seiner schwächeren GPU, während der Tower naturgemäß die Nase vorn hat.

Insgesamt bietet die Ultra genügend Raytracing-Leistung für Visualisierung, Beleuchtungsvorschau und GPU-beschleunigtes Rendering im alltäglichen professionellen Workflow.

Luxmark (Höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Hallenbank 15,054 26,792 7,423
Essen - Food 5,612 12,562 2,860

7-Zip-Komprimierung

Der 7-Zip Compression Benchmark bewertet die CPU-Leistung während der Komprimierung und Dekomprimierung und misst GIPS (Giga Instructions Per Second) und die CPU-Auslastung. Höhere GIPS und eine effiziente CPU-Auslastung weisen auf eine bessere Leistung hin.

Der Ultra bietet eine starke Komprimierungsleistung mit einer Gesamtleistung von 162.530 GIPS und einer CPU-Auslastung von rund 2,179 %. Einzelne Komprimierungsdurchläufe erreichen etwa 161–162 GIPS, die Dekomprimierung liegt bei etwa 162.5 GIPS. Diese Werte übertreffen den Tiny und liegen trotz des Größenunterschieds nahe an denen des Tower. Bei rechenintensiven Komprimierungsaufgaben liefert der Ultra die vom Ultra 9 285-Prozessor erwartete Leistung.

7-Zip-Komprimierungs-Benchmark (höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Kompression
Aktuelle CPU-Auslastung 2,129% 1,899% 2,030%
Aktuelle Bewertung/Nutzung 7.590 GIPS 6.970 GIPS 5.369 GIPS
Aktuelle Bewertung 161.558 GIPS 132.461 GIPS 109.008 GIPS
Resultierende CPU-Auslastung 2,116% 1,894% 2,007%
Resultierende Bewertung/Nutzung 7.689 GIPS 7.115 GIPS 5,492 GIPS
Resultierende Bewertung 162.405 GIPS 134.748 GIPS 110.189 GIPS
Dekompression
Aktuelle CPU-Auslastung 2,263% 2,191% 2,243%
Aktuelle Bewertung/Nutzung 7.184 GIPS 6.937 GIPS 6.049 GIPS
Aktuelle Bewertung 162.532 GIPS 152.009 GIPS 135.698 GIPS
Resultierende CPU-Auslastung 2,243% 1,979% 2,232%
Resultierende Bewertung/Nutzung 7.239 GIPS 7,209 GIPS 6.479 GIPS
Resultierende Bewertung 162.405 GIPS 142.655 GIPS 144.454 GIPS
Gesamtbewertung
Gesamt-CPU-Auslastung 2,179% 1,937% 2,120%
Gesamtbewertung/Nutzung 7.464 GIPS 7.162 GIPS 5.985 GIPS
Gesamtbewertung 162.530 GIPS 138.701 GIPS 127.322 GIPS

Blackmagic RAW-Geschwindigkeitstest

Der Blackmagic RAW Speed ​​Test ist ein Leistungsbenchmarker, der die Leistungsfähigkeit eines Systems bei der Videowiedergabe und -bearbeitung mit dem Blackmagic RAW-Codec misst. Er bewertet, wie gut ein System hochauflösende Videodateien dekodiert und wiedergibt und gibt die Bildraten für die CPU- und GPU-basierte Verarbeitung aus.

Im RAW-Test dekodiert die Ultra 8K-CPU-Material mit 114 fps und verarbeitet 8K OpenCL mit 129 fps. Damit positioniert sie sich zwischen der Tower und der Tiny und bietet ein solides Mittelklasse-Erlebnis für alle, die mit anspruchsvollem 8K-Material arbeiten.

Blackmagic RAW-Geschwindigkeitstest Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
8K-CPU 114 125 86
8K OPENCL 129 179 61

Blackmagic Disk Speed ​​Test

Der Blackmagic Disk Speed ​​Test bewertet die Speicherleistung durch Messung der Lese- und Schreibgeschwindigkeiten und bietet Einblicke in die Fähigkeit eines Systems, datenintensive Aufgaben wie Videobearbeitung und die Übertragung großer Dateien zu bewältigen.

Die Speicherleistung des Ultra liegt bei 7,229 MB/s beim Lesen und 6,094 MB/s beim Schreiben und ist damit konkurrenzfähig mit High-End-PCIe-Gen-4-SSD-Systemen. Der Tower erzielt etwas höhere Werte, während der Tiny hinterherhinkt.

Die Ergebnisse des Ultra zeigen, dass es große Dateiübertragungen und bandbreitenintensive Medienverarbeitung unterstützt.

Festplattengeschwindigkeitstest (höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Lesen Sie mehr 7,229.8 MB / s 7304.2 MB / s 6,742.0 MB / s
Schreiben 6,094.6 MB / s 7006.2 MB / s 5,781.6 MB / s

Mixer 4.3

Blender ist eine Open-Source-Anwendung für 3D-Modellierung. Dieser Benchmark wurde mit dem Blender Benchmark-Tool durchgeführt. Das Ergebnis wird in Samples pro Minute gemessen, wobei höhere Werte eine bessere Leistung anzeigen.

Die Ultra erzielt in den CPU-lastigen Szenen von Blender sehr gute Ergebnisse. Sie erreicht 202.9 Samples pro Minute in Monster, 133.4 in Junkshop und 100 in Classroom und übertrifft damit sowohl die Tower als auch die Tiny.

Blender-CPU (Samples pro Minute, höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285)(NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Monster 202.9 163.7 179.31
Trödelladen 133.4 106.8 110.79
Klassenzimmer 100.0 80.9 77.45

Beim GPU-Rendering erreicht die Ultra 1,763 Samples pro Minute in Monster, 889 in Junkshop und 906 in Classroom. Damit liegt sie deutlich vor der Tiny, aber weit hinter der Tower, deren größere RTX 5000 Ada mehr als die doppelte Leistung erbringt. Die Ultra bietet dennoch eine starke Performance für ihre Klasse und Größe.

Blender GPU (Samples pro Minute, höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285)(NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Monster 1,763.2 3,884.68 581.75
Trödelladen 888.7 1,743.56 363.47
Klassenzimmer 906.0 1,876.89 323.37

Y-Cruncher

y-cruncher ist ein multithreadfähiges und skalierbares Programm, das Pi und andere mathematische Konstanten auf Billionen von Stellen berechnen kann. Seit seiner Einführung im Jahr 2009 hat es sich zu einer beliebten Benchmarking- und Stresstest-Anwendung für Overclocker und Hardware-Enthusiasten entwickelt.

Der P3 Ultra zeigt eine hervorragende, dauerhafte Rechenleistung und bewältigt die Berechnung einer Milliarde Stellen in 19.524 Sekunden und die von zehn Milliarden Stellen in 273.9 Sekunden. Diese Ergebnisse sind schneller als die des Tower und des Tiny, was darauf hindeutet, dass der Ultra auch bei langen, mehrstufigen Arbeitslasten eine höhere Taktstabilität beibehält.

Y-Cruncher (Gesamtrechenzeit) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
1 Milliarden 19.524 s 22.112 s 24.063 s
2.5 Milliarden 55.207 s 68.345 s 67.223 s
5 Milliarden 122.528 s 146.977 s 154.892 s
10 Milliarden 273.903 s 340.904 s -
25 Milliarden - - -
50 Milliarden - - -

Geekbench 6

Geekbench 6 ist ein plattformübergreifender Benchmark, der die Gesamtsystemleistung misst.

Die Ultra erzielt 3,155 Punkte im Single-Core- und 20,334 Punkte im Multi-Core-Test und liegt damit nahe am Tower, übertrifft aber den Tiny in der Gesamtleistung bei Multithreading. Ihr OpenCL-Wert von 122,981 Punkten zeigt die erwartete Verbesserung gegenüber der RTX 4000 Ada und liegt deutlich über dem Wert der kleineren GPU des Tiny. Insgesamt bietet die Ultra eine ausgewogene Leistung.

Geekbench 6 (Höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
CPU Single-Core 3,155 3,175 3,194
CPU-Mehrkern 20,334 21,033 17,572
GPU OpenCL 122,981 244,185 55,345

Cinebench 2024

Cinebench 2024 erweitert die Benchmark-Funktionen von R23 um eine GPU-Leistungsbewertung. Es testet weiterhin die CPU-Leistung, umfasst aber auch Tests, die die Fähigkeit der GPU messen, Rendering-Aufgaben zu bewältigen.

Hier erzielt die Ultra 1,727 Punkte im Multi-Core- und 139 Punkte im Single-Core-Test. Mit der RTX 4000 Ada erreicht sie 12,222 Punkte. Für gemischte Rendering-Aufgaben (CPU + GPU) liefert die Ultra eine solide Leistung im mittleren Preissegment.

Cinebench 2024 (Höher ist besser) Lenovo ThinkStation P3 Ultra SFF Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 4000 Ada) Lenovo ThinkStation P3 Tower Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX 5000 Ada Generation) Lenovo ThinkStation P3 Tiny Gen 2 (Intel Core Ultra 9 285) (NVIDIA RTX A1000)
Multi-Core- 1,727 1,851 1,511
Single-Core 139 142 138
GPU 12,222 23,746 4,399

Fazit

Die Lenovo ThinkStation P3 Ultra Gen 2 SFF nimmt eine interessante Position in Lenovos Workstation-Portfolio ein, insbesondere nach dem Test der ThinkStation P3 Tiny aus derselben Reihe. Beide Systeme bieten mehr Leistung, als ihre Größe vermuten lässt, und in vielen CPU-intensiven Tests lagen die beiden Geräte leistungsmäßig sehr nah beieinander. Die Ultra punktet jedoch bei GPU-beschleunigten Anwendungen wie 3D-Bearbeitung, KI-Inferenz und allen VRAM-intensiven Aufgaben. Im Test stellte ich fest, dass bestimmte Aufgaben auf der Ultra deutlich schneller abgeschlossen wurden, einfach weil die GPU über zusätzliche Leistungsreserven verfügte.

Das kompakte Gehäuse des Ultra bietet Profis alle Vorteile einer kleinen Workstation: flexible Aufstellung, geringe Stellfläche und vielfältige Anschlussmöglichkeiten. Dank Unterstützung für bis zu 128 GB DDR5-Arbeitsspeicher über zwei SODIMM-Steckplätze und einer breiten Palette an Intel Core Ultra Prozessoren bietet der Ultra dieselbe Vielseitigkeit wie der Tiny. Trotz externem Netzteil und einer im Vergleich zu Lenovos größeren Tower-Modellen etwas geringeren GPU-Leistung liefert der Ultra für seine Größe eine starke CPU- und GPU-Leistung.

Besonders hervorzuheben ist die hervorragende GPU-intensive Leistung des Ultra. Aufgaben wie das Ausführen von Modellen in Landessprachen profitieren unmittelbar vom zusätzlichen VRAM, was den Ultra zur idealen Wahl für Anwender macht, die stark auf diese Beschleunigung angewiesen sind. Obwohl er nicht ganz an die Leistung größerer Lenovo-Systeme heranreicht, bietet die RTX 4000 Ada-Konfiguration ausreichend Power, um den Ultra zu einer vollwertigen Workstation für Produktionsumgebungen zu machen.

Für professionelle Anwender, die ein kompaktes System mit hoher Leistung suchen, ist der P3 Ultra SFF Gen 2 eine ausgezeichnete Wahl. Er bietet Workstation-Leistung in einem kleineren Gehäuse und fügt sich problemlos in die meisten Umgebungen ein. Wenn Ihre Arbeitslasten stark von der GPU-Leistung abhängen, ist ein Tower-PC langfristig die bessere Lösung. Für gemischte Aufgaben, CPU-intensive Projekte und den professionellen Arbeitsalltag bietet der Ultra jedoch ein attraktives Verhältnis von Größe, Geschwindigkeit und Leistung.

Beteiligen Sie sich an StorageReview

Newsletter | YouTube | Podcast (iTunes / Spotify) | Instagram | Twitter | TikTok | RSS-Feed

Lyle Smith

Lyle ist Autor bei StorageReview und deckt ein breites Spektrum an IT-Themen für Endanwender und Unternehmen ab.