Dell Pro Precision 9 T4 — это однопроцессорный настольный компьютер, занимающий верхнюю позицию в линейке Dell Pro Precision, и наш тестовый образец сконфигурирован для локального ИИ в масштабах, недоступных большинству рабочих станций. Он сочетает в себе 86-ядерный процессор Intel Xeon 698X с 256 ГБ памяти DDR5-6400 ECC, две видеокарты NVIDIA RTX PRO 6000 Blackwell Max-Q мощностью 300 Вт каждая, по 96 ГБ GDDR7, два твердотельных накопителя Gen5 по 2 ТБ и двухпортовый адаптер 25 Гбит/с Ethernet, питаемый от блока питания мощностью 2400 Вт. В аналогичной конфигурации на сайте Dell.com его цена составляет около 66 600 долларов.
Основные выводы
- Две видеокарты позволяют превратить модель, которая не помещается на одной карте, в пригодную для использования. MiniMax M2.7 с 129.3 ГБ памяти генерировал 83.7 токенов в секунду для одного пользователя при распределении ресурсов между двумя видеокартами RTX PRO 6000, что в 2.8 раза больше, чем 30.3 токенов в секунду при использовании одной карты и остальной части памяти системы.
- Второй графический процессор увеличил скорость обслуживания в 1.85–2.02 раза и скорость встраивания в 1.92 раза. Максимальная производительность llama.cpp выросла с 582.5 до 1,176.1 токенов в секунду на Ministral 3 3B и с 424.8 до 787.9 на gpt-oss 120B при использовании одного сервера на каждый графический процессор, а время встраивания миллиона фрагментов Википедии сократилось с 890 до 464 секунд.
- Использование второго графического процессора позволило сократить время выполнения эпохи LoRA на 37 процентов. Одна эпоха LoRA на Ministral 3 8B заняла 31.5 минуты на одном графическом процессоре и 19.7 минуты на двух, завершившись с остаточными потерями в 1.169 и 1.167.
- Пропускная способность памяти – вот где процессор Xeon в T4 превосходит конкурентов. STREAM Triad достиг скорости 328 ГБ/с, что на 53 процента выше, чем у Threadripper PRO 9995WX в Precision 7875, а T4 завершил вычисление OpenFOAM drivAer за 293 секунды против 556, и вычисление y-cruncher с 10 миллиардами цифр за 53.9 секунды против 83.7.
- Процессор Precision 7875 лидирует в задачах, требующих максимальной производительности ядра. 96-ядерный Threadripper показал результат на 37 процентов лучше в 7-Zip и на 30 процентов лучше в Blender Monster, а сборка LLVM заняла 43.7 секунды против 58.4.
Место Pro Precision 9 T4 на рынке
Dell позиционирует T4 как свою флагманскую однопроцессорную рабочую станцию в корпусе типа Tower для организаций, которым необходима максимальная вычислительная плотность и расширяемость, с приоритетными задачами в области разработки ИИ, инженерного моделирования и научных вычислений. Она занимает место выше Dell Pro Precision 9 T2 , которая использует ту же платформу рабочих станций Granite Rapids-WS Xeon 6 в более компактном корпусе с одним графическим процессором. В T4 добавлены восьмиканальные процессоры топовой линейки, до 86 ядер, и возможность установки до четырех видеокарт в зависимости от модели.
На сайте Dell.com доступны процессоры от 12-ядерного Xeon 634 до 64-ядерного Xeon 696X и 86-ядерного Xeon 698X, который в нашем экземпляре имеет 336 МБ кэш-памяти, базовую тактовую частоту 2.0 ГГц, максимальную 4.8 ГГц и мощность 350 Вт. Память может достигать 4 ТБ DDR5 RDIMM в 16 слотах, и в нашем экземпляре восемь из них заполнены модулями по 32 ГБ со скоростью 6400 МТ/с. Графические карты начинаются с одной RTX A400, и количество карт зависит от модели: в конфигураторе Dell указаны четыре карты RTX A1000, три карты RTX PRO 4000 Blackwell, две карты RTX PRO 6000 Max-Q мощностью 300 Вт или одна карта RTX PRO 6000 мощностью 600 Вт.
Базовая конфигурация указана на сайте Dell.com по цене 5,925 долларов. В нашей конфигурации к стоимости добавляются процессор Xeon 698X за 8,300 долларов, 256 ГБ оперативной памяти за 15 000 долларов и пара видеокарт RTX PRO 6000 Max-Q за 30 820 долларов, и это без учета накопителей, сетевой инфраструктуры и 36-месячной подписки ProSupport, которую Dell автоматически добавляет к сборке этого уровня.
Построение и дизайн
T4 — это полноразмерный корпус высотой 449.8 мм, шириной 203.7 мм и глубиной 617.5 мм. По данным Dell, его минимальный вес составляет 24.1 кг, а максимальный — 33.6 кг в зависимости от конфигурации. В нашем экземпляре используется блок питания Platinum мощностью 2400 Вт, который Dell выбирает в конфигураторе для двух видеокарт RTX PRO 6000, а для более лёгких сборок по умолчанию устанавливается блок питания мощностью 1500 Вт.
Сильная сторона T4 — удобство обслуживания, начиная с доступа без инструментов через защелку на боковой панели и блока питания мощностью 2400 Вт, который выдвигается вручную из верхней задней части корпуса. Все остальное, включая видеокарты и SSD-накопители, извлекается с помощью крестовой отвертки, а синие метки Dell обозначают детали, которые извлекаются вручную. В лаборатории выяснилось, что платформу легко ремонтировать в полевых условиях, что важно для рабочей станции в этой ценовой категории.
Система охлаждения — лучшая из тех, что мы видели у Dell в этом классе корпусов типа Tower. Воздух движется спереди назад, а большие, плотно прилегающие к корпусу кожухи направляют его вниз и поперек процессора и памяти, при этом этот канал отделен от области PCIe. Таким образом, две видеокарты мощностью 300 Вт забирают воздух из отдельного потока и не получают тепло от процессора Xeon мощностью 350 Вт. С установленными кожухами два вентилятора располагаются между зоной процессора и отсеком для видеокарт, а вся конструкция имеет те же синие сенсорные элементы и снимается для доступа к памяти.
Возможности расширения обеспечиваются шестью полноразмерными слотами PCIe: двумя слотами Gen5 x16 для установки видеокарт, одним Gen5 x8, одним Gen4 x8 и двумя слотами Gen4 с разъемами x8 и проводкой x4. Для хранения данных предусмотрены три внутренних слота M.2 Gen5 и один слот Gen4, два внутренних отсека для 3.5-дюймовых SATA-накопителей и передний отсек FlexBay, вмещающий до четырех NVMe-накопителей или два 3.5-дюймовых накопителя, с возможностью установки тонкого оптического привода. В нашем экземпляре система загружается с внутреннего накопителя Gen5 объемом 2 ТБ и имеет еще один накопитель Gen5 объемом 2 ТБ во внутреннем слоте M.2.
На передней панели расположены разъем для наушников, два порта USB-A 10 Гбит/с, порт USB-C 20 Гбит/с с функцией PowerShare, порт USB-C 10 Гбит/с и опциональный слот для SD-карт. На задней панели добавлены порты RJ-45 10GbE и 1GbE, четыре порта USB-A 10 Гбит/с, два порта USB-C 10 Гбит/с, порт USB-C 20 Гбит/с, последовательный порт, два порта PS/2 и линейный выход. В нашем экземпляре дополнительно установлены двухпортовый адаптер Intel E810-XXV 25GbE SFP28, модуль Wi-Fi MediaTek 7 MT7925 с Bluetooth 5.4, устройство чтения карт памяти и карта расширения Dell с двумя портами USB-C.
В области безопасности и управления используются TPM 2.0, Dell SafeBIOS, система обнаружения несанкционированного доступа к корпусу, поддержка самошифрующихся дисков, безопасное удаление данных из BIOS и Intel vPro Enterprise. Dell заявляет, что в ключевых компонентах T4 используется до 85% переработанного пластика, в ручках — 90% переработанного алюминия, а в корпусе — 11% переработанной стали, и конфигурация соответствует стандарту ENERGY STAR.
Технические характеристики Dell Pro Precision 9 T4
| Параметр | Dell Pro Precision 9 T4 (по результатам тестирования) |
|---|---|
| Платформа | |
| Модель | Dell Pro Precision 9 T4 (PW9T4260) |
| процессор | Intel Xeon 698X, 86 ядер, 172 потока, 336 МБ кэш-памяти, базовая частота 2.0 ГГц, до 4.8 ГГц, 350 Вт |
| Варианты процессора | Xeon 634 (12 ядер) до Xeon 698X (86 ядер) |
| Память | 256 ГБ (8x32 ГБ) DDR5-6400 RDIMM ECC 16 слотов, до 4 ТБ |
| Графика | 2 видеокарты NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition, по 96 ГБ GDDR7 каждая, мощностью 300 Вт каждая. |
| Operating System | Windows 11 Pro для рабочих станций (протестировано на Ubuntu 26.04.1 LTS) |
| Память | |
| Как настроено | 2x 2TB M.2 2280 Gen5 x4 TLC SED (оба установлены во внутренние слоты M.2) |
| Внутренние слоты | 3x M.2 2230/2280 Gen5 NVMe 1x M.2 2230/2280 Gen4 NVMe 2 разъемов SATA 3.5 дюйма |
| FlexBay | До 4 NVMe-накопителей плюс опциональный тонкий оптический привод или 2 3.5-дюймовых SATA-накопителя. |
| Расширение и возможность подключения | |
| Слоты PCIe | 2x Gen5 x16 1x Gen5 x8 1x Gen4 x8 2x Gen4 x8 (x4 электрические) |
| Networking | Двухпортовый модуль Intel E810-XXV 25GbE SFP28 (дополнительный модуль) Встроенные разъемы RJ-45 10GbE и 1GbE MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4 |
| Передние порты | 1x USB-C 20 Гбит/с с функцией PowerShare 1x USB-C 10 Гбит/с 2 разъема USB-A 10 Гбит/с Разъем для гарнитуры Дополнительный слот для SD-карты |
| Задние порты | 1x USB-C 20 Гбит/с 2x USB-C 10 Гбит/с 4 разъема USB-A 10 Гбит/с Последовательный порт, 2 разъема PS/2, линейный выход. |
| Сила и Физическая | |
| Электропитание | 2400 Вт Платиновый (опция 1500 Вт) |
| Габаритные размеры: | 449.8 x 203.7 x 617.5mm (17.70 x 8.01 x 24.31in) |
| Вес | от 24.1 кг до 33.6 кг (от 53.1 до 74.1 фунтов) в зависимости от конфигурации. |
| ГАРАНТИЯ | ProSupport с выездным обслуживанием после удаленной диагностики, 36 месяцев. |
| Цена | 5,925 $ базовый Примерно 66 600 долларов в данной конфигурации (Dell.com) |
Настройка теста и методология
Мы тестируем высокопроизводительные рабочие станции на Linux, и все четыре системы в этом обзоре работали под управлением Ubuntu 26.04.1 LTS на ядре 7.0.0-43 с драйвером NVIDIA 595.99.02, CUDA 13, сборкой llama.cpp b11716 и Ollama 0.40.3, в профиле производительности Linux. Результаты получены с помощью трех инструментов: sr-client для локальных задач ИИ и клиентских нагрузок, sr-harness для компиляции, сжатия, криптографии, веб-сервера и y-cruncher, и sr-suite r5.28 для GROMACS, OpenFOAM, ClickHouse, Valkey и пропускной способности памяти. Каждый результат представляет собой медиану повторных проходов.
Все четыре системы работали с температурным режимом BIOS, установленным на «Сверхвысокая производительность», а на T4 использовалась версия BIOS 1.2.0. В тестовом режиме T4 использовалась версия sr-harness 3.3, Precision 7875 — 3.5, а обе системы T2 — 3.6, при этом набор тестов был одинаковым для всех этих версий.
Все сравниваемые системы представляют собой настольные компьютеры Dell с графическим процессором RTX PRO 6000 Blackwell. Dell Precision 7875 использует 96-ядерный процессор Threadripper PRO 9995WX в паре с теми же двумя видеокартами RTX PRO 6000 Max-Q и 512 ГБ оперативной памяти DDR5-5600, что делает его наиболее близким аналогом. Dell Pro Precision 9 T2 работает на 24-ядерном процессоре Xeon 658X с одной видеокартой Max-Q, а Dell Pro Max Tower T2 — на 24-ядерном процессоре Core Ultra 9 285K с видеокартой RTX PRO 6000 мощностью 600 Вт, что демонстрирует, какой вклад вносит более высокий лимит мощности в каждую видеокарту.
| Конфигурация | ЦП | Память | GPU ： | Test–drive | Режим терморегулирования BIOS |
|---|---|---|---|---|---|
| Dell Pro Precision 9 T4 | Xeon 698X, 86 ядра | 256 ГБ DDR5-6400 (8 канала) | 2x RTX PRO 6000 Max-Q (300 Вт) | 2TB SK hynix PCB01 Gen5 | Ультра Производительность |
| Dell Precision 7875 | Threadripper PRO 9995WX, 96 ядер | 512 ГБ DDR5-5600 (8 канала) | 2x RTX PRO 6000 Max-Q (300 Вт) | 2 ТБ Samsung Gen4 | Ультра Производительность |
| Dell Pro Precision 9 T2 | Xeon 658X, 24 ядра | 128 ГБ DDR5-6400 (4 канала) | 1x RTX PRO 6000 Max-Q (300 Вт) | Жесткие диски Samsung PM9E1 Gen5, 2 ТБ, в режиме чередования. | Ультра Производительность |
| Dell Про Макс Тауэр Т2 | Процессор Core Ultra 9 285K, 24 ядра | 128 ГБ DDR5-4400 (2 канала) | 1x RTX PRO 6000 (600 Вт) | 2 ТБ Samsung PM9F1 Gen4 | Ультра Производительность |
Локальная производительность ИИ
В каждой системе здесь установлена как минимум одна видеокарта RTX PRO 6000 Blackwell с 96 ГБ GDDR7, поэтому результаты тестирования с одной видеокартой измеряют производительность карты, её предел энергопотребления и скорость работы платформы. Две видеокарты отличают T4 от других моделей, и наши тесты с двумя видеокартами запускают каждую модель тремя способами, где это применимо: два независимых сервера, по одному на каждую видеокарту, для оценки пропускной способности; одна модель, разделённая по слоям на обе карты; и, для MiniMax M2.7, одна карта, а остальная часть модели находится в системной памяти.
LLM работает на одном графическом процессоре.
| Сервер llama.cpp, одна видеокарта (вывод токенов в секунду, чем выше, тем лучше). | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Министраль 3 3B, один запрос | 240.5 | 252.6 | 243.8 | 261.6 |
| Министраль 3 3B, пик | 582.5 | 637.6 | 602.6 | 658.8 |
| Министраль 3 8B, один запрос | 166.8 | 171.1 | 167.3 | 194.5 |
| Министраль 3 8B, пик | 383.6 | 398.9 | 384.9 | 477.5 |
| Qwen3.8 27B, один запрос | 54.9 | 55.4 | 53.8 | 64.5 |
| Qwen3.8 27B, пик | 158.1 | 162.8 | 155.8 | 194.7 |
| gpt-oss 120B, один запрос | 166.9 | 171.2 | 164.5 | 193.0 |
| gpt-oss 120B, пик | 424.8 | 458.4 | 413.1 | 520.7 |
| gpt-oss 120B, один запрос, время до получения первого токена (мс, чем меньше, тем лучше) | 1,189 | 1,181 | 1,213 | 844 |
На одной из видеокарт T4 показывает результаты, соответствующие ограничению в 300 Вт. Она генерировала 166.9 токенов в секунду для одного пользователя в gpt-oss 120B и достигла пика в 424.8 токенов при 64 одновременных запросах, что на 1–9 процентов ниже, чем у идентичной карты Max-Q в Precision 7875 на всех четырех моделях, и на одном уровне с Pro Precision 9 T2. Карта мощностью 600 Вт в Pro Max Tower T2 на 13–25 процентов быстрее в пике на каждой модели, достигая 520.7 токенов в секунду в gpt-oss 120B.
Две видеокарты: реплики и разделенные модели.
| Сервер llama.cpp, две видеокарты (скорость вывода токенов в секунду, чем выше, тем лучше). | Dell Pro Precision 9 T4 | Dell Precision 7875 |
|---|---|---|
| Ministral 3 3B, пиковая мощность, один сервер на каждый графический процессор. | 1,176.1 | 1,260.2 |
| Ministral 3 8B, пиковая мощность, один сервер на каждый графический процессор. | 765.7 | 796.4 |
| Qwen3.8 27B, пиковая мощность, один сервер на каждый графический процессор. | 310.8 | 323.2 |
| gpt-oss 120B, пиковая мощность, один сервер на каждый графический процессор | 787.9 | 905.8 |
| gpt-oss 120B, один запрос, разделенный по слоям | 170.6 | 182.4 |
| gpt-oss 120B, пик, разделение по слою | 539.2 | 619.4 |
Использование одного сервера на каждый графический процессор увеличило пиковую производительность T4 в 1.85–2.02 раза для всех четырех моделей. Пиковая производительность выросла с 582.5 до 1,176.1 токенов в секунду на Ministral 3 3B, с 383.6 до 765.7 на модели 8B и со 158.1 до 310.8 на Qwen3.8 27B, увеличившись в 1.97–2.02 раза. gpt-oss 120B увеличил производительность в 1.85 раза до 787.9 токенов в секунду на T4 и в 1.98 раза до 905.8 на Precision 7875, который достиг своего пика при 128 одновременных запросах, тогда как T4 достиг пика при 64 запросах.
Разделение gpt-oss 120B по слоям между обеими видеокартами — более медленный способ использования второго графического процессора, если модель уже помещается на одной. Для одного пользователя производительность составила 170.6 токенов в секунду, что всего на 3% меньше, чем при использовании одной видеокарты, а пиковое значение достигло 539.2, что на 27% выше, чем при использовании одной видеокарты, и значительно ниже 787.9, которые показали две копии. Разделенная компоновка оправдана для моделей, которые не помещаются на одной видеокарте, и именно здесь на помощь приходит MiniMax M2.7.
| Сервер llama.cpp, gpt-oss 120B, 8,192 запроса токенов, 1,024 вывода токенов. | T4, одна видеокарта | T4, две видеокарты, по одному серверу на каждую видеокарту. | T4, два графических процессора, разделены по слоям. | Precision 7875, две видеокарты, по одному серверу на каждую видеокарту. |
|---|---|---|---|---|
| 1 одновременных запроса: общая пропускная способность (токены/с) | 1,502 | 1,504 | 1,536 | 1,530 |
| 1 одновременных транзакции: время до первого токена, медиана (мс, чем меньше, тем лучше) | 1,189 | 1,180 | 719 | 1,189 |
| 8 одновременных запроса: общая пропускная способность (токены/с) | 2,760 | 4,820 | 3,300 | 4,949 |
| 8 одновременных запроса: вывод на пользователя (токены/с) | 38.3 | 66.9 | 45.8 | 68.7 |
| 8 одновременных транзакции: время до первого токена, медиана (мс, чем меньше, тем лучше) | 2,654 | 2,523 | 1,622 | 2,472 |
| 64 одновременных запроса: общая пропускная способность (токены/с) | 3,823 | 7,091 | 4,853 | 7,557 |
| 64 одновременных запроса: вывод на пользователя (токены/с) | 6.6 | 12.3 | 8.4 | 13.1 |
| 64 одновременных транзакции: время до первого токена, медиана (мс, чем меньше, тем лучше) | 3,874 | 3,226 | 2,852 | 2,867 |
Полный анализ gpt-oss 120B показывает, как вторая видеокарта меняет кривую, при этом общая пропускная способность учитывает как запросы, так и выходные токены. При использовании одной видеокарты пропускная способность увеличилась с 1,502 токенов в секунду для одного запроса до 2,760 при восьми и до 3,823 при 64, при этом каждый пользователь получал 6.6 выходных токенов в секунду. При использовании одного сервера на видеокарту, восемь запросов обрабатывались со скоростью 4,820, а 64 запроса достигли 7,091, что в 1.85 раза больше, чем при использовании одной видеокарты, и составляет 12.3 токена в секунду на пользователя. Разделение модели показало более низкий пик — 4,853, но при этом первый токен для одного пользователя был получен за 719 мс против 1,189 мс.
MiniMax M2.7: Модель, слишком большая для одной карты.
| MiniMax M2.7 Q4_K_M, 129.3 ГБ (чем больше, тем лучше, если не указано иное) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Одна видеокарта плюс системная оперативная память, один запрос (токенов/с) | 30.3 | 32.8 | 22.6 | 15.8 |
| Одна видеокарта плюс системная оперативная память, пиковое значение (токены/с) | 35.5 | 39.1 | 27.7 | 18.0 |
| Одна видеокарта плюс системная оперативная память, время до первого токена (мс, чем меньше, тем лучше). | 16,224 | 16,143 | 16,216 | 18,522 |
| Два графических процессора, распределенные по слоям, один запрос (токенов/с) | 83.7 | 85.0 | Один графический процессор | Один графический процессор |
| Два графических процессора, распределенные по слоям, пиковая нагрузка (токены/с) | 127.3 | 129.5 | Один графический процессор | Один графический процессор |
| Два графических процессора, разделенных по слоям, время до первого токена (мс, чем меньше, тем лучше). | 3,138 | 3,162 | Один графический процессор | Один графический процессор |
| Холодная нагрузка, одна видеокарта плюс оперативная память (чем меньше, тем лучше). | 40.5 | 65.8 | 37.6 | 81.1 |
| Холодная нагрузка, разделение на две видеокарты (s, чем меньше значение, тем лучше). | 27.6 | 50.7 | Один графический процессор | Один графический процессор |
MiniMax M2.7 — это модель, использующая 230 миллиардов параметров и представляющая собой смесь экспертов, а наша 4-битная квантизация занимает 129.3 ГБ, что больше, чем 96 ГБ на одной RTX PRO 6000. На одной карте, а остальная часть памяти находится в системной памяти, T4 генерировала 30.3 токена в секунду для одного пользователя и потребовалось 16.2 секунды для возврата первого токена. При распределении между двумя картами она генерировала 83.7 токена в секунду, что в 2.8 раза быстрее, возвращала первый токен за 3.1 секунды и достигала пика в 127.3 токена в секунду против 35.5.
Результаты, полученные с использованием одной видеокарты, показывают, насколько важна платформа, когда модель используется в системной памяти. Восемь каналов DDR5-6400 в T4 обеспечивают ей на 34% больше производительности, чем четырехканальная Pro Precision 9 T2 (22.6 токена в секунду), и в 1.9 раза больше, чем двухканальная Pro Max Tower T2 (15.8 токена в секунду), несмотря на то, что карта Pro Max Tower T2 мощностью 600 Вт быстрее на всех подходящих моделях. Precision 7875 немного превзошла T4, показав 32.8 токена в секунду при на 35% меньшей пропускной способности памяти, поэтому пропускная способность сама по себе не определяет этот результат. Мы приводим измеренное преимущество 7875 и не выявили его причину.
Загрузка модели
| Загрузка модели Ollama 0.40.3 и llama.cpp (s, чем ниже значение, тем лучше) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| gpt-oss:20b (12.8GB), холодный | 5.79 | 7.61 | 5.57 | 7.95 |
| gpt-oss:20b, warm | 3.45 | 2.50 | 3.47 | 3.05 |
| gpt-oss:120b (60.9GB), холодный | 15.16 | 25.80 | 15.16 | 28.18 |
| gpt-oss:120b, warm | 7.49 | 5.01 | 7.87 | 6.81 |
| gpt-oss:120b, cold, одна копия на каждом графическом процессоре | 26.47 | 35.55 | Один графический процессор | Один графический процессор |
| MiniMax M2.7 (129.3 ГБ), холодный, одна видеокарта плюс оперативная память. | 40.5 | 65.8 | 37.6 | 81.1 |
| MiniMax M2.7, сильно нагревается, одна видеокарта плюс оперативная память. | 28.6 | 15.2 | 36.7 | 80.5 |
При загрузке в холодном режиме преимущество накопителей Gen5: T4 загружает gpt-oss:120b со своего SSD SK hynix Gen5 за 15.2 секунды, что соответствует показателю Pro Precision 9 T2 и значительно опережает 25.8 и 28.2 секунды у Precision 7875 и Pro Max Tower T2, оснащенных накопителями Gen4. При загрузке из кэша страниц в теплом режиме ситуация обратная: у 7875 это занимает 5.0 секунд против 7.5 у T4, а загрузка копии на каждый графический процессор одновременно занимает 26.5 секунд у T4.
Генерация с расширенными возможностями поиска в масштабе
| RAG содержит более 1 002 067 фрагментов Википедии. | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Встраивание, один графический процессор (количество проходов/с) | 1,126 | 1,196 | 1,141 | 1,388 |
| Время выполнения задачи по встраиванию данных, один графический процессор (s, чем меньше, тем лучше). | 890 | 838 | 878 | 722 |
| Встраивание, два графических процессора (проходов/с) | 2,162 | 2,371 | Один графический процессор | Один графический процессор |
| Время выполнения встраивания, две видеокарты (s, чем меньше, тем лучше) | 464 | 423 | Один графический процессор | Один графический процессор |
| Построение индекса HNSW (s, чем ниже, тем лучше) | 27.3 | 34.8 | 46.3 | 118.6 |
| Поиск HNSW, ef 64 (запросы/ы) | 98,503 | 65,228 | 45,085 | 17,540 |
| Поиск HNSW, ef 256 (запросы/ы) | 32,149 | 19,598 | 13,478 | 4,932 |
| Полнота поиска 5 по сравнению с точным поиском, эффективность 256 (%) | 97.59 | 97.67 | 97.26 | 97.70 |
| Вопрос для ответа на стр. 50 (s, чем ниже, тем лучше) | 0.123 | 0.082 | 0.117 | 0.095 |
Тест RAG-at-scale скрывает вопросы SQuAD среди миллиона фрагментов Википедии, встраивает их с помощью nomic-embed-text, создает индекс HNSW и отвечает с помощью Phi-4-mini. Встраивание заняло 890 секунд на одном графическом процессоре T4 и 464 секунды на двух, что в 1.92 раза быстрее, а Precision 7875 завершила работу за 423 секунды на двух картах. Карта мощностью 600 Вт в корпусе Pro Max Tower T2 оказалась самой быстрой однопроцессорной системой в этом тесте, показав время 722 секунды.
Создание индекса и векторный поиск выполняются на процессоре, и именно здесь T4 лидирует. Он создал индекс HNSW за 27.3 секунды против 34.8 у Precision 7875 и 118.6 у Pro Max Tower T2, и выполнил 98 503 запроса в секунду при EF 64, что в 1.51 раза больше, чем у 7875, и в 5.6 раза больше, чем у системы Core Ultra. При EF 256 он обрабатывал 32 149 запросов в секунду с полнотой поиска 97.6% по сравнению с точным поиском, а ответы возвращались в среднем за 0.12 секунды.
Тонкая настройка
| Министраль 3 8B LoRA, BF16, одна эпоха Долли 15k | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Время обучения за эпоху, на одном графическом процессоре (минуты, чем меньше, тем лучше). | 31.5 | 27.2 | 30.6 | 22.3 |
| Пропускная способность, один графический процессор (токены/с) | 1,584 | 1,834 | 1,631 | 2,236 |
| Показатель потерь до и после обучения, одна видеокарта. | 1.534 - 1.169 | 1.534 - 1.172 | 1.534 - 1.167 | 1.534 - 1.167 |
| Время обучения за эпоху, две видеокарты (минуты, чем меньше, тем лучше). | 19.7 | 18.1 | Один графический процессор | Один графический процессор |
| Пропускная способность, две видеокарты (токенов/с) | 2,528 | 2,754 | Один графический процессор | Один графический процессор |
| Ускорение за счет второго графического процессора. | 1.60x | 1.50x | Один графический процессор | Один графический процессор |
| Показатель потерь после обучения, две видеокарты. | 1.167 | 1.168 | Один графический процессор | Один графический процессор |
Тест LoRA, занимающий одну эпоху, дорабатывает Ministral 3 8B в BF16 на Dolly 15k за 1,849 шагов, оценивая 200 отложенных примеров каждые 100 шагов. Каждая система начинала с отложенного значения ошибки 1.534 и заканчивала с результатом от 1.167 до 1.172, поэтому разница между ними определяется временем, затраченным на эпоху. Одна видеокарта T4 завершила тест за 31.5 минуты со скоростью 1,584 токена в секунду, что всего на 3% меньше, чем у Pro Precision 9 T2 на той же карте Max-Q. Precision 7875 потребовалось 27.2 минуты, а карта мощностью 600 Вт в Pro Max Tower T2 — 22.3 минуты.
Показатель потерь на T4 снизился с 1.534 до 1.219 за первые 100 шагов, через 1.6 минуты после начала обучения, а затем снизился до 1.169 на протяжении оставшейся эпохи. Добавление второго графического процессора сократило эпоху T4 до 19.7 минут при скорости обработки 2,528 токенов в секунду, что в 1.60 раза быстрее, чем у одной карты мощностью 600 Вт (22.3 минуты). Precision 7875 завершила эпоху с двумя графическими процессорами за 18.1 минуты, что в 1.50 раза быстрее, а показатели потерь при использовании двух графических процессоров составили 1.167 и 1.168.
Обе видеокарты работают в параллельном режиме с двумя примерами на каждый графический процессор, а градиенты накапливаются в один и тот же глобальный пакет из восьми примеров за четыре прохода на одном графическом процессоре и два прохода на паре, поэтому при работе с двумя графическими процессорами на каждом шаге используются одни и те же примеры, и результат оказывается одинаковым. Благодаря двум коротким примерам на каждый графический процессор в каждом проходе, вторая карта выполняет мало работы, и обмен градиентами занимает большую долю на каждом шаге. Пиковое значение объема памяти графического процессора за эпоху составило 19.5 ГБ на одной карте и 19.7 ГБ на двух картах, что составляет лишь часть от 96 ГБ на каждой RTX PRO 6000.
Агент кодирования, мелкомасштабный RAG и генерация изображений.
| Агент кодирования, RAG и генерация изображений (чем выше значение, тем лучше, если не указано иное) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Агент кодирования, gpt-oss:20b 64K, успешные запуски (из 3) | 3 | 2* | 2* | 2* |
| Агент кодирования, gpt-oss:120b 128K, успешные запуски (из 3) | 3 | 3 | 3 | 3 |
| Агент кодирования, gpt-oss:120b, скорость генерации (токенов/с) | 161.5 | 167.9 | 166.7 | 183.2 |
| RAG, 20 963 прохода, проглатывание (проходов/с) | 304.6 | 433.8 | 392.1 | 371.6 |
| Генерация ответов RAG, Phi-4-mini (токенов/с) | 372.5 | 410.0 | 402.8 | 415.8 |
| FLUX.2 klein 4B BF16, 1024×1024 (изображений/мин) | 40.96 | 43.03 | 41.32 | 54.25 |
| Z-Image Turbo 6B BF16 (изображений/мин) | 17.29 | 17.67 | 17.27 | 23.83 |
| Qwen-Image 20B BF16 (изображений/мин) | 2.43 | 2.45 | 2.39 | 3.20 |
*Проверка программным обеспечением выявила ошибку: один из трех запусков агента в этой системе не прошел все 11 тестов.
T4 успешно прошел все запуски агента кодирования на всех уровнях модели, включая все три запуска gpt-oss:20b в контексте 64K, в то время как три другие системы прошли только два из трех, и сгенерировал 161.5 токенов в секунду на gpt-oss:120b. Генерация изображений выполняется на одном графическом процессоре, поэтому 40.96 изображений в минуту, полученные T4 на FLUX.2 klein в BF16, находятся на уровне других систем Max-Q и отстают от карты мощностью 600 Вт с показателем 54.25.
Производительность процессора
Результаты тестирования процессоров показали, что 86 ядер Xeon в процессоре T4 сравниваются с 96 ядрами Threadripper в процессоре Precision 7875, при этом в качестве эталонных использовались два 24-ядерных процессора T2. Threadripper имеет на десять ядер больше и обеспечивает 192 потока против 172 у Xeon. T4 лидирует по показателю пропускной способности памяти, а 7875 — по количеству ядер и тактовой частоте.
Сжатие, рендеринг и компиляция
| Тест | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| 7-Zip, все потоки (GIPS) | 619.8 | 850.0 | 285.1 | 172.7 |
| 7-Zip, один поток (GIPS) | 8.85 | 10.58 | 9.27 | 11.04 |
| Blender 4.5 Monster (сэмплов/мин) | 961.8 | 1,253.8 | 400.7 | 303.0 |
| Blender 4.5 Junkshop (образцов/мин) | 641.9 | 849.7 | 266.9 | 191.9 |
| Blender 4.5 для использования в классе (количество образцов/мин) | 442.8 | 612.2 | 187.2 | 147.1 |
| HandBrake x265 (fps) | 31.4 | 41.7 | 41.5 | 40.0 |
| HandBrake SVT-AV1 (fps) | 159.4 | 255.8 | 198.5 | 122.6 |
| Сборка LLVM 21 (s, чем ниже версия, тем лучше) | 58.4 | 43.7 | 106.4 | 155.9 |
| Команда `lmodconfig` ядра Linux (s, чем ниже значение, тем лучше) | 312 | 264 | 537 | 843 |
| OpenSSL AES-256-GCM, все потоки (ГБ/с) | 882.6 | 1,139.1 | 371.2 | 137.0 |
| nginx, 1,000 подключений (запросов/с) | 414,468 | 467,128 | 323,567 | 153,732 |
T4 показал результат 619.8 GIPS в 7-Zip и 961.8 выборок в минуту в Blender Monster, что в 2.2 и 2.4 раза выше, чем у 24-ядерного Pro Precision 9 T2. Precision 7875 показал на 37 процентов лучший результат в 7-Zip и на 30 процентов лучший в Blender, а сборка LLVM заняла 43.7 секунды против 58.4, и сборка allmodconfig ядра Linux — 264 секунды против 312. Слабой стороной T4 является скорость на ядро: самый низкий результат в однопоточном режиме в 7-Zip в этой группе составил 8.85 GIPS.
Кодирование x265 в HandBrake является исключением в этой таблице, и причина этого скорее в кодировщике, чем в процессоре. Три другие системы показали результаты от 40.0 до 41.7 кадров в секунду при 24 или 96 ядрах, поэтому x265 в этих настройках не масштабируется с количеством ядер, а 31.4 кадра в секунду у T4 соответствуют более низкой скорости на ядро в потоках, которые использует x265. Во время кодирования T4 в среднем работал на частоте около 1 ГГц на своих 172 потоках при температуре от 51°C до 64°C, что показывает большую часть времени простоя чипа. SVT-AV1 показал лучшие результаты: 159.4 кадра в секунду на T4 против 255.8 на 7875.
Пропускная способность памяти, моделирование и математика
| Тест | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Потоковое воспроизведение Triad (МБ/с) | 328,329 | 215,177 | 141,832 | 45,102 |
| OpenFOAM 13 drivAer, 3M cells, solve (s, lower is better) | 293 | 556 | 826 | Не закончил |
| GROMACS benchPEP, все ядра (нс/день) | 1.243 | 1.034 | Не запущено | Не запущено |
| GROMACS benchMEM, 16 ядер (нс/день) | 68.09 | 84.94 | 78.03 | 54.26 |
| OpenBLAS DGEMM, все ядра (GFLOPS) | 3,664 | 4,745 | 2,319 | 1,063 |
| OpenBLAS LU решает N=20000 (GFLOPS) | 1,660 | 1,172 | 1,616 | 858 |
| y-cruncher Pi, 1B цифр (s, чем меньше, тем лучше) | 4.01 | 7.45 | 8.51 | 24.61 |
| y-cruncher Pi, 10B цифр (s, чем меньше, тем лучше) | 53.9 | 83.7 | 119.2 | 347.9 |
| y-cruncher Pi, 25B цифр (s, чем меньше, тем лучше) | 155.6 | 259.6 | Не запущено | Не запущено |
Восемь каналов DDR5-6400 обеспечивают T4 скорость 328 ГБ/с в режиме STREAM Triad, что на 53 процента выше, чем у Precision 7875 с DDR5-5600, и в 2.3 раза больше, чем у четырехканального Pro Precision 9 T2. Далее следует работа с ограничениями пропускной способности: T4 решил задачу OpenFOAM drivAer с 3 миллионами ячеек за 293 секунды против 556 секунд у 7875 и 826 секунд у Pro Precision 9 T2, в то время как Pro Max Tower T2 не уложился в 150-минутный лимит пакета. T4 также справился с задачей с 22.6 миллионами ячеек за 6,851 секунду.
GROMACS benchPEP, масштабный тест молекулярной динамики на всех ядрах, показал время выполнения 1.243 нс/день на T4 против 1.034 на 7875, а решение LU-функции достигло 1,660 GFLOPS против 1,172. y-cruncher вычислил 10 миллиардов цифр числа Пи за 53.9 секунды против 83.7 на 7875 и 25 миллиардов за 155.6 секунды против 259.6. Плотные вычисления с использованием кэша показывают лучшие результаты на Threadripper, который превзошел OpenBLAS DGEMM, достигнув 4,745 GFLOPS против 3,664.
Базы данных и сервисы
| Тест | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Тест ClickBench Hot Run, 43 запроса (s, чем меньше, тем лучше) | 3.21 | 2.88 | 4.80 | 10.44 |
| Холодный запуск ClickBench, 43 запроса (s, чем меньше, тем лучше) | 6.45 | 7.09 | 6.92 | 14.22 |
| Кэш Valkey, SET (запросов/с) | 666,714 | 1,138,696 | 914,832 | 1,719,108 |
| Кэш Valkey, GET (запросов/с) | 865,353 | 1,279,429 | 991,576 | 1,648,278 |
| Stockfish, все ветки обсуждения (Mnps) | 68.21 | 168.27 | 45.44 | 37.42 |
| PyPerformance go (мс, чем ниже значение, тем лучше) | 74.3 | 66.0 | 72.1 | 56.7 |
ClickHouse выполнила 43 запроса ClickBench за 3.21 секунды в режиме высокой нагрузки и 6.45 секунды в режиме низкой нагрузки на T4, что на 0.33 секунды меньше, чем у 7875 в режиме высокой нагрузки, и на 0.64 секунды больше в режиме низкой нагрузки. Valkey отдает предпочтение быстрым ядрам перед многоядерными, и 666 714 запросов SET в секунду на T4 превосходят все три сравниваемые системы, при этом Core Ultra 9 285K в Pro Max Tower T2 лидирует с 1.72 миллионами запросов. Эта закономерность соответствует результатам T4 в однопоточном режиме и заслуживает внимания для сервисов, ограниченных задержкой.
При загрузке всех 172 потоков и средней температуре процессора 87°C, T4 выполнил поиск 68.21 миллиона узлов в секунду в Stockfish, что в 1.5 раза больше, чем у 48-поточного Pro Precision 9 T2, и значительно меньше половины показателя 7875 (168.27 миллиона узлов в секунду при 192 потоках). Тест также завершился с ошибкой по истечении времени ожидания при первом полном запуске T4, после чего повторное тестирование в автономном режиме показало этот результат. Мы приводим результат в том виде, в котором он был получен, и не смогли выявить причину слабого масштабирования.
Производительность хранилища
| fio, объем занимаемого места 25 ГиБ (чем больше, тем лучше) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Про Макс Тауэр Т2 |
|---|---|---|---|---|
| Последовательное чтение 128K (МБ/с) | 14,152 | 7,089 | 20,914 * | 7,234 |
| Последовательная запись 128 Кб (МБ/с) | 10,078 | 5,265 | 12,564 | 6,772 |
| Случайное чтение 4K, пиковое значение (IOPS) | 2,306,346 | 993,569 | 3,214,066 | 1,538,387 |
| Случайная запись 4K, пиковое значение (IOPS) | 1,830,776 | 787,388 | 2,353,766 | 1,326,030 |
*Программа выявила отклонения от результатов при повторном запуске.
Загрузочный диск SK hynix Gen5 объемом 2 ТБ в системе T4 читался со скоростью 14 152 МБ/с и записывался со скоростью 10 078 МБ/с, что примерно вдвое превышает скорость последовательного чтения дисков Gen4 в Precision 7875 и Pro Max Tower T2. Пиковая скорость случайного чтения составила 2.31 миллиона IOPS, а случайной записи — 1.83 миллиона IOPS. Последовательная скорость чтения Pro Precision 9 T2, составляющая 20 914 МБ/с, превышает скорость передачи данных по одному каналу Gen5 x4, который соответствует тестовому объему системы — массиву дисков Samsung PM9E1 Gen5 с чередованием данных. Мы тестировали только загрузочный диск T4, второй диск объемом 2 ТБ в этот тест не входил.
Перегрев и тактовая частота под нагрузкой
| Dell Pro Precision 9 T4 | Максимальное количество процессоров (C) | Среднее значение ЦП (C) | Средняя тактовая частота процессора (МГц) |
|---|---|---|---|
| 7-Zip | 93 | 80.6 | 1,967 |
| смеситель | 91 | 85.7 | 2,587 |
| GROMACS | 96 | 81.3 | 1,313 |
| сборка LLVM | 83 | 74.5 | 2,127 |
| Открыть БЛАС | 80 | 62.9 | 1,325 |
| LLM по обслуживанию | 84 | 65.0 | 924 |
| Тонкая настройка | 71 | 61.2 | 854 |
| RAG в больших масштабах | 74 | 64.4 | 987 |
| Память | 64 | 55.4 | 942 |
При включенном в BIOS режиме Ultra Performance процессор Xeon 698X достиг пиковой температуры 93°C в 7-Zip и 96°C в GROMACS, а значения тактовой частоты в таблице представляют собой средние значения по всем 172 логическим ядрам. Blender и Stockfish загрузили все потоки и поддерживали частоту от 2.5 до 2.6 ГГц, что выше базовой частоты процессора в 2.0 ГГц. GROMACS и OpenBLAS загрузили 64 и 86 физических ядер соответственно, оставив оставшиеся потоки в режиме ожидания на частоте около 0.8 ГГц, поэтому их средние значения составляют около 1.3 ГГц. Работа с использованием графического процессора поддерживала более низкую температуру процессора, в среднем от 61 до 65°C во время LLM-сервера, тонкой настройки и RAG, поскольку эти тесты сильно зависят от видеокарт.
Заключение
Dell Pro Precision 9 T4 создан для локальной работы с ИИ, и вторая видеокарта RTX PRO 6000 демонстрирует это на практике. Две карты Max-Q увеличили пиковую пропускную способность обслуживания в 1.85–2.02 раза для четырех моделей и пропускную способность встраивания в 1.92 раза, сократили время выполнения эпохи LoRA на Ministral 3 8B с 31.5 до 19.7 минут и уменьшили производительность MiniMax M2.7, модели, слишком большой для одной карты, с 30.3 до 83.7 токенов в секунду для одного пользователя. На gpt-oss 120B один сервер на GPU достиг 7,091 общего количества токенов в секунду при 64 запросах, а разделение модели на обе карты вернуло первый токен для одного пользователя за 719 мс вместо 1,189 мс.
Восемь каналов DDR5-6400 обеспечили процессору Xeon 698X 53-процентное преимущество в пропускной способности памяти по сравнению с Threadripper PRO 9995WX. Эта пропускная способность позволила T4 быстрее получать результаты в тестах OpenFOAM, GROMACS benchPEP, y-cruncher и HNSW, чем Precision 7875, а хранилище Gen5 в T4 загружало большие модели быстрее. Корпус также заслуживает похвалы: лучшая система охлаждения, которую мы видели у Dell в этом классе, и доступ к блоку питания без использования инструментов.
Процессор 7875 по-прежнему опережает конкурентов по производительности в задачах рендеринга, сжатия и компиляции, зависящих от ядра, на 18–38 процентов, а также на 60 процентов в тесте SVT-AV1. Скорость каждого ядра у Xeon отставала от всех систем в этой группе, что проявилось в Valkey и других малопоточных сервисах. Тонкая настройка на одном графическом процессоре также была медленнее на T4, где эпоха LoRA заняла 31.5 минуты против 27.2 у 7875 и 22.3 у карты мощностью 600 Вт в Pro Max Tower T2, при этом все системы завершили работу с разницей не более 0.005.
Примерно за 66 600 долларов в конфигурации, представленной на Dell.com, модель T4 подходит для команд, которые хотят развертывать, внедрять и оптимизировать модели локально, включая модели, требующие более 96 ГБ памяти графического процессора, а также выполнять ресурсоемкие задачи моделирования и аналитики на одной машине. Покупатели, чья работа в основном связана с рендерингом и компиляцией, найдут платформу Threadripper более быстрой, а покупатели, которым нужен один графический процессор, могут приобрести ту же карту в более компактной модели Pro Precision 9 T2.
Рейтинг: Dell Pro Precision 9 T4 занимает первое место среди настольных компьютеров с процессорами Xeon для локального ИИ в нашем рейтинге лучших настольных компьютеров для локального ИИ.
Amazon