首页 企业版 OnLogic 轴向 AC101 评测

OnLogic 轴向 AC101 评测

by 莱尔·史密斯

OnLogic Axial AC101 是一款 1U 机架式服务器,专为紧凑性和性能而设计。 它由第 13 代英特尔酷睿“Raptor Lake”处理器提供支持,其特点是可实现快速启动的 M.2 插槽、可容纳四个内部企业 NVMe SSD 的容量以及一个 PCIe 扩展插槽,使其成为一个高度通用的系统。 它还具有 10GbE 板载连接和带外管理支持,以完善系统的功能集。

OnLogic Axial AC101 是一款 1U 机架式服务器,专为紧凑性和性能而设计。 它由第 13 代英特尔酷睿“Raptor Lake”处理器提供支持,其特点是可实现快速启动的 M.2 插槽、可容纳四个内部企业 NVMe SSD 的容量以及一个 PCIe 扩展插槽,使其成为一个高度通用的系统。 它还具有 10GbE 板载连接和带外管理支持,以完善系统的功能集。

OnLogic 轴向 AC101 正面

Onlogic 以生产坚固耐用的工业计算机和技术解决方案而闻名,这些计算机和技术解决方案专为最恶劣的环境而设计,可提供高水平的可靠性。 谷歌、亚马逊和 NASA 只是利用 OnLogic 技术的几家公司。 这是我们第一次与 OnLogic 合作进行评测,因此我们很高兴看到他们提供的产品以及 OnLogic Axial AC101 在我们的基准测试中表现如何。

正如当今大多数边缘服务器的目标一样,OnLogic AC101 是一个有价值的工具,可以帮助组织完成边缘推理等人工智能任务。 当然,它还能够用于许多其他应用,例如电信支持、边缘研究等。 虽然总体上来说,AC101 是一个非常小型且经济高效的系统,但它仍然提供强大的功能和灵活性。

OnLogic 轴向 AC101

有趣的是,AC101 将消费级部件与工业计算机设计相结合。 从规格来看,该系统配备了英特尔第 13 代处理器,最高可达 i9 24 核 32 线程选项。 对于内存,它支持多达 4 个 DDR5-4800 UDIMM(非 ECC 或 ECC),总计 128GB,其中 32GB DIMM。

OnLogic Axial AC101 内部

如上所述,它还有一个用于启动驱动器的 M.2 插槽和四个用于存储的企业 U.2 NMVe 托架。 评测版本有四个 Micron 7450 Pro 960GB SSD。 应该注意的是,它们位于机箱内部。 同样在我们的配置中,其 PCIe 插槽(用于扩展)装有 NVIDIA A2 专业显卡。

Axial AC101 边缘服务器具有五个 40x40x56mm 对转系统风扇,这些风扇可以通过底板管理控制器 (BMC) 相对于支持的系统温度传感器进行独立控制和配置。 两个风扇指向 PCIe 插槽,三个风扇指向 SSD 和 CPU。

OnLogic Axial AC101 无边框

根据 PCI-SIG 的定义,插槽的 PCIe 转接卡边缘功耗额定支持高达 75W。 使用可选的 PCIe 150 针/6 针辅助电源接头支持高达 8W 的 PCIe 适配器。

OnLogic Axial AC101拥有丰富的I/O接口选项,可以满足边缘计算任务的多样化需求。 在正面,与他们的所有系统一样,经典的 OnLogic 橙色配色方案很流行。 在其后面,服务器配备了 2 个 USB 3.2 Gen 1 Type-A 端口。 我们的系统配备了安全挡板选项,消除了前面的 2 个 USB 端口。 所有 AC101 系统都有一个白色 LED 电源按钮和一个蓝色 LED ID 按钮。

OnLogic 轴向 AC101 后部

大部分端口位于背面 I/O。 对于以太网连接,有 2 个 10GbE、2 个 1GbE 和 1 个 GbE 专用管理 (BMC/IPMI) 端口。 背面还有两个 USB 3.2 Gen 1 Type-A 端口和 1 个 DB9 (COM) 串行端口。 它配备了常用的 DisplayPort、HDMI 和 VGA 显示连接器。

OnLogic 轴向 AC101 固态硬盘

后面还有电源。 OnLogic 提供单电源和双电源选项,最高可达 750W。 我们的评测设备中有 2x 750。

该系统还具有入侵检测开关,现在许多系统都在使用。 此功能常见于机架式服务器和笔记本电脑等安全计算系统中。 它的工作原理是,如果设备的物理外壳被打开,则会触发警报,向管理员和用户发出潜在未经授权访问的信号。 这些警报可以提示各种自动响应,例如系统关闭或向管理员发出通知。

OnLogic Axial 100 系列享有 2 年有限保修。

OnLogic Axial 100 系列规格

分类 规格
变种 AC101 – 高性能 1U,带 150W PCIe 4.0 x16 扩展
处理器 英特尔第 13 代 Raptor Lake-S (LGA1700)
酷睿 i3、i5、i7 和 i9 最多 24 核 32 线程
i3-13100E 或 TE、i5-13500E 或 TE、i7-13700E 或 TE、i9-13900E 或 TE
125W PL2(功率级别 2)
内存 支持多达 4 个 DDR5-4800 UDIMM(非 ECC 或 ECC)
总内存高达 128GB
最大运行速度:4400 MT/s
芯片组 英特尔 W680
集成显卡 英特尔超核芯显卡 730 (i3) 或 770(i5、i7、i9)
前端I / O 2 个 USB 3.2 Gen 1 A 型
1x 电源按钮/LED(白色)
1x ID 按钮/LED(蓝色)
后端I / O 1x 1GbE 专用管理 (BMC/IPMI)
2 个 1GbE LAN 英特尔 i210
2 个 10GbE LAN 英特尔 X710
2x USB 3.2 Gen 1 Type-A
1x DisplayPort
1x HDMI
1x VGA
1 个 DB9(串口)
1x ID 按钮/LED(蓝色)
扩展与存储 1x M.2 2280/2260/2242/2230 M 键(PCIe Gen 3 x4)
1x PCIe Gen 4 x16 全高、全长插槽(高达 150W)
多达 4 个 2.5 英寸驱动器(NVMe 或 SATA)
特殊功能 ASPEED AST2600:完整的 Web UI、iKVM、vMedia 支持
1/10 网络控制器边带接口 (NC-SI)
可选 TPM 2.0 模块 (Infineon SLB9670) 或 Intel PTT(本机)
机箱入侵检测
安全挡板
安全启动
操作系统 Microsoft Windows 10 IoT Enterprise 2021 LTSC(价值/高端)64 位
微软 Windows 11 专业版 64 位
局域网控制器 2 个 Intel i210 控制器(2 个 1GbE 端口)
1 个 Intel X710 控制器(2 个 10GbE 端口)
电源 最多 2 个带 PMBUS 监控功能的 PSU,100~240 VAC 输入
450W金色
750W白金
外形尺寸(宽x高x深) 430 x 43.5 x 515 毫米(16.9 x 1.7 x 19.7 英寸),不含安全挡板
483 x 43.5 x 534 毫米(19.0 x 1.7 x 21.0 英寸),带安全挡板
重量 系统最大重量:10.02 千克(22.1 磅)
最大运输重量:12.88 千克(28.4 磅)
安装 机架安装 28” 免工具滑轨
机架安装 23” 滑轨
带理线臂的机架安装 23 英寸滑轨
墙面安装
工作温度 5°C ~ 40°C(ASHRAE A3 工作温度)
海拔高度超过 1m(175 英尺)时,每增加 574m(900 英尺),最高环境温度就会降低 2,953°C
储藏温度 -40°C〜70℃,
工作湿度 8~85% 相对,非凝结
最高露点 24°C
存储湿度 0~95% 相对,非凝结
最高露点 24°C
冲击和振动 ISTA 6-FEDEX-A
保修政策 零件和服务 2 年有限保修
延长保修选项 提供 3 年和 5 年延期

性能

为了展示 OnLogic Axial AC101 的功能,我们对其进行了一系列严格的性能测试,旨在衡量其在处理、图形和对各种应用的整体适用性方面的能力。 因此,基准测试包括 SPECviewperf 2020、SPECworkstation 3、Blender OptiX、Luxmark、7-Zip Compression、Blackmagic RAW Speed Test 和 UL Procyon。 我们打算阐明其处理任务的能力(从图形密集型设计到计算效率),以便我们的读者能够做出明智的决定。

我们的构建具有以下关键规格:

元件 描述
处理器 1 个英特尔酷睿 i9-13900E 处理器
内存 4 个金士顿 DDR5-4800 32GB UDIMM,带 ECC
主要 M.2 存储 1 个 512 GB M.2 NVMe 固态硬盘
PCIe 扩充卡 1 个 NVIDIA A2 16GB or 英伟达 A4000
附加存储 4 x 美光 7450 Pro 960GB U.3 2.5 英寸 (1.0 DWPD) + Oculink 转 U.2 电缆
TPM 2.0模块 1 x 华擎机架式英飞凌 SLB9670 TPM 2.0 13 针 SPI 模块
可编程电源 1 x 750W 双电源,带北美电源线
运行系统 1 个 Windows 11 专业版 – 64 位
自动开机 1 x 自动开机
安装 1 x 28 英寸免工具滚珠轴承滑轨

在我们的测试中,我们使用了 AC2 附带的 NVIDIA A101 和实验室中的 RTX A4000 来分析两个常见的机架式工作站; 使用 A2 构建以人工智能推理为中心的构建,使用 RTX4000 构建更通用的图形功能。

OnLogic 提供多种 GPU 选项的出厂配置,包括 NVIDIA T400、NVIDIA T1000、NVIDIA A2 和 NVIDIA RTX A4000,以及替代 GPU 的一些其他高速网络选项,包括 NVIDIA ConnectX-6LX 25GbE。 我们使用的一些测试也不能在 A2 GPU 上执行,包括 Procyon,因此一些测试仅使用 RTX A4000 GPU。 CPU 密集型测试不会通过 GPU 交换进行复制。

SPECviewperf 2020年

我们的第一个测试是 SPECviewperf 2020,这是测量 OpenGL 和 Direct X 应用程序编程接口下专业应用程序图形性能的全球标准。 视图集(或基准)代表实际应用程序的图形内容和行为,而无需安装应用程序本身。 该基准测试的最新版本在去年年底进行了重大更新,包括从最新版本的 3ds Max、Catia、Maya 和 Solidworks 应用程序的跟踪中获取的新视图集。 此外,他们还在所有视图集中添加了对 2K 和 4K 分辨率显示器的支持。

SPECviewperf2020 视图集
(越高越好)
OnLogic 轴向 100 系列
(英特尔酷睿 i9-13900E 处理器、NVIDIA A4000)
3dsmax-07 94.78
卡地亚-06 70.54
Creo-03 119.74
能量-03 22.43
玛雅06 237.44
医疗-03 21.86
SNX-04 342.29
SW-05 111.93

根据 SPECviewperf2020 基准测试结果,OnLogic Axial 100 系列在各种视图集中展示了卓越的性能。 值得注意的是,它取得了令人印象深刻的分数,例如 Maya-237.44 中的 06、Snx-342.29 中的 04 和 Creo-119.74 中的 03,反映了其在处理设计、工程和创意应用程序中要求较高的图形任务方面的熟练程度。

规格工作站 3

SPECworkstation3 专注于为测试工作站性能的所有关键方面而设计的基准测试; 它使用 30 多个工作负载来测试 CPU、图形、I/O 和内存带宽。 工作负载分为更广泛的类别,例如媒体和娱乐、金融服务、产品开发、能源、生命科学和一般运营。 我们将列出每个类别的大类结果,而不是单个工作负载。 结果是每个类别中所有单独工作负载的平均值。

规格工作站 3
(越高越好)
OnLogic 轴向 100 系列
(英特尔酷睿 i9-13900E 处理器、NVIDIA A4000)
媒体和娱乐
产品开发 4.68
生命科学 4.22
金融服务 5.28
新能源 4.86
常规操作 2.49
GPU计算 0.34

 OnLogic Axial 100 系列在不同类别中提供了不同的性能水平。 值得注意的是,它在金融服务方面取得了5.28分,在产品开发方面取得了4.68分等具有竞争力的分数,显示了其在处理与财务计算和产品设计相关的任务方面的熟练程度。 此外,该系统在生命科学方面的得分为 4.22,在能源方面的得分为 4.86,这表明其适合科学和能源相关工作负载。 也就是说,它在一般操作中的得分为 2.49,而 GPU 计算得分为 0.34,表明它在 GPU 密集型计算任务中的性能有限(这是由于较低端的 A2 专业显卡)。

搅拌机优化

Blender 是一款开源 3D 建模应用程序。 该基准测试是使用 Blender Benchmark 实用程序运行的。 分数是每分钟的样本数,越高越好。 在这里,我们使用 A2 和 A4000 专业 NVIDIA GPU 测试了 OnLogic Axial。

NVIDIA A2 Tensor Core GPU 专为边缘的多功能入门级推理任务而定制,具有低功耗和紧凑的外形。 凭借低调的 PCIe Gen4 兼容性和可配置的 40-60W 热设计功耗 (TDP) 等功能,A2 为边缘服务器提供高效的推理加速。 另一方面,NVIDIA RTX A4000 是一款更强大的单插槽 GPU,专为专业人士设计,为桌面工作提供实时光线追踪、AI 加速计算和高性能图形。

Blender OptiX(每分钟样本数;越高越好) OnLogic 轴向 100 系列
(英特尔酷睿 i9-13900E 处理器、NVIDIA A2 16GB)
OnLogic 轴向 100 系列
(英特尔酷睿 i9-13900E 处理器、NVIDIA A4000 16GB)
怪物 480.73 1,154.3
旧货店 303.33 619.98
课堂 249.64 505.73

 结果显示两个 GPU 之间存在显着的性能差异。 配备 NVIDIA A4000 的配置在所有三个基准测试场景中均优于 NVIDIA A2 配置。 这种性能差距可归因于 NVIDIA A4000 的高端规格表,包括更大的 CUDA 核心数量、更高的内存带宽以及对实时光线追踪和 AI 加速任务的支持。

乐士马克

我们将关注的另一个 3D 基准测试是 LuxMark,一个 OpenCL GPU 基准测试实用程序。

乐士马克
(越高越好)
OnLogic 轴向 100 系列
(英特尔酷睿 i9-13900E 处理器、NVIDIA A4000 16GB)
大厅长凳 14,029
食品 5,612

Luxmark 基准分数为 12,029(hallbench)和 5,612(食物),相当不错。

7-Zip 压缩

我们的下一个测试是流行的 7-Zip 实用程序中的内置内存基准测试。 该测试通过测量使用 9-Zip 压缩软件压缩和解压缩文件的速度来衡量 i13900-100E CPU 和 OnLogic Axial 7 内存的性能。

7-Zip 压缩基准(越高越好) OnLogic 轴向 100 系列
(英特尔酷睿 i9-13900E 处理器、NVIDIA A4000 16GB)
压缩
当前 CPU 使用率 1,580%
电流额定值/使用 6.795 吉普斯
额定电流 107.343 吉普斯
产生的 CPU 使用率 1,575%
结果评级/使用 6.795 吉普斯
结果评级 106.915 吉普斯
解压
当前 CPU 使用率 2,978%
电流额定值/使用 5.278 吉普斯
额定电流 157.183 吉普斯
产生的 CPU 使用率 2,929 %
结果评级/使用 5.257 吉普斯
结果评级 153.969 吉普斯
总评分
总 CPU 使用率 2,252%
总评分/使用情况 6.026 吉普斯
总评分 130.442 吉普斯

OnLogic Axial 7 系列的 100-Zip 压缩基准测试结果凸显了其可靠的计算性能。 在“压缩”阶段,系统的 CPU 使用率为 1,575%,评级为 106.915 GIPS,评级/使用率为 6.795 GIPS。 在“解压缩”阶段,系统显示最终的 CPU 使用率为 2,929%,最终的评级为 153.969 GIPS,最终的评级/使用率为 5.257 GIPS。 “总评级”阶段显示总 CPU 使用率为 2,252%,总评级为 130.442 GIPS,总评级/使用率为 6.026 GIPS。 这些结果证明了系统有效处理数据压缩和解压缩任务的能力,例如数据归档、内容创建、科学计算和云边缘环境(即快速处理和高效存储至关重要的环境)。

Blackmagic RAW 速度测试

我们的最后一个测试是新的 Blackmagic RAW 速度测试。 OnLogic Axial 100 系列在配备 NVIDIA A4000 时得分如下。

  OnLogic 轴向 100 系列
(英特尔酷睿 i9-13900E 处理器、NVIDIA A4000)
8K 中央处理器 83帧/秒
8K 开放式 58帧/秒

UL Procyon 测试

UL Procyon 测试是一种重要的评估工具,可测量各种知名模型在不同任务中的平均推理时间。

在这里,我们分为两个不同的版本:一种使用 AIWinML,专注于对指定模型或任务进行基于 CPU 的性能评估;另一种使用 AITensorRT,专注于使用 NVIDIA A4000 GPU 加速来评估模型性能。

AI张量RT
型号 平均推理时间(毫秒)
移动网络 V3 1.41
残差网络 50 12.16
盗梦空间V4 36.50
深实验室V3 36.89
优洛V3 78.07
真爱斯甘 3,655.91
总体得分 810

UL Procyon 结果对模型性能产生了有趣的见解。 例如,MobileNet V3 和 ResNet 50 的推理时间分别为 1.41 毫秒和 12.16 毫秒,令人印象深刻,展示了速度和准确性的平衡。 Inception V4、DeepLab V3 和 YOLO V3 等更复杂的模型具有更高的推理时间(36-78 毫秒之间),而 REAL-ESRGAN 的 3,655.91 毫秒表明其资源密集型图像增强功能。 它的总分是810分。

接下来是 UL Procyon 测试的 AIWinML 版本:

型号 平均推理时间(毫秒)
移动网络 V3 1.41
残差网络 50 12.16
盗梦空间V4 36.50
深实验室V3 36.89
优洛V3 78.07
真爱斯甘 3,655.91
总体得分 115

这些结果突出显示 MobileNet V3 和 ResNet 50 的推理时间分别为 1.41ms 和 12.16ms。 Inception V4、DeepLab V3 和 YOLO V3 等更复杂的模型显示出稍长的推理时间(大约 36-78 毫秒)。 REAL-ESRGAN 模型的推理时间为 3,655.91ms。

结语

OnLogic Axial AC101 1U 机架式服务器是该公司推出的一款可靠产品,凸显了其致力于提供强大的工业计算解决方案的承诺。 这款多功能系统由英特尔第 13 代 Raptor Lake 处理器提供支持,拥有一系列可满足各种任务的功能,包括边缘推理、电信支持和边缘研究。 AC101 将消费级组件与工业设计融为一体,提供强大的功能和灵活性,最高可选配 Intel Core i9 24 核 32 线程处理器,并支持高达 128GB 的​​ DDR5-4800 内存。

AC101 的战略设计延伸至其存储功能,具有用于引导驱动器的 M.2 插槽和用于提供充足存储空间的四个 U.2 NVMe 托架。 此外,系统的 PCIe 扩展插槽可容纳额外的 I/O 选项或低功耗 GPU(例如 NVIDIA A2/L4),从而增强其针对各种应用的多功能性。 板载双 10GbE 和带外管理支持进一步凸显其企业级功能。

OnLogic 在生产优质工业级技术方面享有盛誉,Axial AC101 使其成为在苛刻环境中需要可靠性和性能的组织的理想选择。 凭借其一系列 I/O 接口选项(包括 10GbE、1GbE、USB 3.2 Gen 1 和显示连接),AC101 证明了其满足一系列连接需求的能力。 包括入侵检测和安全启动等安全功能进一步强调了其对数据保护的承诺。

就性能而言,OnLogic Axial AC101 在配备 Intel Core i9-13900E 处理器和 NVIDIA A2 16GB 显卡(我们还安装了 NVIDIA A4000 进行某些测试)时,在一系列基准测试中提供了出色的结果。 值得注意的亮点包括它能够熟练地处理要求较高的图形任务,这一点在 SPECviewperf 237.44 基准测试中的 Maya-06 中的 342.29 分和 Snx-04 中的 2020 分等令人印象深刻的分数中得到了证明。 该系统还在其他各个类别中展示了具有竞争力的表现,在 SPECworkstation 5.28 基准测试中,金融服务得分为 4.68,产品开发得分为 3。 正如 Blender OptiX 结果所示,它在渲染任务中也表现良好(正如我们预期的那样,NVIDIA A4000 GPU 在渲染任务中的性能比 A2 配置高出大约 70-80%)。

OnLogic Axial AC101 是一款脱颖而出的经济高效的边缘服务器解决方案,成功地将紧凑性与电力驱动功能融为一体,很好地满足了边缘计算的需求。 无论是部署用于推理、电信任务还是其他任务,AC101 都是一款多功能且可靠的工具,我们期待在我们的实验室中更频繁地看到它们。

OnLogic 轴向 AC101 配置器

参与 StorageReview

电子报 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | TikTok | RSS订阅