存储评论网

短小、安静、强大:Supermicro IoT SYS-E403-14B-FRN2T 评测

企业版  ◇  服务器

企业部署边缘服务器系统是为了运行具有可预测延迟、易于维护和可扩展空间的工作负载,而 Supermicro 的 SYS-E403-14B-FRN2T 恰好符合这一要求。这款短深度系统提供了专为墙壁、壁橱和浅机架设计的功能集,尤其侧重于本地 AI 推理、视频分析、物联网和多接入边缘计算。它开箱即用,提供三个 PCIe Gen5 x16 全高闪存 (FHFL) 插槽、两个 10GbE 端口,以及简洁的存储布局,前端配有热插拔 NVMe 托架,内部配有固定 SATA 托架。

超微 SYS-E403-14B-FRN2T

SYS-E403-14B-FRN2T 支持英特尔至强 6 处理器的 P 核和 E 核系列,从而赋予其大多数短板系统不具备的灵活性。P 核型号最多可达 48 个内核和 96 个线程,并配备 288MB 缓存,专为延迟敏感型工作而设计,例如推理、视频分析或事务处理,这些工作对高时钟速度至关重要。E 核型号显著增加了内核数量,最多可达 144 个内核和 144 个线程,并配备 108MB 缓存。这使得它们更适合流数据、并行聚合或容器密集型部署。在同一平台上同时提供这两种选项,使运营商能够决定其边缘节点应该强调响应速度还是原始密度,而不会被低功耗 SKU 所束缚。

SYS-E403-14B-FRN2T 能够支持高达 300W 的风冷 TDP CPU,从而带来更大的灵活性。大多数边缘平台的功耗限制在 165-185W,这使得顶级部件无法使用。通过提供 300W 的热余量,Supermicro 能够部署通常只用于数据中心机架的处理器。对于复杂推理或更繁重的 AI 流水线等工作负载而言,这一点至关重要,因为它消除了通常制约边缘服务器的人为限制。

Supermicro SYS-E403-14B-FRN2T 风扇

该主板配备八个 DDR5 RDIMM 插槽,最高支持 2TB 内存,速度高达 DDR5-6400 MT/s。精简配置可能仅使用 128GB 或 256GB 的 RAM,这对于较轻的推理工作负载来说已经足够。然而,对于需要将整个数据集存储在内存中以保持可预测延迟的大型分析节点,同一机箱可以扩展到 2TB。这意味着随着工作负载的增长,组织无需更换平台;它们可以在同一机箱内扩展。这与边缘环境的演进方式相一致:从小规模开始,然后随着应用程序和数据管道的复杂程度不断提升而扩展。

该机箱还支持一个双宽或两个单宽 GPU,使双 NVIDIA L4 配置成为边缘部署的受支持选项。该配置反映了我们观察到的团队将训练好的模型从数据中心迁移到生产站点的最常见需求之一。它在吞吐量和效率之间取得了平衡,在保持可预测延迟的同时,保持功耗和散热可控。由于配备了三个 FHFL PCIe 插槽,即使在双 GPU 配置下,仍然有扩展空间,无论是用于数据采集还是网络。

存储方面,该系统提供两个前置 U.2 NVMe 托架,支持热插拔功能,每个托架可安装高达 122.88 TB 的企业级硬盘。这意味着只需一对 SSD 即可存储海量本地数据集,同时仍保留充足的空间。两个内置 2.5 英寸 SATA 托架可为操作系统或轻量级工作负载提供额外空间,双 PCIe Gen5 M.2 插槽则为快速启动驱动器或临时卷提供了更高的灵活性。这些选项共同实现了容量、性能和可维护性的平衡。

专用的 ASPEED AST2600 BMC 配备独立的 1GbE 端口,提供完整的带外控制,包括 IPMI 和远程 KVM,使管理员能够在不影响生产流量的情况下管理系统。安全性基于 TPM 2.0 和硅信任根的硬件,并由签名固件、安全启动、自动恢复和系统锁定功能提供支持。这些措施在物理访问难以控制的边缘环境中尤为重要,并且有助于确保系统即使在安全性较低的环境中也能保持可信。

在我们的实验室中,该系统已证明,就其尺寸而言,它每平方英寸可提供卓越的可用性能。CPU 灵活性、高容量 DDR5 内存、实用的加速功能以及简洁的存储功能相结合,使 SYS-E403-14B-FRN2T 感觉不像一个精简的边缘设备,而更像是一个精简的数据中心节点。

超微 SYS-E403-14B-FRN2T 规格

下表详细列出了 Supermicro SYS-E403-14B-FRN2T 的硬件、机箱和管理功能。它涵盖了从 CPU 和 GPU 支持到内存容量、I/O 选项、扩展、存储、冷却和电源的所有内容,让您能够以紧凑的边缘外形全面了解系统的功能。

分类 规格
产品SKU 超级服务器 SYS-E403-14B-FRN2T
主机板 超级 X14SBW-TF
处理器 单插槽 E2 (LGA-4710),英特尔® 至强® 6700/6500 系列(P 核)或 6700 系列(E 核)
P核心:48C/96T,288MB缓存
E核心:144C/144T,108MB缓存
支持高达 300W TDP CPU(风冷)
GPU支持 最多 1 个双宽 GPU 或 2 个单宽 GPU
支持的 GPU:NVIDIA L40、RTX 6000 Ada、L4、A2
内存 8 个 DIMM 插槽,最高支持 2TB DDR5-6400 MT/s ECC DDR5 RDIMM (1DPC),1.1V
车载设备 芯片组:SoC
网络:2 × RJ45 10GBASE-T(英特尔® X550),1 × RJ45 1GbE(ASPEED AST2600)
I / O端口 局域网:1×RJ45 1GbE BMC,2×RJ45 10GbE
USB:4 × USB 3.2 Gen 1 Type-A(正面)
视频:1 × VGA(前置)
串行:1 × COM(正面)
TPM:1 × TPM 接头
BIOS AMI 32MB SPI 闪存 EEPROM
管理团队 Supermicro 服务器管理器 (SSM)、SuperDoctor® 5、超级诊断离线 (SDO)、瘦代理服务 (TAS)、SuperServer 自动化助手 (SAA)
安全性 TPM 2.0、硅信任根 (NIST 800-193)、加密签名固件、安全启动、安全固件更新、自动固件恢复、系统锁定
底座 基于风扇的嵌入式,型号:CSE-E403BiF-000NDBP2
尺寸/重量 高度:4.62“(117.3毫米)
宽度:10.5“(266.7毫米)
深度:16 英寸(406.4 毫米)
包装:10.4 英寸(高)× 16.4 英寸(宽)× 26 英寸(深)
净重:18.5 磅(8.16 公斤),毛重:24.5 磅(10.95 公斤)
控制面板 LED:HDD、LAN1、LAN2、电源、重置、系统信息
按钮:电源开/关、重置
扩展 3 个 PCIe 5.0 x16 FHFL 插槽
驱动器托架 总4
2 × 前置热插拔 2.5 英寸 NVMe
2 × 内部固定 2.5 英寸 SATA(需要控制器/电缆)
2 个 M.2 PCIe 5.0 x2 NVMe (2280/22110)
散热器 最多 3 个 80×80×38mm 重型风扇,具有最佳风扇速度控制
1 × 空气罩
可编程电源 2 × 800W 冗余白金级 (94%) PS​​U
输入:100-127Vac(750W)/ 200-240Vac(800W)/ 230-240Vdc(800W)
+12V:最大66.6A
5VSB:最大 4A
操作环境 温度(工作):0°C–45°C
温度(非工作):-40°C–70°C
湿度(工作):8%–90% 非冷凝
湿度(非工作):5%–95% 非冷凝

Supermicro SYS-E403-14B-FRN2T 设计和构建

SYS-E403-14B-FRN2T 的物理设计简洁,明显以易维护性为核心。前面板集成了存储、I/O 和系统控制功能,最大限度地减少了对后方访问的需求,而后方访问在壁挂式或浅机架部署中通常较为受限。左侧有两个 2.5 英寸 NVMe 托架,方便更换驱动器。右侧是三个 PCIe 5.0 x16 全高闪存 (FHFL),可通过转接卡从前端访问,无需在后端预留额外空间即可安装加速器或网卡。

前端接口丰富,包括一个 VGA 端口、一个串行 COM 端口、四个 USB 3.2 Gen 1 Type-A 端口、一个由英特尔 X550 控制器供电的双 10GbE 端口,以及一个与 AST2600 BMC 绑定的专用 1GbE 管理端口,所有接口都触手可及。这种方法消除了在狭小空间内维护边缘服务器的常见痛点,因为几乎所有必要的接口都可以在机箱的同一面上使用。

SYS-E403-14B-FRN2T 还配备了一对冗余的 800W 铂金级模块,位于左上角,每个模块均配有手柄,方便快速更换。在对角,控制集群配备了一个大型发光电源按钮、一个嵌入式复位开关和一整排状态 LED。指示灯涵盖电源、驱动器活动、两个 10GbE 端口的网络流量、电源故障和散热状况。与冗余电源模块绑定的专用电源故障 LED 尤其有用,可让技术人员立即确认故障单元,从而快速更换,避免诊断延迟。网络 LED 也发挥着类似的作用,无需检查软件工具即可立即反馈链路活动。

后部没有额外的 I/O 接口,这对于一个完全从前端进行维护和连接的系统来说非常合理。机箱设计充分考虑了气流,配备了三个 80 毫米热插拔风扇,风扇与机箱宽度相同,每个风扇都配有可拆卸的防尘过滤器。空气从前部进入,直接流经 CPU 和内存,然后从后部以直线路径排出,避免不必要的湍流。这种线性冷却策略在安装高功率 CPU 或 GPU 时至关重要,因为它能够在负载下保持一致的气流和可预测的散热性能。

SYS-E403-14B-FRN2T 还具有防尘过滤功能,因为边缘部署更有可能在充满空气颗粒的环境中运行,而这些颗粒会随着时间的推移影响性能。过滤器设计易于维护,无需关闭系统即可拆卸和清洁,简化了维护流程,同时降低了计划外停机的风险。SYS-E403-14B-FRN2T 将热插拔风扇与免工具、易于维护的过滤系统相结合,完美解决了在数据中心受控环境之外运行的现实问题。

卸下顶盖即可看到主板,DIMM 插槽整齐排列在 CPU 插槽旁,方便升级或更换。两个内置 SATA 插槽位于主板侧面,而 M.2 插槽的布局则使其易于操作,不会干扰 PCIe 转接卡。扩展插槽采用全高全长插槽,安装在转接卡上,这种布局既保留了机箱的短板深度,又能容纳更大的卡。电源通过冗余 PSU 模块沿侧面垂直传输,模块化设计使布线简洁,维护简便。

Supermicro SYS-E403-14B-FRN2T 内部

冷却组件的布局同样注重可维护性。导流罩将气流均匀地引导至 CPU,而 DIMM 的布置则确保内存获得持续的冷却,而不会干扰流向加速器的气流。GPU 和其他附加卡的布局使其能够从同一通道中受益,而不会在处理器周围产生热点。维护点的分离进一步简化了维护:可以从前端访问驱动器,从后端访问风扇,从顶部访问内存或加速器。在分布式边缘环境中,访问通常受限且维护窗口较短,这种方法优先考虑功能和可靠性而非外观设计,从而使系统更易于维护和持续运行。

Supermicro SYS-E403-14B-FRN2T 性能测试

在深入研究性能基准测试之前,值得注意的是,与我们通常测试的全尺寸机架式服务器相比,Supermicro SYS-E403-14B-FRN2T 是一款非常独特的系统。该设备设计为紧凑型边缘平台,配备单个英特尔至强 6521P 处理器,总共提供 24 个核心。

该系统支持最新的单插槽 E2 (LGA-4710) Xeon 6700/6500 系列处理器,提供高达以下配置:

  • P 核心:48C/96T,288MB 缓存
  • E 核心:144C/144T,108MB 缓存
服务器配置
  • CPU: 英特尔至强 6521P 24 核
  • RAM: 256GB 内存 32GBx8 DDR5-6400 ECC RDIMM
  • 存储: 2 个 Solidigm D3 S4620 960GB 和 1 个 Samsung PM9A3 1.9TB NVMe U.2
  • GPU: 英伟达 L4

随着基准测试的深入,需要注意的是,本次评测仅针对 Supermicro SYS-E403-14B-FRN2T。我们没有其他同级别的系统可供进行公平的同类比较。因此,评测结果具有独立性,凸显了这款紧凑型边缘平台在各种工作负载下的性能。即便如此,该系统的设计使其能够扩展更强大的配置,支持高达 96 个 P 核心或 144 个 E 核心,使其能够超越其重量级别,并接近更大型机架式单路设计的性能水平。

y 粉碎机

y-cruncher 是一款多线程、可扩展的程序,能够计算圆周率 (Pi) 和其他精确到万亿位的数学常数。自 2009 年推出以来,它已成为超频玩家和硬件爱好者们热衷的基准测试和压力测试应用程序。

在 y-cruncher 测试中,搭载英特尔至强 6521P(24 核)的 Supermicro SYS-E403-14B-FRN2T 在所有运行中均表现出色。在 10 亿位数字计算中,它仅用时 10.2 秒;在 2.5 亿位数字计算中,它仅用时 27.6 秒;在 1 亿位数字计算中,它仅用时 63.1 秒;在 5 亿位数字计算中,它仅用时 134.4 秒。在 25 亿位数字计算中,该系统仅用时 391.8 秒。这些结果凸显了紧凑型边缘服务器处理高要求、长时间计算工作负载的能力。

y-cruncher 总计算时间(越低越好) 超级服务器 SYS-E403-14B-FRN2T(英特尔至强 6521P 24C)
1亿 10.199秒
2.5亿 27.59秒
5亿 63.12秒
10亿 134.44秒
25亿 391.84秒

搅拌机4.0

Blender 4.0 是一款开源 3D 建模应用程序。此基准测试使用 Blender Benchmark CLI 实用程序运行。分数以每分钟采样数计算,值越高,性能越好。

在 Blender 4.0 CPU 渲染测试中,SYS-E403-14B-FRN2T 在“怪物”场景中实现了每分钟 375.5 次采样,在“旧货店”场景中实现了每分钟 246.5 次采样,在“课堂”场景中实现了每分钟 179.3 次采样。这些数据证实,即使没有 GPU 加速,该系统的 24 核 Xeon CPU 也非常适合渲染任务。

Blender 4.0 CPU 每分钟采样数(越高越好) 超级服务器 SYS-E403-14B-FRN2T(英特尔至强 6521P 24C)
怪物 375.53
旧货店 246.52
课堂 179.32

配备 NVIDIA L4 GPU 后,性能显著提升。启用 GPU 加速后,SYS-E403-14B-FRN2T 在 Monster 中每分钟采样 1,975.2 次,在 Junkshop 中每分钟采样 1,027.2 次,在 Classroom 中每分钟采样 1,036.1 次。这充分展现了该系统如何从基于 CPU 的工作负载过渡到加速 GPU 渲染,使其成为计算密集型应用程序的多功能选择。

Blender 4.0 GPU 每分钟采样数(越高越好) 超级服务器 SYS-E403-14B-FRN2T (NVIDIA L4)
怪物 1,975.18
旧货店 1,027.16
课堂 1,036.09

Phoronix 基准测试

Phoronix Test Suite 是一个开源的自动化基准测试平台,通过 OpenBenchmarking.org 支持超过 450 个测试配置文件和 100 多个测试套件。它能够处理从安装依赖项到运行测试并收集结果的所有工作,非常适合性能比较、硬件验证和持续集成。我们将考察 Stream、7-Zip、Linux 内核构建、Apache 和 OpenSSL 测试中的性能。

使用 Phoronix 测试套件,SYS-E403-14B-FRN2T 在多个工作负载中取得了优异的成绩。

  • 流内存带宽:305,960 MB/s
  • 7-Zip 压缩:235,421 MIPS
  • 内核编译(allmod):540秒
  • Apache Web 服务器:每秒 289,885 个请求
  • OpenSSL 验证:每秒 408 亿次验证

这些结果表明,紧凑型系统能够处理内存密集型应用程序、开发工作负载、Web 服务器性能和加密操作,同时保持其小巧外形的优势。

Phoronix 基准测试 超级服务器 SYS-E403-14B-FRN2T(英特尔至强 6521P 24C)
流内存带宽 305,960.3 MB / s的
7-Zip 压缩 235,421米每秒
内核编译(allmod) 540.260秒
Apache(每秒请求数) 289,885.15 卢比/秒
OpenSSL 验证 408,423,815,760 验证/秒

结语

Supermicro SYS-E403-14B-FRN2T 是一款紧凑型 16 英寸深系统,专为嵌入式边缘部署而设计,在这种部署中,空间和可维护性与原始功率同等重要。尽管尺寸较小,但它保留了通常只有大型机架式服务器才具备的功能,包括双冗余电源、全高 GPU 支持以及高达 300W TDP 的灵活 CPU 选项。在我们的测试中,该平台能够可靠地处理高要求的计算任务,并在 y-cruncher、Blender 和 Phoronix 工作负载中取得了优异的成绩。它甚至在 Apache Web 服务方面也表现出色,其效率和响应速度使其比更大规模的系统更具优势。添加 NVIDIA L4 处理器后,该设备能够快速扩展到 AI 推理或渲染用例,进一步巩固了其作为多功能边缘平台的地位。

从物理角度来看,该设计注重安静运行、前置维护方便和安装灵活性,并支持壁挂式安装或浅机架安装。额定工作温度高达 45°C,非常适合部署在控制性较差、传统机架式设备可能不适用的环境中。虽然也存在一些权衡,例如选择简单的 U.2 布局而不是更密集的 E3.S 选项,但这体现了可扩展性和保持系统精简之间的平衡。

总体而言,SYS-E403-14B-FRN2T 兼具紧凑的外形、灵活性和实用性能。它并非旨在取代高密度机架式服务器。然而,对于需要可靠的边缘计算和 GPU 加速、便捷的服务和紧凑的占用空间的企业而言,该系统提供了一个强大且经过深思熟虑的解决方案。

Supermicro IoT SuperServer SYS-E403-14B-FRN2T 产品页面

参与 StorageReview

订阅消息 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | TikTok | RSS订阅

莱尔·史密斯

Lyle 是 StorageReview 的长期撰稿人,报道广泛的最终用户和企业 IT 主题。