技嘉 AI TOP ATOM 评测

随着NVIDIA DGX Spark平台的首次发布，我们现在看到不同的厂商将基于GB10 Grace Blackwell的平台封装到各自的紧凑型台式机系统中。虽然核心主板和芯片保持标准化，但在机箱设计、散热方案、存储配置和整体性能方面却出现了差异。本次评测，我们将重点关注技嘉搭载AI TOP ATOM处理器的版本。

内部搭载了相同的GB10超级芯片，配备20核Arm CPU复合体、Blackwell AI加速处理器和128GB统一LPDDR5X内存。该架构支持高达1 petaflop的FP4计算能力，并可建模高达200亿个参数，使其稳居工作站级AI产品之列。

AI TOP ATOM 采用紧凑的 1 升机箱，尺寸为 150 x 150 x 50.5 毫米，并由 240W 外置电源适配器供电。虽然其计算核心与其他 Spark 系统相同，但我们将深入探讨技嘉的设计选择如何影响其散热、持续工作负载性能、存储性能以及日常使用体验。

存储选项最高可扩展至 4TB 第五代 NVMe 固态硬盘，系统预装基于 Ubuntu 的 NVIDIA DGX 操作系统，开箱即可应对 AI 工作负载。简而言之，虽然核心计算硬件与其他 Spark 系列系统相同，但用户体验、散热、噪音和整体外观都取决于技嘉在这款紧凑型机箱中所提供的配置。

在本评测中，我们将考察技嘉的 Spark 平台在持续工作负载、散热性能和日常使用性方面的表现，以及其紧凑的外形尺寸是否会带来任何明显的妥协。

规格	技嘉 AI TOP ATOM (GB10)
尺寸和重量
高度	2 in
宽度	5.9 in
深度	5.9 in
重量	2.64磅
处理器
处理器类型	NVIDIA GB10（Grace Blackwell Superchip）（20 核）
集成显卡	NVIDIA Blackwell GPU（集成显卡）
内存
内存类型	LPDDR5x（统一系统内存）
内存配置	128 GB LPDDR5x 统一系统内存
内存带宽	273 GB/s (8533 MT/s)
运行系统
支持的操作系统	NVIDIA DGX 操作系统
外部端口和插槽
网络端口	一个 RJ45 (10GbE) NVIDIA ConnectX-7 网卡（200G × 2 QSFP）
USB端口	三个 USB 3.2 Gen 2×2 Type-C (20Gbps) 一个支持PD的USB 3.2 Gen 2×2 Type-C接口
视频端口	一个 HDMI 2.1a 接口
电源适配器端口	USB Type-C（PD 输入）
安全槽	没有
无线耳机
WiFi	WiFi 7（AW-EM637，2×2）
蓝牙	蓝牙5.4
存放
存储选项	最高支持 4 TB Gen5 NVMe（支持自加密）
电源适配器
类型	240W 外置适配器（USB Type-C）

技嘉 AI TOP ATOM 设计与制造

技嘉 AI TOP ATOM 延续了 Spark 系列处理器一贯的 150 x 150 毫米尺寸，高度为 50.5 毫米，重量为 1.2 千克。它足够小巧，可以放在桌面上，但拿在手里却感觉厚实稳重。其表面采用深色哑光处理，更添工作站的质感。

这款笔记本电脑的前面板并非采用简单的平面格栅，而是由水平条状散热格栅和其后微妙的波浪纹理构成，从不同角度观看时，都能呈现出丰富的层次感和质感。这是一款以散热为核心的设计。技嘉的标志位于面板的下角，正面没有数据接口，甚至连电源按钮也没有，因此面板保持简洁，并专注于空气流通。

所有接口均位于后面板。它配备三个 USB 3.2 Gen 2×2 Type-C 接口，传输速度高达 20Gbps，此外还有一个专用于供电的 USB Type-C 接口。显示输出方面，它配备一个 HDMI 2.1a 接口。网络方面，它配备一个 10GbE RJ-45 接口以及 NVIDIA ConnectX-7 智能网卡，支持高速数据传输，并可用于连接多个系统，方便您构建更大型的网络环境。技嘉还在侧面板上配备了一个 Kensington Nano 安全锁槽。

AI TOP ATOM 内部搭载 NVIDIA GB10 Grace Blackwell 超级芯片，采用 20 核 Arm CPU 配置和集成 Blackwell 显卡。它配备 128 GB LPDDR5x 统一内存，采用 256 位接口，可提供高达 273 GB/s 的带宽。与其他 GB10 系统一样，CPU 和 GPU 共享同一内存池，这对于这些机器处理 AI 工作负载的设计至关重要。

存储方面，最高支持 4TB Gen5 NVMe SSD（具体取决于配置），电源由 240W 外置适配器提供。无线连接方面，支持 WiFi 7 和蓝牙 5.4，同时还集成了 10GbE 网卡，可提供有线连接性能。

技嘉 AI TOP ATOM 散热测试

为了测试技嘉 AI TOP ATOM 主板内部组件的散热性能，我们将其与公版主板以及华硕、宏碁和戴尔等 OEM 厂商的产品进行了比较。我们在后续文章中对此进行了更深入的探讨。 火花热测试纸.

我们对整个堆栈中的各个组件在给定的时间段内进行了监控，工作负载分为三个阶段，利用率在大约一小时内逐步提升。这使我们能够观察设备在长时间使用和不同工作负载阶段的性能。我们监控了 CPU、GPU、网络、NVMe 的温度以及总功耗。

CPU温度

在CPU热测试中，技嘉系统在突发性高负载预填充转换期间最高温度达到90°C。这使其在对比组中接近高负载运行时观察到的CPU峰值温度上限。

当负载过渡到均衡的 ISL/OSL 模式，最终进入解码密集型工作负载时，温度曲线趋于稳定，不再持续攀升。在持续负载下，CPU 温度保持在可控范围内，这表明较高的峰值温度与短时负载上升有关，而非长期散热能力不足。

在低负载情况下，CPU在空闲或轻负载条件下记录到的最低温度为38.7°C。这一较低的基准温度反映了其在空闲状态下的高效散热，并表明该散热方案在非高峰时段也能保持足够的散热余量。

总体而言，技嘉处理器的突发CPU温度较高，但一旦工作负载恢复正常，就能保持稳定的持续性能。

GPU温度

GPU 的温度表现也呈现类似的趋势。在预填充重负载运行时，GPU 的最高温度达到了 81°C。这使其在突发重加速期间的温度偏高，但仍在 GB10 平台的预期运行规格范围内。

随着工作负载过渡到 ISL/OSL 相等和解码密集型阶段，GPU 温度趋于稳定，而不是继续攀升。

在空闲或低利用率情况下，GPU 记录的最低温度为 37°C，表明当系统没有承受计算压力时，其基准热控制良好。

综合来看，技嘉的GPU性能体现了积极的突发利用率和稳定的持续散热。

NVMe温度

测试过程中，存储设备的温度控制始终良好。NVMe 固态硬盘在高负载运行阶段的最高温度为 59.8°C。该峰值温度远低于常见的降频阈值，表明机箱内部气流充足或硬盘摆放位置合理。

在负载较轻的阶段，NVMe 驱动器的最低温度降至 37.8°C，这进一步证实了存储散热在静止状态下不受限制。

与一些紧凑型桌面应用相比，在负载下保持在 60°C 以下反映了良好的存储散热管理。

NIC 温度

在高负载阶段，网卡温度峰值达到 72°C，这与预填充和解码转换期间的高吞吐量相吻合。虽然这使得网络控制器在高峰活动期间位于堆叠中温度较高的一侧，但温度始终保持在运行容差范围内，并未出现温度峰值。

记录到的最低 NIC 温度为 41°C，反映了光照较浅阶段的正常基线行为。

总体而言，网卡性能与系统整体负载呈可预测的趋势，没有出现异常的扩展性。

GPU功耗

GPU 功耗表现有助于理解峰值温度升高的原因。技嘉在预填充重度切换期间，GPU 峰值功耗达到了 75.54W。这使其处于所测试 GB10 机型中观察到的功耗范围的上限。

技嘉似乎并没有人为地限制GPU功耗，而是允许GPU在接近峰值功耗时出现峰值，这与GPU较高的峰值温度直接相关。随着工作负载进入持续解码阶段，功耗也随之趋于稳定。

从功耗角度来看，技嘉的这套系统似乎并没有过度驱动。相反，其在突发模式下较高的峰值温度，是出于性能优先的功耗分配考虑，而非散热设计失控所致。

热力总结

在对 CPU、GPU、NVMe 和网卡进行全面监控后发现，技嘉 GB10 的待机温度表现出色，并且在预填充密集型任务切换期间，峰值温度更高。在峰值加速下，CPU 温度达到 90°C，GPU 温度达到 81°C，而 NVMe 温度保持在 60°C 以下，网卡温度达到 72°C。GPU 功耗峰值达到 75.54W，表明其峰值功耗接近上限。

在持续解码工作负载下，温度趋于稳定，没有进一步升高，这表明技嘉虽然允许短时间内实现高负荷性能，但在长时间运行期间仍能保持可预测、可控的散热。

技嘉 AI TOP ATOM 性能测试

为了评估技嘉AI TOP ATOM，我们使用vLLM Online Serving基准测试对Spark单元进行了测试。vLLM Online Serving基准测试是目前应用最广泛的大型语言模型高吞吐量推理和服务引擎。该基准测试通过向运行中的vLLM服务器发送并发请求来模拟真实生产环境中的工作负载，并测量关键指标，包括总令牌吞吐量（每秒令牌数）、首令牌到达时间和每个输出令牌的生成时间，并考察不同负载条件下的性能。

我们的测试涵盖了从密集架构到微扩展数据类型的各种模型。测试评估了三种工作负载场景下的性能：均衡 ISL/OSL、预填充密集型和解码密集型。这些场景代表了不同的实际服务模式，从均衡的输入输出负载到计算密集型的提示符处理和内存带宽受限的令牌生成。

除了技嘉 AI TOP ATOM 处理器之外，我们还以 NVIDIA Founders Edition Spark 作为参考基准，并对比了华硕、宏碁和戴尔等 OEM 厂商的系统。这使我们能够将技嘉的测试结果置于更广泛的竞争格局中，并了解其在不同型号和工作负载类型下处于领先地位、与竞争对手持平还是落后。

GPT-OSS-120B

在 ISL/OSL 相等的测试中，技嘉的芯片性能从 60.71 到 649.62 tok/s 提升，始终处于行业中游水平，在大批量生产时与戴尔和华硕的性能较为接近。在第 32 批之前，性能提升稳定且呈线性增长，并在第 64 批继续提升，但最终未能超越高端厂商的领先水平。

预填充重型芯片的初始速度为 304.63 tok/s，到批次大小 64 时攀升至 2,771.38 tok/s。增长势头强劲，直至第 16 批次，技嘉一度位列第三，之后随着批次大小的增加而与其他厂商趋于一致。整体而言，技嘉的芯片扩展能力强劲且极具竞争力，尤其是在中等批次大小范围内。

解码重任务的速度范围为 47.01 至 299.41 tok/s，在整个批次扫描过程中，速度逐渐且稳定地提升。

GPT-OSS-20B

在等效ISL/OSL测试中，技嘉的性能从641.73 tok/s提升至1,587.62 tok/s，在批次大小为1时表现强劲，在批次大小为2时略有下降，之后随着批次大小的增加而稳步提升。从批次大小为8开始，性能提升趋于正常，与同类产品表现基本一致，并在批次大小为64时接近顶尖水平。

预填充重型打印机的打印速度从 1,650.32 tok/s 开始，在批次大小为 64 时达到峰值 4,401.27 tok/s。从第 16 批次开始，打印速度持续稳定且具有竞争力，在较大的批次大小下与戴尔和华硕保持同步。

解码重负载的性能范围为 63.18 至 688.44 tok/s，在整个测试范围内呈现良好的线性扩展性。性能提升虽小但稳定，与其他平台的性能高度一致，并反映了解码重负载工作负载典型的较为受限的扩展特性。

Qwen3 程序员 30B A3B FB8

在 ISL/OSL 相等的测试中，技嘉的读写速度从 101.27 tok/s 提升至 1,251.84 tok/s，在整个批次测试过程中呈现稳定的线性增长。在第 16 个批次之前，其性能与戴尔和华硕的产品基本一致，之后在第 64 个批次之前持续稳步提升，最终接近顶级水平，且未出现任何明显的性能瓶颈。

预填充重型设备从 428.66 tok/s 开始，随着批次大小增加到 64，速度提升至 2,026.94 tok/s。所有批次大小的增长都平稳一致，技嘉始终与更广泛的领域保持紧密联系。

解码重任务的速度范围为 61.18 至 482.73 tok/s，随着批次大小的增加，速度会有可预测的逐步提升。

Qwen3 编码器 30B A3B 基地

在等效ISL/OSL测试中，技嘉的帧速率从63.42 tok/s提升至721.08 tok/s，并在整个批次范围内稳步提升。在第16批次之前，其性能与行业平均水平基本一致，并在第64批次之前保持了良好的性能提升，最终以具有竞争力的成绩收尾，且未出现任何明显的线性偏差。

预填充重型从 258.11 tok/s 开始，到批次大小 64 时攀升至 1,603.74 tok/s。

解码重采样率范围为 33.57 至 349.82 tok/s，扫描过程中呈线性递增缩放。

 

Llama 3.1 8B 指令 FP4

在 ISL/OSL 相等的测试环境中，技嘉的吞吐量从 69.84 tok/s 提升至 2,756.91 tok/s。在第 32 个批次之前，吞吐量呈现渐进且均衡的提升，接近顶级水平；而在第 64 个批次时，吞吐量再次大幅提升，使其在高并发级别下跻身领先系统之列。

Prefill Heavy 的初始速度为 321.67 tok/s，到批次大小 64 时达到 2,493.52 tok/s。增长一直持续到第 16 批次，然后相对于表现最佳的批次，在更高的批次大小下开始略有下降，这表明其大批量扩展效率稳健但不占主导地位。

解码重任务的速度范围为 48.92 至 575.84 tok/s，随着批次大小的增加，速度稳步提升。

Llama 3.1 8B 指令 FP8

在 Equal ISL/OSL 测试中，技嘉的吞吐量从 54.12 提升至 2,314.87 tok/s，在第 32 批次中呈现平滑的线性增长，并在第 64 批次中强劲提升，使其在高并发水平下保持竞争力。

预填充重型从 226.43 tok/s 开始，到批次大小 64 时达到 2,332.19 tok/s。在整个扫描过程中，规模化保持一致，与更广泛的领域密切相关，并在更大的批次大小下保持良好的效率。

Decode Heavy 的性能范围为 32.88 至 522.41 tok/s，随着批处理规模的增加，性能稳步提升。正如预期，与 Equal 和 Prefill 工作负载相比，其扩展性仍然较为有限。

GPU 直接存储

我们在 Spark 上进行的测试之一是 MagnumIO GPU 直接存储 (GDS) 测试。GDS 是 NVIDIA 开发的一项功能，允许 GPU 在访问存储在 NVMe 驱动器或其他高速存储设备上的数据时绕过 CPU。GDS 无需通过 CPU 和系统内存路由数据，而是支持 GPU 和存储设备之间的直接通信，从而显著降低延迟并提高数据吞吐量。

技嘉在AI TOP ATOM主板中使用了4TB三星PM9E1 Gen5固态硬盘，这是我们目前在市场上见过的速度最快的2242 M.2固态硬盘。这款固态硬盘也曾用于FE Spark和宏碁Veriton GN100笔记本电脑。

GPU 直接存储的工作原理

传统上，当GPU处理存储在NVMe驱动器上的数据时，数据必须先经过CPU和系统内存才能到达GPU。由于CPU充当中间人，这个过程会造成性能瓶颈，增加延迟并消耗宝贵的系统资源。GPU直接存储（GPU Direct Storage）通过允许GPU直接通过PCIe总线访问存储设备中的数据，消除了这种低效。这种直接路径减少了数据传输的开销，从而实现了更快、更高效的数据传输。

AI 工作负载（尤其是涉及深度学习的工作负载）是高度数据密集型的。训练大型神经网络需要处理数 TB 的数据，数据传输的任何延迟都可能导致 GPU 利用率不足和训练时间延长。GPU Direct Storage 通过确保尽快将数据传送到 GPU、最大限度地减少空闲时间并最大限度地提高计算效率来解决这一挑战。

此外，GDS 对于涉及流式传输大型数据集的工作负载（例如视频处理、自然语言处理或实时推理）尤其有益。通过减少对 CPU 的依赖，GDS 可加速数据移动并释放 CPU 资源以用于其他任务，从而进一步提高整体系统性能。

GDSIO 读取吞吐量 16k

从 GDSIO 读取吞吐量 16K 测试结果来看，技嘉显卡在单线程时约为 0.08 GiB/s，8 线程时提升至 0.58 GiB/s。之后，在 16 线程（1.12 GiB/s）和 32 线程（2.14 GiB/s）时，性能继续平稳提升，并在 64 线程时急剧跃升至 4.37 GiB/s。在 128 线程时，技嘉显卡的性能依然保持强劲，达到 6.84 GiB/s，并且在线程数上限附近没有出现性能瓶颈。

GDSIO 读取平均延迟 16K

从 GDSIO 读取平均延迟 (16K) 来看，技嘉显卡在大部分测试区间内保持了非常稳定的延迟。在单线程情况下，延迟约为 0.201 毫秒，并且在 2 线程到 64 线程范围内都保持在 0.21 毫秒到 0.23 毫秒的范围内（例如，8 线程时为 0.211 毫秒，16 线程时为 0.218 毫秒，32 线程时为 0.228 毫秒，64 线程时为 0.223 毫秒）。只有在 128 线程时，延迟才明显上升到约 0.286 毫秒，而吞吐量则继续增加。

GSDIO 写入吞吐量 16K

从 GDSIO 16K 写入吞吐量测试来看，技嘉这款显卡在单线程时初始速度约为 0.08 GiB/s，随后稳步提升至双线程的 0.14 GiB/s 和四线程的 0.28 GiB/s。在 8 线程（0.59 GiB/s）和 16 线程（1.11 GiB/s）时，性能继续平缓提升，并在 32 线程时达到更显著的提升（2.80 GiB/s）。在 64 线程时，性能依然强劲（5.21 GiB/s），并在 128 线程时达到峰值 6.54 GiB/s，展现出持续上升的趋势，没有出现早期停滞期。

GDSIO 写入平均延迟 16K

从 GDSIO 写入平均延迟 (16K) 来看，技嘉在大部分测试阶段都保持了相对稳定的延迟。在单线程时，延迟约为 0.20 毫秒，在 16 线程时保持在 0.21-0.22 毫秒左右。32 线程时，延迟略微改善至约 0.17 毫秒，然后在 64 线程时略有上升（0.19 毫秒）。只有在 128 线程时，延迟才明显增加，达到约 0.30 毫秒，这与最高的吞吐量水平相对应。

GDSIO 读取吞吐量 1M

在 GDSIO 读取吞吐量 1M 测试中，技嘉平台在单线程下初始吞吐量为 2.52 GiB/s，双线程下提升至 5.07 GiB/s，四线程下达到 9.33 GiB/s。八线程时吞吐量达到 11.03 GiB/s，之后平台性能基本达到饱和。在 16 线程（11.07 GiB/s）、32 线程（11.12 GiB/s）和 64 线程（11.08 GiB/s）下，性能保持稳定，呈现平稳状态。在 128 线程时，吞吐量略微提升至 11.60 GiB/s，这是本次测试中观察到的最高值。

GDSIO 读取平均延迟 1M

从 GDSIO 读取平均延迟（1M）来看，技嘉显卡在单线程时延迟约为 0.39 毫秒，在双线程（0.39 毫秒）和四线程（0.42 毫秒）时也保持相近水平。随着并发数的增加，延迟也随之增加，在 8 线程时上升至 0.71 毫秒，16 线程时上升至 1.41 毫秒，32 线程时上升至 2.81 毫秒。在 64 线程时，延迟继续上升至 5.64 毫秒，并在 128 线程时达到 10.78 毫秒，这与峰值并发数相对应，而吞吐量基本保持稳定。

GDSIO 写入吞吐量 1M

从 GDSIO 写入吞吐量 1M 测试结果来看，技嘉这款主板在单线程下吞吐量为 2.48 GiB/s，随后迅速提升至双线程的 5.57 GiB/s 和四线程的 10.32 GiB/s。当线程数达到 8 时，吞吐量达到 12.21 GiB/s，基本达到平台极限。在 16 线程（12.23 GiB/s）、32 线程（12.22 GiB/s）和 64 线程（12.22 GiB/s）下，性能基本保持不变，表明性能已接近饱和。当线程数达到 128 时，吞吐量下降至 8.82 GiB/s，表明系统已超出其最佳并发范围。

GDSIO 写入平均延迟 1M

从 GDSIO 写入平均延迟（1M）来看，技嘉显卡在单线程时延迟约为 0.39 毫秒，在双线程（0.35 毫秒）和四线程（0.38 毫秒）时也保持相对较低的延迟。随着线程数的增加，延迟明显上升，在 8 线程时达到 0.64 毫秒，16 线程时达到 1.28 毫秒，32 线程时达到 2.56 毫秒。延迟在 64 线程时继续上升（5.11 毫秒），并在 128 线程时急剧上升至 14.16 毫秒，这与观察到的最高并发级别下的吞吐量下降相吻合。

结语

技嘉 AI TOP ATOM 是 NVIDIA 基于 GB10 的 Spark 平台的又一力作，它采用与我们测试过的其他 Spark 产品相同的电路板和芯片。正如预期，其在 vLLM 测试中的核心计算性能与同类产品基本一致。在 GPT-OSS、Qwen3-Coder 和 Llama 3.1 测试模型中，其扩展性能表现依然可预测，随着并发量的增加，预填充吞吐量保持强劲，Equal 和 Decode 性能也保持稳定。

在散热方面，技嘉允许处理器在峰值功耗下运行更激进。在预填充密集型任务切换期间，CPU 温度峰值达到 90°C，GPU 温度峰值达到 81°C，GPU 功耗最高达到 75.54W。一旦工作负载恢复正常，温度便趋于稳定，没有出现持续降频的迹象。实际上，较高的峰值温度反映的是短时功率分配策略，而非系统不稳定。

这款设备最显著的优势在于存储方面。技嘉采用 4TB 第五代三星 PM9E1 固态硬盘，在 Spark 测试组中取得了顶尖的 GDSIO 性能。读写吞吐量在 16K 和 1M 的工作负载下均表现出色，在预期并发水平下早期达到饱和，延迟增加主要出现在线程数最高的时候。

由于所有 Spark 系统都基于相同的 GB10 架构，因此在 AI 推理方面的基准测试差异仍然很小。实际应用中的选择主要取决于机箱设计、突发散热性能、存储配置以及厂商匹配度，而非基本的计算能力差异。

产品页面 – 技嘉 AI TOP ATOM