OnLogic Axial AC101 是一款 1U 機架式服務器，專為緊湊性和性能而設計。 它由第13 代英特爾酷睿“Raptor Lake”處理器提供支持，其特點是可實現快速啟動的M.2 插槽、可容納四個內部企業NVMe SSD 的容量以及一個PCIe 擴展插槽，使其成為一個高度通用的系統。 它還具有 10GbE 板載連接和帶外管理支持，以完善系統的功能集。
Onlogic 以生產堅固耐用的工業計算機和技術解決方案而聞名，這些計算機和技術解決方案專為最惡劣的環境而設計，可提供高水平的可靠性。 谷歌、亞馬遜和 NASA 只是利用 OnLogic 技術的幾家公司。 這是我們第一次與 OnLogic 合作進行評測，因此我們很高興看到他們提供的產品以及 OnLogic Axial AC101 在我們的基準測試中表現如何。
正如當今大多數邊緣服務器的目標一樣，OnLogic AC101 是一個有價值的工具，可以幫助組織完成邊緣推理等人工智能任務。 當然，它還能夠用於許多其他應用，例如電信支持、邊緣研究等。 雖然總體上來說，AC101 是一個非常小型且經濟高效的系統，但它仍然提供強大的功能和靈活性。
OnLogic 軸向 AC101
有趣的是，AC101 將消費級部件與工業計算機設計相結合。 從規格來看，該系統配備了英特爾第 13 代處理器，最高可達 i9 24 核 32 線程選項。 對於內存，它支持多達 4 個 DDR5-4800 UDIMM（非 ECC 或 ECC），總計 128GB，其中 32GB DIMM。
如上所述，它還有一個用於啟動驅動器的 M.2 插槽和四個用於存儲的企業 U.2 NMVe 托架。 評測版本有四個 Micron 7450 Pro 960GB SSD。 應該注意的是，它們位於機箱內部。 同樣在我們的配置中，其 PCIe 插槽（用於擴展）裝有 NVIDIA A2 專業顯卡。
Axial AC101 邊緣服務器具有五個 40x40x56mm 對轉系統風扇，這些風扇可以通過基板管理控制器 (BMC) 相對於支持的系統溫度傳感器進行獨立控制和配置。 兩個風扇指向 PCIe 插槽，三個風扇指向 SSD 和 CPU。
根據 PCI-SIG 的定義，插槽的 PCIe 轉接卡邊緣功耗額定支持高達 75W。 使用可選的 PCIe 150 針/6 針輔助電源接頭支持高達 8W 的 PCIe 適配器。
OnLogic Axial AC101擁有豐富的I/O接口選項，可以滿足邊緣計算任務的多樣化需求。 在正面，與他們的所有系統一樣，經典的 OnLogic 橙色配色方案很流行。 在其後面，服務器配備了 2 個 USB 3.2 Gen 1 Type-A 端口。 我們的系統配備了安全擋板選項，消除了前面的 2 個 USB 端口。 所有 AC101 系統都有一個白色 LED 電源按鈕和一個藍色 LED ID 按鈕。
大部分端口位於背面 I/O。 對於以太網連接，有 2 個 10GbE、2 個 1GbE 和 1 個 GbE 專用管理 (BMC/IPMI) 端口。 背面還有兩個 USB 3.2 Gen 1 Type-A 端口和 1 個 DB9 (COM) 串行端口。 它配備了常用的 DisplayPort、HDMI 和 VGA 顯示連接器。
後面還有電源。 OnLogic 提供單電源和雙電源選項，最高可達 750W。 我們的評測設備中有 2x 750。
該系統還具有入侵檢測開關，現在許多系統都在使用。 此功能常見於機架式服務器和筆記本電腦等安全計算系統中。 它的工作原理是，如果設備的物理外殼被打開，則會觸發警報，向管理員和用戶發出潛在未經授權訪問的信號。 這些警報可以提示各種自動響應，例如係統關閉或向管理員發出通知。
OnLogic Axial 100 系列享有 2 年有限保修。
OnLogic Axial 100 系列規格
| 項目類別 | 規格 |
|---|---|
| 變體 | AC101 – 高性能 1U，帶 150W PCIe 4.0 x16 擴展 |
| 處理器 | 英特爾第 13 代 Raptor Lake-S (LGA1700) 酷睿 i3、i5、i7 和 i9 最多 24 核 32 線程 i3-13100E 或 TE、i5-13500E 或 TE、i7-13700E 或 TE、i9-13900E 或 TE 125W PL2（功率級別 2） |
| 記憶體應用 | 支持多達 4 個 DDR5-4800 UDIMM（非 ECC 或 ECC） 總內存高達 128GB 最大運行速度：4400 MT/s |
| 芯片組 | 英特爾 W680 |
| 集成顯卡 | 英特爾超核芯顯卡 730 (i3) 或 770（i5、i7、i9） |
| 前端I / O | 2 個 USB 3.2 Gen 1 A 型 1x 電源按鈕/LED（白色） 1x ID 按鈕/LED（藍色） |
| 後端I / O | 1x 1GbE 專用管理 (BMC/IPMI) 2 個 1GbE LAN 英特爾 i210 2 個 10GbE LAN 英特爾 X710 2x USB 3.2 Gen 1 Type-A 1x DisplayPort 1x HDMI 1x VGA 1 個 DB9（串口） 1x ID 按鈕/LED（藍色） |
| 擴展與存儲 | 1x M.2 2280/2260/2242/2230 M 鍵（PCIe Gen 3 x4） 1x PCIe Gen 4 x16 全高、全長插槽（高達 150W） 多達 4 個 2.5 英寸驅動器（NVMe 或 SATA） |
| 介紹 | ASPEED AST2600：完整的 Web UI、iKVM、vMedia 支持 1/10 網絡控制器邊帶接口 (NC-SI) 可選 TPM 2.0 模塊 (Infineon SLB9670) 或 Intel PTT（本機） 機箱入侵檢測 安全擋板 安全啟動 |
| 操作系統 | Microsoft Windows 10 IoT Enterprise 2021 LTSC（價值/高端）64 位 微軟 Windows 11 專業版 64 位 |
| 局域網控制器 | 2 個 Intel i210 控制器（2 個 1GbE 端口） 1 個 Intel X710 控制器（2 個 10GbE 端口） |
| 電源供應器 | 最多 2 個帶 PMBUS 監控功能的 PSU，100~240 VAC 輸入 450W金色 750W 鉑金 |
| 外形尺寸（寬x高x深） | 430 x 43.5 x 515 毫米（16.9 x 1.7 x 19.7 英寸），不含安全擋板 483 x 43.5 x 534 毫米（19.0 x 1.7 x 21.0 英寸），帶安全擋板 |
| 重量 | 系統最大重量：10.02 千克（22.1 磅） 最大運輸重量：12.88 千克（28.4 磅） |
| 安裝 | 機架安裝 28” 免工具滑軌 機架安裝 23” 滑軌 帶理線臂的機架安裝 23 英寸滑軌 壁掛 |
| 工作溫度 | 5°C ~ 40°C（ASHRAE A3 工作溫度） 海拔高度超過 1m（175 英尺）時，每增加 574m（900 英尺），最高環境溫度就會降低 2,953°C |
| 儲藏溫度 | -40°C〜70℃， |
| 工作濕度 | 8~85% 相對，非凝結 最高露點 24°C |
| 存儲濕度 | 0~95% 相對，非凝結 最高露點 24°C |
| 衝擊和振動 | ISTA 6-FEDEX-A |
| 保固 | 零件和服務 2 年有限保修 |
| 延長保修選項 | 提供 3 年和 5 年延期 |
性能
為了展示 OnLogic Axial AC101 的功能，我們對其進行了一系列嚴格的性能測試，旨在衡量其在處理、圖形和對各種應用的整體適用性方面的能力。 因此，基準測試包括 SPECviewperf 2020、SPECworkstation 3、Blender OptiX、Luxmark、7-Zip Compression、Blackmagic RAW Speed Test 和 UL Procyon。 我們打算闡明其處理任務的能力（從圖形密集型設計到計算效率），以便我們的讀者能夠做出明智的決定。
我們的構建具有以下關鍵規格：
| 元件 | 產品說明 |
|---|---|
| 處理器 | 1 個英特爾酷睿 i9-13900E 處理器 |
| 記憶體應用 | 4 個金士頓 DDR5-4800 32GB UDIMM，帶 ECC |
| 主要 M.2 存儲 | 1 個 512 GB M.2 NVMe 固態硬盤 |
| PCIe 擴充卡 | 1 個 NVIDIA A2 16GB or 英偉達 A4000 |
| 附加存儲 | 4 x 美光 7450 Pro 960GB U.3 2.5 英寸 (1.0 DWPD) + Oculink 轉 U.2 電纜 |
| TPM 2.0模塊 | 1 x 華擎機架式英飛凌 SLB9670 TPM 2.0 13 針 SPI 模塊 |
| 電源供應 | 1 x 750W 雙電源，帶北美電源線 |
| 操作系統 | 1 個 Windows 11 專業版 – 64 位 |
| 自動開機 | 1 x 自動開機 |
| 安裝 | 1 x 28 英寸免工具滾珠軸承滑軌 |
在我們的測試中，我們使用了 AC2 附帶的 NVIDIA A101 和實驗室中的 RTX A4000 來分析兩個常見的機架式工作站； 使用 A2 構建以人工智能推理為中心的構建，使用 RTX4000 構建更通用的圖形功能。
OnLogic 提供多種 GPU 選項的出廠配置，包括 NVIDIA T400、NVIDIA T1000、NVIDIA A2 和 NVIDIA RTX A4000，以及替代 GPU 的一些其他高速網絡選項，包括 NVIDIA ConnectX-6LX 25GbE。 我們使用的一些測試也不能在 A2 GPU 上執行，包括 Procyon，因此一些測試僅使用 RTX A4000 GPU。 CPU 密集型測試不會通過 GPU 交換進行複制。
SPECviewperf 2020
我們的第一個測試是 SPECviewperf 2020，這是測量 OpenGL 和 Direct X 應用程序編程接口下專業應用程序圖形性能的全球標準。 視圖集（或基準）代表實際應用程序的圖形內容和行為，而無需安裝應用程序本身。 該基準測試的最新版本在去年年底進行了重大更新，包括從最新版本的 3ds Max、Catia、Maya 和 Solidworks 應用程序的跟踪中獲取的新視圖集。 此外，他們還在所有視圖集中添加了對 2K 和 4K 分辨率顯示器的支持。
| SPECviewperf2020 視圖集 （越高越好） |
OnLogic 軸向 100 系列 （英特爾酷睿 i9-13900E 處理器、NVIDIA A4000） |
| 3dsmax-07 | 94.78 |
| 卡地亞-06 | 70.54 |
| Creo-03 | 119.74 |
| 能量-03 | 22.43 |
| 瑪雅-06 | 237.44 |
| 醫療-03 | 21.86 |
| SNX-04 | 342.29 |
| SW-05 | 111.93 |
根據 SPECviewperf2020 基準測試結果，OnLogic Axial 100 系列在各種視圖集中展示了卓越的性能。 值得注意的是，它取得了令人印象深刻的分數，例如Maya-237.44 中的06、Snx-342.29 中的04 和Creo-119.74 中的03，反映了其在處理設計、工程和創意應用程序中要求較高的圖形任務方面的熟練程度。
規格工作站 3
SPECworkstation3 專注於為測試工作站性能的所有關鍵方面而設計的基準測試； 它使用 30 多個工作負載來測試 CPU、圖形、I/O 和內存帶寬。 工作負載分為更廣泛的類別，例如媒體和娛樂、金融服務、產品開發、能源、生命科學和一般運營。 我們將列出每個類別的大類結果，而不是單個工作負載。 結果是每個類別中所有單獨工作負載的平均值。
| 規格工作站 3 （越高越好） |
OnLogic 軸向 100 系列 （英特爾酷睿 i9-13900E 處理器、NVIDIA A4000） |
| 媒體和娛樂 | 不適用 |
| 產品開發 | 4.68 |
| 生命科學 | 4.22 |
| 金融服務 | 5.28 |
| 能源 | 4.86 |
| 一般業務 | 2.49 |
| GPU計算 | 0.34 |
OnLogic Axial 100 系列在不同類別中提供了不同的性能水平。 值得注意的是，它在金融服務方面取得了 5.28 分，在產品開發方面取得了 4.68 分等極具競爭力的分數，顯示了其在處理與財務計算和產品設計相關的任務方面的熟練程度。 此外，該系統在生命科學方面的得分為 4.22，在能源方面的得分為 4.86，這表明其適合科學和能源相關工作負載。 儘管如此，它在一般操作方面的得分為 2.49，而 GPU 計算得分為 0.34，表明它在 GPU 密集型計算任務中的性能有限（這是由於較低端的 A2 專業顯卡）。
攪拌機優化
Blender 是一款開源 3D 建模應用程序。 該基準測試是使用 Blender Benchmark 實用程序運行的。 分數是每分鐘的樣本數，越高越好。 在這裡，我們使用 A2 和 A4000 專業 NVIDIA GPU 測試了 OnLogic Axial。
NVIDIA A2 Tensor Core GPU 專為邊緣的多功能入門級推理任務而定制，具有低功耗和緊湊的外形。 憑藉低調的 PCIe Gen4 兼容性和可配置的 40-60W 熱設計功率 (TDP) 等功能，A2 為邊緣服務器提供高效的推理加速。 另一方面，NVIDIA RTX A4000 是一款更強大的單插槽 GPU，專為專業人士設計，為桌面工作提供實時光線追踪、AI 加速計算和高性能圖形。
| Blender OptiX（每分鐘樣本數；越高越好） | OnLogic 軸向 100 系列 （英特爾酷睿 i9-13900E 處理器、NVIDIA A2 16GB） |
OnLogic 軸向 100 系列 （英特爾酷睿 i9-13900E 處理器、NVIDIA A4000 16GB） |
| Monster | 480.73 | 1,154.3 |
| 舊貨店 | 303.33 | 619.98 |
| 課堂 | 249.64 | 505.73 |
結果顯示兩個 GPU 之間存在顯著的性能差異。 配備 NVIDIA A4000 的配置在所有三個基準測試場景中均優於 NVIDIA A2 配置。 這種性能差距可歸因於 NVIDIA A4000 的高端規格表，包括更大的 CUDA 核心數量、更高的內存帶寬以及對實時光線追踪和 AI 加速任務的支持。
樂士馬克
我們將關注的另一個 3D 基準測試是 LuxMark，一個 OpenCL GPU 基準測試實用程序。
| 樂士馬克 （越高越好） |
OnLogic 軸向 100 系列 （英特爾酷睿 i9-13900E 處理器、NVIDIA A4000 16GB） |
| 大廳長凳 | 14,029 |
| 餐飲 | 5,612 |
Luxmark 基準分數為 12,029（hallbench）和 5,612（食物），相當不錯。
7-Zip 壓縮
我們的下一個測試是流行的 7-Zip 實用程序中的內置內存基準測試。 該測試通過測量使用 9-Zip 壓縮軟件壓縮和解壓縮文件的速度來衡量 i13900-100E CPU 和 OnLogic Axial 7 內存的性能。
| 7-Zip 壓縮基準（越高越好） | OnLogic 軸向 100 系列 （英特爾酷睿 i9-13900E 處理器、NVIDIA A4000 16GB） |
| 壓縮 | |
| 當前 CPU 使用率 | |
| 電流額定值/使用 | 6.795 吉普斯 |
| 額定電流 | 107.343 吉普斯 |
| 產生的 CPU 使用率 | |
| 結果評級/使用 | 6.795 吉普斯 |
| 結果評級 | 106.915 吉普斯 |
| 解壓縮 | |
| 當前 CPU 使用率 | |
| 電流額定值/使用 | 5.278 吉普斯 |
| 額定電流 | 157.183 吉普斯 |
| 產生的 CPU 使用率 | 2,929％ |
| 結果評級/使用 | 5.257 吉普斯 |
| 結果評級 | 153.969 吉普斯 |
| 總評分 | |
| 總 CPU 使用率 | |
| 總評分/使用情況 | 6.026 吉普斯 |
| 總評分 | 130.442 吉普斯 |
OnLogic Axial 7 系列的 100-Zip 壓縮基準測試結果凸顯了其可靠的計算性能。 在“壓縮”階段，系統的 CPU 使用率為 1,575%，評級為 106.915 GIPS，評級/使用率為 6.795 GIPS。 在“解壓縮”階段，系統顯示最終的 CPU 使用率為 2,929%，最終的評級為 153.969 GIPS，最終的評級/使用率為 5.257 GIPS。 “總評級”階段顯示總 CPU 使用率為 2,252%，總評級為 130.442 GIPS，總評級/使用率為 6.026 GIPS。 這些結果證明了系統有效處理數據壓縮和解壓縮任務的能力，例如數據歸檔、內容創建、科學計算和雲邊緣環境（即快速處理和高效存儲至關重要的環境）。
Blackmagic RAW 速度測試
我們的最後一個測試是新的 Blackmagic RAW 速度測試。 OnLogic Axial 100 系列在配備 NVIDIA A4000 時得分如下。
| OnLogic 軸向 100 系列 （英特爾酷睿 i9-13900E 處理器、NVIDIA A4000） |
|
| 8K CPU | 83幀/秒 |
| 8K 開放式 | 58幀/秒 |
UL Procyon 測試
UL Procyon 測試是一種重要的評估工具，可測量各種知名模型在不同任務中的平均推理時間。
在這裡，我們分為兩個不同的版本：一種使用 AIWinML，專注於對指定模型或任務進行基於 CPU 的性能評估；另一種使用 AITensorRT，專注於使用 NVIDIA A4000 GPU 加速來評估模型性能。
| AI張量RT | |
| 型號 | 平均推理時間（毫秒） |
| 移動網V3 | 1.41 |
| 殘差網絡 50 | 12.16 |
| 盜夢空間V4 | 36.50 |
| 深實驗室V3 | 36.89 |
| 優洛V3 | 78.07 |
| 真愛斯甘 | 3,655.91 |
| 總分 | 810 |
UL Procyon 結果對模型性能產生了有趣的見解。 例如，MobileNet V3 和 ResNet 50 的推理時間分別為 1.41 毫秒和 12.16 毫秒，令人印象深刻，展示了速度和準確性的平衡。 Inception V4、DeepLab V3 和 YOLO V3 等更複雜的模型具有更高的推理時間（36-78 毫秒之間），而 REAL-ESRGAN 的 3,655.91 毫秒錶明其資源密集型圖像增強功能。 它的總分是810分。
接下來是 UL Procyon 測試的 AIWinML 版本：
| 型號 | 平均推理時間（毫秒） |
| 移動網V3 | 1.41 |
| 殘差網絡 50 | 12.16 |
| 盜夢空間V4 | 36.50 |
| 深實驗室V3 | 36.89 |
| 優洛V3 | 78.07 |
| 真愛斯甘 | 3,655.91 |
| 總體得分 | 115 |
這些結果突出顯示 MobileNet V3 和 ResNet 50 的推理時間分別為 1.41ms 和 12.16ms。 Inception V4、DeepLab V3 和 YOLO V3 等更複雜的模型顯示出稍長的推理時間（大約 36-78 毫秒）。 REAL-ESRGAN 模型的推理時間為 3,655.91ms。
結語
OnLogic Axial AC101 1U 機架式服務器是該公司推出的一款可靠產品，凸顯了其致力於提供強大的工業計算解決方案的承諾。 這款多功能係統由英特爾第 13 代 Raptor Lake 處理器提供支持，擁有一系列可滿足各種任務的功能，包括邊緣推理、電信支持和邊緣研究。 AC101 將消費級組件與工業設計融為一體，提供強大的功能和靈活性，最高可選配 Intel Core i9 24 核 32 線程處理器，並支持高達 128GB 的 DDR5-4800 內存。
AC101 的戰略設計延伸至其存儲功能，具有用於引導驅動器的 M.2 插槽和用於提供充足存儲空間的四個 U.2 NVMe 托架。 此外，系統的 PCIe 擴展插槽可容納額外的 I/O 選項或低功耗 GPU（例如 NVIDIA A2/L4），從而增強其針對各種應用的多功能性。 板載雙 10GbE 和帶外管理支持進一步凸顯其企業級功能。
OnLogic 在生產優質工業級技術方面享有盛譽，Axial AC101 使其成為在苛刻環境中需要可靠性和性能的組織的理想選擇。 憑藉其一系列 I/O 接口選項（包括 10GbE、1GbE、USB 3.2 Gen 1 和顯示連接），AC101 證明了其滿足一系列連接需求的能力。 包括入侵檢測和安全啟動等安全功能進一步強調了其對數據保護的承諾。
就性能而言，OnLogic Axial AC101 在配備 Intel Core i9-13900E 處理器和 NVIDIA A2 16GB 顯卡（我們還安裝了 NVIDIA A4000 進行某些測試）時，在一系列基準測試中提供了出色的結果。 值得注意的亮點包括它能夠熟練地處理要求較高的圖形任務，這一點在SPECviewperf 237.44 基準測試中的Maya-06 中的342.29 分和Snx-04 中的2020 分等令人印象深刻的分數中得到了證明。 該系統還在其他各個類別中展示了具有競爭力的表現，在 SPECworkstation 5.28 基準測試中，金融服務得分為 4.68，產品開發得分為 3。 正如 Blender OptiX 結果所示，它在渲染任務中也表現良好（正如我們預期的那樣，NVIDIA A4000 GPU 在渲染任務中的性能比 A2 配置高出大約 70-80%）。
OnLogic Axial AC101 是一款脫穎而出的經濟高效的邊緣服務器解決方案，成功地將緊湊性與電力驅動功能融為一體，很好地滿足了邊緣計算的需求。 無論是部署用於推理、電信任務還是其他任務，AC101 都是一款多功能且可靠的工具，我們期待在我們的實驗室中更頻繁地看到它們。
Amazon