Společnost QNAP Systems představila QAI-h1290FX, úložný server s umělou inteligencí na okraji sítě, určený pro organizace, které chtějí provozovat rozsáhlé jazykové modely, vyhledávání s rozšířeným generováním a další generativní úlohy s umělou inteligencí na své vlastní infrastruktuře. Systém je navržen pro podniky, které vyvažují přijetí umělé inteligence s požadavky na ochranu osobních údajů, nízkou latenci, správu a provozní kontrolu, což umožňuje týmům nasazovat aplikace umělé inteligence lokálně, namísto odesílání citlivých dat na veřejné cloudové platformy.
Organizace mohou použít QAI-h1290FX k nasazení interních asistentů umělé inteligence pro školení zaměstnanců, otázky týkající se zásad a vyhledávání znalostí, přičemž podkladová data uchovávají v rámci podniku. Právní, finanční, HR a provozní týmy mohou vytvářet soukromé RAG kanály pro vyhledávání ve smlouvách, zprávách a interních záznamech, což poskytuje více kontextu než tradiční vyhledávání pomocí klíčových slov. Kreativní týmy mohou pro pracovní postupy v oblasti designu a obsahu používat nástroje pro generování obrázků, jako je Stable Diffusion nebo ComfyUI. Naproti tomu IT týmy mohou používat automatizační nástroje, jako je n8n, ke spouštění inferenčních úloh, generování obsahu nebo směrování upozornění napříč podnikovými systémy.
Komponenty, rozšíření a I/O QNAP QAI-h1290FX
Disk QAI-h1290FX, postavený na procesoru AMD EPYC 7302P a dvanácti slotech U.2 NVMe/SATA SSD, kombinuje výpočetní výkon serverové úrovně s úložištěm typu all-flash, které je přizpůsobeno úlohám s umělou inteligencí vyžadujícím rychlý přístup k datům. 16jádrový procesor s 32 vlákny podporuje inferenci, virtualizaci a paralelní úlohy. Architektura SSD je zároveň navržena pro časté spouštění modelů, vysokorychlostní streamování dat a responzivní přístup k datovým sadám, embeddingům, dokumentům a generovanému obsahu.
Systém také podporuje volitelnou akceleraci GPU s grafickou kartou NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation, která poskytuje až 96 GB paměti GPU pro náročnější lokální úlohy s umělou inteligencí. Podpora akcelerace CUDA, TensorRT a Transformer Engine umožňuje týmům spouštět rozsáhlé jazykové modely, generování obrázků a aplikace pro hluboké učení lokálně, aniž by musely budovat samostatnou pracovní stanici s GPU od nuly.
QAI-h1290FX nabízí vestavěné vysokorychlostní síťové připojení se dvěma porty 25GbE SFP28 SmartNIC a dvěma porty 2.5GbE a podporuje funkci Wake-on-LAN prostřednictvím portů 2.5GbE. Pro rozšíření obsahuje čtyři sloty PCIe, tři sloty PCIe Gen 4 x16 a jeden slot PCIe Gen 4 x8, což poskytuje prostor pro přidání vysokorychlostní sítě, grafické karty nebo dalších kompatibilních rozšiřujících karet. Mezi další vstupy/výstupy patří tři porty USB 3.2 Gen 1, podpora jumbo frame, SR-IOV, průchod GPU a kompatibilita s 2.5palcovými disky SATA SSD a disky U.2 NVMe PCIe Gen4 x4 SSD ve dvanácti pozicích pro disky.
Specifikace QNAP QAI-h1290FX
| Specifikace | QNAP QAI-h1290FX |
|---|---|
| Přehled | |
| Model | AI-h1290FX-7302P-128G |
| Procesor a paměť | |
| Procesor (CPU) | Procesor AMD EPYC™ 7302P s 16 jádry a 32 vlákny, až 3.3 GHz |
| Architektura CPU | 64bitová x86 |
| Šifrovací engine | (AES-NI) |
| Operační paměť | 128 GB RDIMM DDR4 ECC |
| Maximální paměť | 1 TB (8 x 128 GB) |
| Paměťový slot | 8x RDIMM DDR4 |
| Flash paměti | 8 GB (ochrana operačního systému s duálním bootováním) |
| Skladování | |
| Prostor pro mechaniku | 12 x 2.5palcových slotů U.2 PCIe NVMe / SATA 6 Gb/s Systém je dodáván bez SSD disků. Seznam kompatibility SSD disků naleznete na https://www.qnap.com/compatibility/ |
| Kompatibilita disku | 2.5palcové pozice: 2.5palcové SATA SSD disky 2.5palcové SSD disky U.2 NVMe PCIe Gen4 x4 |
| Výměna za provozu | Ano |
| Podpora akcelerace SSD cache | Ano |
| GPU a virtualizace | |
| Průchod GPU | Ano |
| SR-IOV | Ano |
| networking | |
| 2.5gigabitový ethernetový port (2.5G/1G/100M) | 2 (2.5G/1G/100M/10M) |
| 25gigabitový ethernetový port | 2 porty 25GbE SFP28 SmartNIC |
| Wake on LAN (WOL) | Pouze port 2.5 GbE |
| Jumbo rám | Ano |
| Rozšíření a porty | |
| Slot PCIe | 4 Slot 1: PCIe Gen 4 x16 Slot 2: PCIe Gen 4 x16 Slot 3: PCIe Gen 4 x8 Slot 4: PCIe Gen 4 x16 Rozměry karty pro slot PCIe 1 a slot 2: 185 x 111.15 x 18.76 mm / 7.28 x 4.38 x 0.74 palce. Rozměry karty pro slot PCIe 3 a slot 4: 280 x 111.15 x 18.76 mm / 11.02 x 4.38 x 0.74 palce. Pokud nebude další slot PCIe obsazen, lze nainstalovat širší karty. |
| Port USB 3.2 Gen 1 | 3 |
| Fyzický design | |
| Form Factor | Tower |
| LED indikátory | Napájení/Stav, LAN, USB, SSD1–12 |
| LCD displej/tlačítko | Ano |
| Tlačítka | Napájení, reset, automatické kopírování přes USB |
| Rozměry (vx š xh) | 150 x 368 x 362 mm Rozměry nezahrnují opěrku nohou (opěrka nohou může být vysoká až 10 mm / 0.39 palce, v závislosti na modelu) |
| Hmotnost (netto) | 10.4 kg |
| Hmotnost (brutto) | 11.3 kg |
| Životní prostředí a energie | |
| Provozní teplota | 0–40 °C (32–104 °F) |
| Okolní teplota při uskladnění | -20 – 70 °C (-4 °F – 158 °F) |
| Relativní vlhkost | 5–95 % relativní vlhkosti bez kondenzace, teplota mokrého teploměru: 27 °C (80.6 °F) |
| Power Supply Unit | 750 W, 100–240 V |
| Fanoušek | 2 x 92 mm, 12 V DC |
| Systémové varování | Bzučák |
| Bezpečnostní slot Kensington | Ano |
| Záruka a připojení | |
| Standardní záruka | 5 |
| Maximální počet souběžných připojení (CIFS) – s max. pamětí | 10000 |
Postaveno na základě rychlého úložiště, akcelerace GPU a lokálního ovládání
Zařízení QAI-h1290FX, které běží na operačním systému QuTS Hero od společnosti QNAP, založeném na platformě ZFS, zahrnuje funkce úložiště na podnikové úrovni, jako je ochrana integrity dat, rozsáhlá podpora snímků a inline deduplikace. Tyto funkce jsou relevantní pro nasazení umělé inteligence, protože organizace často zpracovávají velké objemy opakujících se nebo souvisejících dat napříč dokumenty, vloženými prvky, modelovými soubory, školicími materiály a generovanými výstupy.
Vývojáři a IT týmy mohou provozovat nástroje umělé inteligence v kontejnerových prostředích s nativním přístupem k GPU prostřednictvím QNAP Container Station. Zároveň Virtualization Station podporuje průchod GPU pro virtuální stroje. To organizacím poskytuje větší kontrolu nad tím, jak jsou výpočetní zdroje přidělovány, ať už jsou úlohy nasazeny v kontejnerech pro rychlost a přenositelnost, nebo ve virtuálních strojích pro oddělení, testování a administrativní řízení.
QAI-h1290FX také obsahuje předinstalované nástroje umělé inteligence, jako jsou AnythingLLM, OpenWebUI a Ollama, které týmům umožňují rychleji nastavit soukromé pracovní postupy LLM a lokální chatovací rozhraní. Pro podporu generování textu, tvorby obrázků, automatizace pracovních postupů a případů užití inference na stejné lokální platformě jsou integrovány další aplikace (včetně Stable Diffusion, ComfyUI, n8n a vLLM).
Možnost lokální infrastruktury pro podnikové týmy umělé inteligence
Společnost QNAP uvádí, že platforma může snížit manuální práci, která je obvykle spojena s budováním lokální infrastruktury umělé inteligence, včetně sestavení pracovní stanice s grafickým procesorem, instalace nástrojů umělé inteligence a konfigurace samostatných prostředí. Uživatelé mohou nasadit podporované modely a aplikace umělé inteligence přímo v systému a zároveň si zachovat kontrolu nad svými daty a vyhnout se závislosti na cloudových službách.
Je také kompatibilní s rozšiřujícími jednotkami QNAP JBOD, což organizacím poskytuje cestu ke škálování úložné kapacity s tím, jak rostou datové sady umělé inteligence, interní znalostní báze, soubory modelů a generovaný obsah.
Amazon