QNAP Systems는 대규모 언어 모델, 검색 증강 생성 검색 및 기타 생성형 AI 워크로드를 자체 인프라에서 실행하려는 기업을 위해 설계된 엣지 AI 스토리지 서버인 QAI-h1290FX를 출시했습니다. 이 시스템은 AI 도입과 데이터 개인 정보 보호, 낮은 지연 시간, 거버넌스 및 운영 제어 요구 사항 간의 균형을 유지해야 하는 기업을 위해 설계되었으며, 민감한 데이터를 퍼블릭 클라우드 플랫폼으로 전송하는 대신 AI 애플리케이션을 로컬에 배포할 수 있도록 지원합니다.
기업은 QAI-h1290FX를 활용하여 직원 교육, 정책 관련 질문, 지식 검색 등을 위한 사내 AI 비서를 구축하고, 관련 데이터를 기업 내부에 보관할 수 있습니다. 법무, 재무, 인사, 운영팀은 계약서, 보고서, 내부 기록 등을 검색하는 데 사용할 수 있는 자체 RAG 파이프라인을 구축하여 기존 키워드 검색보다 더 풍부한 맥락 정보를 얻을 수 있습니다. 크리에이티브팀은 Stable Diffusion이나 ComfyUI와 같은 이미지 생성 도구를 디자인 및 콘텐츠 워크플로에 활용할 수 있습니다. IT팀은 n8n과 같은 자동화 도구를 사용하여 추론 작업을 실행하고, 콘텐츠를 생성하거나, 비즈니스 시스템 전반에 걸쳐 알림을 전송할 수 있습니다.
QNAP QAI-h1290FX 구성 요소, 확장 및 I/O
AMD EPYC 7302P 프로세서와 12개의 U.2 NVMe/SATA SSD 베이를 기반으로 설계된 QAI-h1290FX는 서버급 컴퓨팅 성능과 빠른 데이터 액세스가 필요한 AI 워크로드에 최적화된 올플래시 스토리지를 결합했습니다. 16코어 32스레드 프로세서는 추론, 가상화 및 병렬 워크로드를 지원합니다. 동시에 SSD 아키텍처는 빈번한 모델 실행, 고속 데이터 스트리밍, 데이터 세트, 임베딩, 문서 및 생성된 콘텐츠에 대한 빠른 액세스를 위해 설계되었습니다.
이 시스템은 옵션으로 NVIDIA RTX PRO 6000 Blackwell Max-Q 워크스테이션 GPU 가속을 지원하여 더욱 까다로운 로컬 AI 워크로드에 최대 96GB의 GPU 메모리를 제공합니다. CUDA, TensorRT 및 Transformer Engine 가속 지원을 통해 팀은 별도의 GPU 워크스테이션을 구축할 필요 없이 대규모 언어 모델 추론, 이미지 생성 및 딥러닝 애플리케이션을 온프레미스에서 실행할 수 있습니다.
QAI-h1290FX는 2개의 25GbE SFP28 SmartNIC 포트와 2개의 2.5GbE 포트를 통해 고속 네트워킹을 내장하고 있으며, 2.5GbE 포트를 통해 Wake-on-LAN을 지원합니다. 확장성을 위해 3개의 PCIe Gen 4 x16 슬롯과 1개의 PCIe Gen 4 x8 슬롯을 포함한 총 4개의 PCIe 슬롯을 제공하여 고속 네트워킹, GPU 또는 기타 호환 가능한 확장 카드를 추가할 수 있습니다. 추가 I/O로는 3개의 USB 3.2 Gen 1 포트, 점보 프레임 지원, SR-IOV, GPU 패스스루, 그리고 12개의 드라이브 베이에 걸쳐 2.5인치 SATA SSD 및 U.2 NVMe PCIe Gen4 x4 SSD와의 호환성을 제공합니다.
QNAP QAI-h1290FX 사양
| 스펙 | 큐냅 QAI-h1290FX |
|---|---|
| 회사 개요 | |
| 모델 | AI-h1290FX-7302P-128G |
| 프로세서 및 메모리 | |
| CPU | AMD EPYC™ 7302P 16코어/32스레드 프로세서, 최대 3.3GHz |
| CPU 아키텍처 | 64비트 x86 |
| 암호화 엔진 | (AES-NI) |
| 시스템 메모리 | 128GB RDIMM DDR4 ECC |
| 최대 메모리 | 1TB(8 x 128GB) |
| 메모리 슬롯 | RDIMM DDR8 4개 |
| 플래시 메모리 | 8GB(듀얼 부팅 OS 보호) |
| 스토리지 | |
| 드라이브 베이 | 12 x 2.5인치 U.2 PCIe NVMe / SATA 6Gbps 이 시스템은 SSD 없이 출고됩니다. SSD 호환성 목록은 다음 링크를 참조하십시오. https://www.qnap.com/compatibility/ |
| 드라이브 호환성 | 2.5인치 베이: 2.5인치 SATA 솔리드 스테이트 드라이브 2.5인치 U.2 NVMe PCIe Gen4 x4 솔리드 스테이트 드라이브 |
| 핫 스왑 가능 | 가능 |
| SSD 캐시 가속 지원 | 가능 |
| GPU 및 가상화 | |
| GPU 통과 | 가능 |
| SR-IOV | 가능 |
| 네트워킹 | |
| 2.5기가비트 이더넷 포트(2.5G/1G/100M) | 2 (2.5G/1G/100M/10M) |
| 25 기가비트 이더넷 포트 | 2GbE SFP25 SmartNIC 포트 28개 |
| WOL(Wake on LAN) | 2.5GbE 포트만 |
| 점보 프레임 | 가능 |
| 확장 및 항만 | |
| PCIe 슬롯 | 4 슬롯 1: PCIe 4세대 x16 슬롯 2: PCIe 4세대 x16 슬롯 3: PCIe 4세대 x8 슬롯 4: PCIe 4세대 x16 PCIe 슬롯 1 및 슬롯 2용 카드 크기: 185 x 111.15 x 18.76 mm / 7.28 x 4.38 x 0.74 인치. PCIe 슬롯 3 및 슬롯 4용 카드 크기: 280 x 111.15 x 18.76 mm / 11.02 x 4.38 x 0.74 인치. 다음 PCIe 슬롯을 사용하지 않을 경우 더 넓은 카드를 설치할 수 있습니다. |
| USB 3.2 Gen 1 포트 | 3 |
| 물리적 디자인 | |
| 폼 팩터 | 탑 |
| LED 표시 등 | 전원/상태, LAN, USB, SSD1-12 |
| LCD 디스플레이/ 버튼 | 가능 |
| 버튼 | 전원, 재설정, USB 자동 복사 |
| 크기 (HxWxD) | 150 368 × × 362 MM 치수에는 발판이 포함되어 있지 않습니다 (발판의 높이는 모델에 따라 최대 10mm/0.39인치일 수 있습니다). |
| 무게 (순) | 10.4의 kg |
| 무게(총) | 11.3의 kg |
| 환경과 전력 | |
| 작동 온도 | 0 – 40°C(32°F – 104°F) |
| 저장 온도 | -20 – 70°C(-4°F – 158°F) |
| 상대 습도 | 5-95% RH 비응축, 습구: 27˚C(80.6˚F) |
| 전원 공급 장치 | 750W, 100-240V |
| 부채 | 2x92mm, 12VDC |
| 시스템 경고 | 부저 |
| Kensington 보안 슬롯 | 가능 |
| 보증 및 연결 | |
| 표준 보증 | 5 |
| 최대 동시 연결 수(CIFS) – 최대 메모리 | 10000 |
빠른 저장 장치, GPU 가속 및 로컬 제어를 중심으로 설계되었습니다.
QNAP의 ZFS 기반 QuTS hero 운영 체제에서 실행되는 QAI-h1290FX는 데이터 무결성 보호, 광범위한 스냅샷 지원 및 인라인 중복 제거와 같은 엔터프라이즈급 스토리지 기능을 포함합니다. 이러한 기능은 조직에서 문서, 임베디드, 모델 파일, 학습 자료 및 생성된 출력물 등 다양한 영역에서 대량의 반복적이거나 관련된 데이터를 처리하는 경우가 많기 때문에 AI 배포에 매우 중요합니다.
개발자와 IT 팀은 QNAP Container Station을 통해 네이티브 GPU 액세스가 가능한 컨테이너 환경에서 AI 도구를 실행할 수 있습니다. 동시에 Virtualization Station은 가상 머신에 대한 GPU 패스스루를 지원합니다. 이를 통해 조직은 컴퓨팅 리소스 할당 방식을 더욱 효과적으로 제어할 수 있으며, 워크로드를 속도와 이식성을 위해 컨테이너에 배포할지, 아니면 분리, 테스트 및 관리 제어를 위해 가상 머신에 배포할지 결정할 수 있습니다.
QAI-h1290FX에는 AnythingLLM, OpenWebUI, Ollama와 같은 AI 도구가 사전 설치되어 있어 팀에서 개인 LLM 워크플로 및 로컬 채팅 인터페이스를 더 빠르게 설정할 수 있습니다. 또한 Stable Diffusion, ComfyUI, n8n, vLLM 등의 추가 애플리케이션이 통합되어 동일한 로컬 플랫폼에서 텍스트 생성, 이미지 생성, 워크플로 자동화 및 추론 사용 사례를 지원할 예정입니다.
기업 AI 팀을 위한 로컬 인프라 옵션
QNAP은 자사 플랫폼이 GPU 워크스테이션 조립, AI 도구 설치, 개별 환경 구성 등 로컬 AI 인프라 구축에 일반적으로 필요한 수작업을 줄여준다고 밝혔습니다. 사용자는 지원되는 AI 모델과 애플리케이션을 시스템에 직접 배포하여 데이터에 대한 제어권을 유지하고 클라우드 서비스에 의존하지 않고도 작업을 수행할 수 있습니다.
또한 QNAP JBOD 확장 인클로저와도 호환되므로 AI 데이터 세트, 내부 지식 기반, 모델 파일 및 생성된 콘텐츠가 계속 증가함에 따라 조직에서 스토리지 용량을 확장할 수 있는 경로를 제공합니다.
아마존