HPのZGX Fury AIステーションが注文可能になり、HPはRed HatおよびNVIDIAとのコラボレーションを発表し、その上にRed Hat AI Factory with NVIDIAを搭載しました。ZGX Furyは、NVIDIAのDGX Station設計に対するHPの解釈であり、748GBの統合メモリと最大20ペタFLOPSのFP4演算能力を備えたGB300 Grace Blackwell Ultra Desktop Superchipを中心に構築されています。HPはこれを個人用ワークステーションというよりは、部門、工場、または支店がデータセンターなしで実行できる共有推論ボックスとして位置付けています。現在ラボに1台あるので、完全なレビューが近日公開されます。これはHPがこれまでに発表した内容です。
HP ZGX Fury ハードウェア：GB300 Superchip 1基、メモリ748GB、タワー型または5U型
システムの中核は、MSI XpertStation WS300でテストしたのと同じシリコンです。1 つの Blackwell Ultra GPU は 252GB の HBM3e (7.1TB/s) を搭載し、NVLink-C2C を介して 496GB の LPDDR5X を搭載した 72 コアの Grace CPU に接続されています。HP の仕様書には、プラットフォームの発表で省略された詳細が記載されています。CPU メモリは 4 つの 128GB SOCAMM モジュールで、396GB/s を提供し、Grace CPU はソケットではなくホストプロセッサモジュールに半田付けされています。2 つのプールを合計すると 748GB のコヒーレント空間になり、GPU が CPU メモリに直接アクセスできるようになります。これにより、1 台のボックスで 1 兆パラメータの推論と 1000 億パラメータクラスのモデルの微調整が可能になります。HP の脚注では、これらのモデルサイズは FP4 で量子化されるとされています。
Grace CPUにはPCIe 5.0経由で2つのM.2スロットが内蔵されており、ソフトウェアRAID 1ミラー構成でオペレーティングシステムが格納されています。さらに2つのM.2スロットはConnectX-8 SuperNIC内部のPCIeスイッチに接続されており、RAID 0データボリュームとして機能します。購入時には、2TBまたは4TBの自己暗号化NVMeを選択できます。
ネットワークは、それぞれ400GbpsのQSFP112ポートを2つ備えたConnectX-8で、2台のZGX Furyシステムを接続できます。さらに、ホスト用に10GbE RJ-45、BMC用に1GbE RJ-45、Mini-DP、micro-USBが別途用意されています。その他のI/Oはワークステーション標準で、前面にUSB-Aポートが2つとUSB-Cポートが2つ、背面にUSBポートが4つ、オーディオジャック、ケンジントンスロット、電源コード用のC20インレットがあります。GB300自体にはディスプレイ出力はありません。HPはモニターを駆動するためのオプションのNVIDIA RTX PRO GPUを提供しており、Blackwell Ultra GPUは推論専用です。シャーシはタワー型で、5Uラック スロット用のレールも付属しています。HPは最適化されたエアフローを備えた液冷を採用しており、これはMSIユニットで確認されたものと同じです。MSIユニットでは、1,400W定格のループにより、GPUはフルロード時でも71℃に保たれていました。
HP ZGX Furyソフトウェア：Ubuntu、Z Runtime、およびRed Hatの認定
HPはZGX FuryにUbuntu 24.04 LTSとNVIDIAのAI開発ツール、NVIDIA認定パートナーBIOSおよびBMCファームウェア、そしてHP独自の2つのレイヤーを搭載して出荷しています。HP Z Runtimeは、ローカルでモデルを取得、提供、管理するためのプリインストールされたコマンドラインツールで、HP Z Toolkitはオープンソースフレームワーク、MLflow実験追跡、ZGXシステム間での検出と同期によるOllamaテストを追加します。このシステムのコンセプトは、チームがZGX Nanoでプロトタイプを作成し、より多くのメモリ、より高いスループット、またはより多くの同時ユーザーが必要になったときに、同じワークフローをZGX Furyに移行するというものです。
新たな要素はRed Hatです。HPによると、ZGX FuryはRed Hat Enterprise Linuxの認証を取得しており、本日Red Hatエコシステムカタログに掲載されました。両社は、ZGX Fury上でNVIDIA搭載のRed Hat AI Factoryを実行する、HPが「オープンなエンタープライズグレードのAIプラットフォーム」と呼ぶものを開発しています。NVIDIA搭載のRed Hat AI Factoryは、ハイブリッドクラウド全体にモデル、エージェント、アプリケーションをデプロイするための、RHEL、OpenShift、およびNVIDIA AI Enterpriseを搭載したRed Hatのパッケージです。HPによると、ZGX Fury上では、この組み合わせにより、環境設定時間とデプロイリスクを削減し、最適化されたCUDAライブラリ、スケジューリング、マルチGPUワークロードオーケストレーションによってGPU利用率を向上させ、開発者が既存のワークフローを変更することなくコンピューティングをこのマシンにオフロードできるようにすることを目指しています。このプラットフォームは、ワークロードの分離とガバナンスを備えた1つのシステム上で複数のAIワークロードを実行するようにも設計されており、これによりHPはデスクトップマシンからIT部門がエッジインフラストラクチャとして管理できるものへと移行します。
「AIの未来は、人が働き、機械が稼働し、重要な意思決定が行われる場所に近づいています」と、HPの上級副社長兼先進コンピューティングおよびソリューション部門社長のジム・ノッティンガム氏は述べています。「HPは、Red HatおよびNVIDIAと協力し、オープンなエンタープライズグレードの推論プラットフォームによって、エンタープライズAIをデータセンターからエッジへと拡張しています。このプラットフォームは、顧客がローカルAIファクトリーを展開する際に、より大きな選択肢、制御、一貫性を提供するように設計されています。」NVIDIAのエンタープライズプラットフォームおよびソリューション担当副社長であるクリス・マリオット氏も同様に、「企業が求めるセキュリティ、拡張性、一貫性を維持しながら、強力なAIをローカルで実行する」と述べています。
ZGX Fury は現在 HP から注文可能ですが、発表では価格は明らかにされていません。Red Hat AI Factory の統合は出荷 SKU ではなく計画中のソリューションであり、HP によると、顧客は生産に移行する前に HP デバイスでサンドボックス環境で評価できるとのことですが、時期、適格性、サポートされる構成はまだ発表されていません。競合状況は急速に明らかになってきています。MSI の WS300 は同じスーパーチップで出荷されており、AMD の Threadripper Halo Stationは同じワークロードを対象としています。ZGX Fury のレビューでは、HP のプラットフォームを MSI で実行したのと同じモデルとテストにかけます。
Amazon