跳到內容
Supekkupuru

200 TOPS 級「堅固型 AI 加速盒」Fogwise AIRbox Q900 ─ 實現不需雲端的現場推論

Published on
200 TOPS 級「堅固型 AI 加速盒」Fogwise AIRbox Q900 ─ 實現不需雲端的現場推論

Radxa (Fogwise®) 於 2025 年 9 月 30 日宣布正式推出「Fogwise AIRbox Q900」。搭載 Qualcomm Dragonwing IQ-9075,具備最大 200 TOPS (INT8 sparse) NPU 效能、36GB ECC 記憶體、雙 2.5GbE 與 SIM 卡支援,是專為現場推論需求打造的邊緣 AI 盒子。

Radxa (Fogwise®) 於 2025 年 9 月 30 日及宣布 Fogwise AIRbox Q900 正式發布。官方頁面與文件已刊載產品資訊。 本機搭載 Qualcomm Dragonwing™ IQ-9075,是具備最大 200 TOPS (INT8 sparse) NPU 效能的邊緣 AI 盒子。 對於「不想丟到雲端,想在現場運作 AI 推論」、「想要有雙 2.5GbE 或 SIM 運用等對應現場配線環境的盒子」這些條件相當契合,但另一方面,需針對 Qualcomm 系工具鏈(QAIRT 等)進行最佳化這點,是購買前應確認的前提。

目錄

規格

■ Fogwise AIRbox Q900
處理器Qualcomm Dragonwing™ IQ-9075(Kryo Gen6 8 核心 最大 2.36GHz)+Cortex-R52 4 核心(最大 1.85GHz)
GPUAdreno 663(最大 1.2 TFLOPS FP32)
NPUDual Hexagon NPU(最大 200 TOPS@INT8 sparse)
記憶體36GB LPDDR5(96-bit、6400MT/s、ECC)
儲存空間128GB UFS 3.1(內建)+32MB SPI Flash
擴充性M.2 M Key 2230(PCIe Gen4 x4)・Mini PCIe(Wi-Fi 或 4G/5G 模組)・Nano SIM・UFS/eMMC 模組
網路有線:2x 2.5GbE(支援 TSN)、無線:經由 Mini PCIe 支援 Wi-Fi 6・BT 5.4,或 4G/5G+Nano SIM
影像輸出HDMI 2.0(最大 4K@60)1 組
USBUSB 3.1 Gen2 Type-A HOST 1 埠、USB 3.1 Gen2 Type-A OTG 1 埠、USB-C(序列控制台・除錯)
尺寸104×84×45mm
電源DC 12V 輸入(建議 12V/5.4A)
支援 OS支援 Ubuntu・Yocto。備有 RadxaOS(架構於 Debian/Ubuntu)相關文件

Dual Hexagon NPU 帶來的最大 200 TOPS (INT8 sparse)+36GB ECC 記憶體,收納於支援雙 2.5GbE 與 SIM 運用的 104×84×45mm 金屬機殼內的邊緣 AI 盒子。 重量官方未明示。配件在一次資訊中也未能確認,但 Quick Start 提及「請準備 12V DC 電源、HDMI 線、Ethernet 等」。

特色

處理器與 NPU

IQ-9075 的定位相當有趣。雖是手機系 SoC 的延伸,但在此則是作為「現場的盒子」,且前提是統合運用 CPU・GPU・NPU。具備標榜最大 200 TOPS (INT8 sparse) 的 Dual Hexagon NPU,鎖定在終端側完成推論的用途。

Fogwise AIRbox Q900 產品外觀
參考:Radxa 官方產品頁面

另一方面,這與 NVIDIA Jetson 系那種「CUDA 獨強的淺顯易懂」是不同的世界觀。前提是需配合 Qualcomm 系工具鏈(QAIRT 等)進行最佳化,因此現有資產是什麼會影響難易度,這點在購買前應安全地納入考量。

記憶體與儲存空間

記憶體為 36GB LPDDR5+ECC。這點個人印象相當好。邊緣用途常涉及 24/7 運作或溫度條件,因此 ECC(錯誤更正)很容易展現價值。 儲存空間標準為 內建 128GB UFS 3.1,還可追加 M.2 2230 NVMe(PCIe Gen4 x4)。官方指南明記「斷電→插入並鎖上螺絲」的 NVMe 使用者增設步驟,容易取得依據這點也令人安心。 實際運用上,OS 放在 UFS 側,將 NVMe 當作「日誌・資料集・模型放置處」是很順暢的配置。像是監視器資料、產線推論日誌、本地 LLM 快取等,累積型資料若逃生至 NVMe 會讓運作更輕鬆。

生成式 AI 效能

官方頁面明確展示了在本地運作 GPT・LLaMA・Stable Diffusion 的情境。例如記載有 LLaMA-7B first token 約 0.6 秒、之後約 12 tok/s

Fogwise AIRbox Q900 內部構造
參考:Radxa 官方產品頁面

這也是「不要只看數字就立刻下定論」的點。效能會隨模型量化、記憶體分配、輸出入、熱條件而變,200 TOPS 不代表什麼都爆快。反過來說,若能順利契合,確實能創造出不需往返雲端「在現場就能得到答案」的體驗。用途落在「輕量 LLM 的現場回答」、「圖像分類・偵測」、「簡易生成(驗證・展示)」大約是現實的落點。

外觀

Fogwise AIRbox Q900 背面 I/O
參考:Radxa 官方產品頁面

連接埠面相當務實,整理了 DC12V 輸入、USB、2x 2.5GbE、Type-C(序列控制台・除錯)、HDMI 2.0、SIM 插槽、EDL 按鈕等。「以除錯為前提的 Type-C」與「EDL(緊急寫入)系的導線」從一開始就準備好,這在量產・現場部署時相當有效。

Fogwise AIRbox Q900 頂部
參考:Radxa 官方產品頁面

頂部可看出風扇位置,配合散熱鰭片可解讀出「散熱導線」。靜音性雖取決於運作條件,但至少不將冷卻全丟給軟體處理這點令人有好感。箱型 AI 容易因熱導致效能波動,因此這裡做工紮實其實很重要。

其他

網路:相當務實,2.5GbE x2 (支援 TSN) 能打中許多現場需求。不單只是相較 1GbE 取得最大 2.5 倍頻寬,也容易進行分流(例:上位 NW 與設備 NW)。 無線或蜂巢網路透過 Mini PCIe 插槽,選擇 Wi-Fi 6・BT 5.4 卡或 4G/5G 模組。官方亦有說明 Nano SIM 插槽。這點並非「買了就定案」,而是保留了配合用途打造通訊功能的空間,是其優點。

電源與冷卻:電源輸入為 DC 12V(建議 12V/5.4A)。實際功耗隨運作條件變動,官方部落格記載「一般約 20W」(條件需確認)。 冷卻採用金屬機殼+PWM 風扇這種「做為盒子很正確」的架構。雖不華麗,但若意識到 24/7 運作,這個方向令人安心。

總結

Fogwise AIRbox Q900 正如其外觀,是一款鎖定「在現場運作 AI 的盒子」的產品。200 TOPS 級 NPU、36GB ECC 記憶體、UFS+NVMe 擴充、2.5GbE x2、SIM 運用,從一開始就具備了邊緣案件中容易被要求的條件。 適合不想丟到雲端想在現場運作推論的人、想要有雙 2.5GbE 或 SIM 運用等對應現場配線環境的盒子的人。反之不適合想直接搬運 CUDA 資產的人,或想一鍵爆速執行生成 AI 的人。前提是需配合 Qualcomm 系最佳化(模型轉換・量化・執行環境)來整備運作。

個人感想是,相較於規格,其「I/O 與運作導線很紮實」這點更有好感。

銷售來源價格(參考)
Arace Tech需確認(價格變動)

相關連結