DGX Spark 有幾家 AIB 廠的型號,AI TOP ATOM 是技嘉的。每家做的硬體差異化不大,就是外觀、散熱或可否自行升級等等,AI TOP ATOM 的特色則是穩定、還沒聽說過有熱當的跡象,以及自家的 AI TOP UTILITY。

不是一般迷你電腦換上 AI 標籤

AI ATOP ATOM 是「真.AI 電腦」,因為它就是一台 DGX SPARK,不是隨便拿一台 PC 貼上 AI 標籤。在介紹它的工作能耐前,先複習一下硬體規格。

AI TOP ATOM 的機身尺寸為 150 × 150 × 50.5 mm,體積約 1 公升。內部採用 NVIDIA GB10 Grace Blackwell Superchip,包含 20 核心 Arm CPU、Blackwell GPU、128GB LPDDR5x 統一系統記憶體,以及最高 4TB NVMe SSD。官方標示的 1 petaFLOP 是 FP4 AI 運算能力,不能直接拿來和遊戲顯示卡的 FP16、BF16 或光柵效能比較,同時這是一台 Arm 架構的機器,不要想在上頭玩遊戲。

128GB 也不是傳統意義上的 128GB 獨立VRAM。CPU、GPU、作業系統與服務共用同一池記憶體,好處是大型模型不必頻繁經過 PCIe 在VRAM與主記憶體之間搬移,代價則是 273 GB/s 的理論頻寬明顯低於高階獨立顯示卡。模型放得進 16GB 或 32GB VRAM時,消費級 GPU 往往更快。模型與執行工作集超過VRAM上限後,AI TOP ATOM 的容量優勢才會真正出現。

另外,DGX SPARK 的記憶體管理不似 Mac 成熟,這是 NVIDIA 當初設計的原罪,跟 AIB 沒關係。AI 用到的記憶體很可能搶走一些系統必要程序、或是應用軟體的運作穩定度,所以真的不要把這台機器當作主要桌面工作機、或拿來營運的伺服器。

連接埠不多,Type C 是主力

機身後方共有四個 USB 3.2 Gen 2x2 Type C,其中一個用於電源輸入,另外三個最高支援 20Gbps。除此之外還有 HDMI 2.1a、10GbE RJ45、NVIDIA ConnectX 7,以及 Wi Fi 7 與 Bluetooth 5.4。鍵盤、滑鼠、螢幕與高速網路都能直接連接,若桌面上還有外接硬碟、讀卡機、擷取設備或多個 USB 周邊,再準備一個 Dock 會比較從容。

image.png

ConnectX 7 不是一般網路孔的替代品。單機可處理官方標示最高 200B 參數等級的模型,兩台 AI TOP ATOM 則可透過專用 QSFP 線材互連,官方將雙機目標提高到 405B 參數,是目前地端 Deekseek v4 的甜蜜點。

官方提供 1TB 與 4TB 等硬碟配置,一套大型模型可能占用數十至上百 GB,容器 image、模型快取、影片中間檔與同一權重的不同量化版本還會重複占用空間。4TB 對一般桌機很充裕,對長期 AI 開發卻可能很快就滿了,所以能選還是選 4TB 為佳,雖然這台機器是使用 M2 插槽而不是焊死的儲存空間,要自行拆換硬碟並讓其穩定運作可能會有些風險。

AI TOP Utility 突顯出 DGX SPARK 真正價值

現在地端模型紅了,大家都想要台 AI 工作站。然而別忘了,DGX SPARK 的頻寬就是不高,要跑影片或圖片生成、甚至小對話模型,不會比消費級顯卡快,「訓練」、「實驗推論」、以及 RAG、LORA 的最佳化反而適合它,原因來自雙面刃:它不快,但是相較省電,可以 24 小時放著跑。

同樣採用 GB10 的系統,核心算力不會因品牌不同而突然改變。外殼、散熱、韌體、售後服務與軟體工具,才是各家能持續建立差異的部分。AI TOP ATOM 可使用 NVIDIA DGX OS 與完整 NVIDIA AI software stack,技嘉另外提供 Arm 版本的 AI TOP Utility,可以說是開箱即用。

AI TOP Utility 在 AI TOP ATOM 上的主要能力包括模型下載、推論、檢索增強生成,也就是 RAG,以及預先建立的機器學習專案。文字生成、圖片生成、影片生成、圖片理解、Hugging Face 模型下載、資源儀表板與離線推論等功能,幾乎已經涵蓋了常見應用。

看到這裡,一定有玩家會想:「啊我就在機器上裝個 Agent 請它部署好所有環境不就好了?」如果只想裝個 MiniMax H3 來生影片,確實是如此沒錯。只是,要支撐起一個完整的 AI 生態工作鍊,全靠 Agent 來生是很耗 Token 的。怎麼不說 MiniMax H3 也靠 Agent 做一個就好?

站在巨人的背膀上,一定是比較輕鬆的。這套工具的價值不只是少輸入幾行指令,第一次部署地端模型時,通常要先處理驅動、CUDA、Python 環境、容器、模型格式、Hugging Face 權限、儲存路徑與服務埠,疑難排解費時,有很多坑要避。如果可以把這些「基礎建設」集中在同一個流程,就能讓學校、設計團隊與企業內部的概念驗證更快開始。

對!我就是要訓練自己的 Model

大多數地端 AI 工具把「能不能推論」當成終點。AI TOP Utility 的 Machine Learning 區塊,則是讓「訓練」變得很方便。手冊列出的任務包括影像分類、物件偵測、影像分割與 OCR。使用者先選任務,再選套件和模型,還能先開啟 Comparison 查看不同方案的差異。

AI TOP Utility 的 Machine Learning 任務入口,列出影像分類、物件偵測、影像分割與文字辨識

這個安排對玩家很實際。不必先去找一堆 Python 套件、建立虛擬環境,再自己猜 Notebook 要怎麼接,而是先輸入專案名稱,由 Utility 下載並建立專案。環境完成後會自動開啟 Jupyter Notebook,已有專案則能直接打開 Notebook,或進入 LabelMe、LabelImg 做資料標註。

AI TOP Utility 比較影像分類套件與模型的介面

同一任務可先比較套件與模型,再決定下載哪條路線。別誤會,它的價值不是讓人按一下就完成訓練,沒到那麼簡單,把最容易卡住的前置工作收斂起來才是真的。玩家仍要準備資料、完成標註、看懂 Notebook,並依自己的資料調整流程,但不必從空白目錄開始搭出一套電腦視覺專案。對一台放在桌上的本機 AI 工作節點來說,這比多一個聊天模型更可靠。

AI TOP Utility 的既有機器學習專案介面,提供 Open Jupyter 與 Go to Annotate 操作

訓練模型或做 Lora、RAG 是燒時間跟 Token 的事。消費級顯示卡來做不一定會比較慢(也有可能跑不動),電力效益比就是另外一回事,但是 DGX SPARK 至少找到了目前的平衡點,讓你不必再去想這些事,AI TOP Utility 則是提供了更好的 UX。

有消費級顯卡又有它,環境會更完善

AI TOP ATOM 最適合三類使用者。第一類明確需要超過 32GB 模型執行空間。第二類希望資料留在本地,並讓模型服務持續提供服務。第三類需要把原型、RAG、推論與批次工作集中在一台體積小、一般插座即可使用的設備上。若需求只有遊戲、最快的單次圖片生成或中小型量化模型,高階消費級顯示卡仍然更直接。

如果同時有消費級顯示卡跟 AI TOP ATOM,那麼把的大模型放到 AI TOP ATOM 裡、小模型放顯示卡會是很好的分工,128GB VRAM,桌機怎麼可能達成?