為什麼要在這個時間點再開箱一次這台機器,想必大家都很清楚。去年底 DGX Spark 剛上市時,市場熱度很快就降了下來。它的 LPDDR5x 頻寬不高,生圖與生影片不算快,面對同期消費級顯卡時,效率也不突出。部分評測系列因此寫了幾篇便停止更新,長期討論幾乎只剩 NVIDIA 官方論壇還在維持。
近期隨著 Qwen3.8、Ornith 1.5、MiniMax H3 等地端模型受到關注,DGX Spark 又回到玩家視線。先別太興奮,它的硬體規格沒有改變,短期內改版的機率也不高。改變的是現在能在這台機器上做的事更多,也更有趣。先前台灣電商一台約新台幣 12 萬元仍乏人問津,如今市場價格與討論熱度都回升不少。
先講結論:如果主要工作是生圖、生影片或執行能完整放入VRAM的量化模型,先買高階消費級顯卡。如果工作需要超過 32GB 的模型容量、同時常駐多個服務,或希望以較低整機功耗長時間批次執行,DGX Spark 才開始顯出價值。
大容量統一記憶體,仍然有用武之地
醜話先說,算圖、生影片,以及執行經過一定量化的對話模型時,主流中高階消費級顯卡仍然佔優勢。它們的記憶體頻寬更高、GPU 更強,只要模型權重與執行空間放得下,速度通常更好。但是遇到更大的對話模型,放不下就是放不下。一旦必須把部分權重卸載到系統記憶體,整體速度反而可能比 DGX Spark 更慢。
以下先比較三種常見硬體的記憶體容量與理論頻寬。DGX Spark 的 128GB 是 CPU 與 GPU 共用的 LPDDR5x 統一系統記憶體,不是獨立顯卡上的 128GB VRAM,作業系統與其他服務也會占用其中一部分。
| 裝置 | 容量與架構 | 理論頻寬 | 適合工作 |
|---|---|---|---|
| GeForce RTX 5070 Ti | 16 GB GDDR7 | 896 GB/s | 中小型模型、圖像與影片 |
| GeForce RTX 5090 | 32 GB GDDR7 | 1,792 GB/s | 容量可控時的速度優先 |
| DGX Spark | 128 GB LPDDR5x 統一記憶體 | 273 GB/s | 大型模型、多服務常駐 |
可以看出,如果模型都放得下,那麼它們的速度差別很大。先不計量化或硬體特化的差異,RTX 5090 算一秒就能算完的圖,DGX Spark 要算十秒。
如果遇到消費級顯卡放不下的模型,狀況就會複雜許多。不能只看權重檔大小,至少要把以下四項一起算進去:
模型執行記憶體 ≈ 權重 + KV cache + 執行工作區 + 並行與系統保留空間
以 DeepSeek-V4-Flash-0731 這類大型 MoE 對話模型為例,具體需要多少記憶體會隨量化格式、context 長度、KV cache 精度與並行數改變。即使權重經過大幅量化,16GB 或 32GB VRAM通常仍無法完整容納權重與執行空間,必須卸載到主記憶體。資料持續跨越 PCIe 搬移後,RTX 5070 Ti 或 RTX 5090 的 GPU 本身雖然更快,整體推理仍可能明顯變慢。
因此,DGX Spark 的真正優勢不是「128GB VRAM」,而是 128GB 統一系統記憶體讓大型模型有機會完整留在同一個記憶體空間,也能同時塞入較多模型。這件事的應用價值正在提高,所以它又成為近期不少地端 AI 工作的主要載具。
它是桌上型 AI 開發系統,不是機架伺服器
NVIDIA 將 DGX Spark 定位為放在桌面的 AI 開發系統,目標使用者是開發者。它有 10GbE、ConnectX-7、Wi-Fi 7 與 HDMI,也能安裝完整桌面環境,但它不是具備備援電源、獨立 BMC 與 IPMI 遠端維護能力的機架伺服器。
這代表它適合放在辦公室或工作區,以 SSH、遠端桌面、JupyterLab 或服務 API 操作,不適合在沒有額外管理設備的前提下,直接當成無人駐守的對外營運主機。外接電源、網路、散熱或作業系統任何一項出問題,都可能需要人到現場處理。所以了,要把它放在機房?再考慮兩下。
它的機身很小,全速運轉時熱量集中。NVIDIA 標示的理想操作環境為攝氏 5 至 30 度,因此仍要保留進出風空間並監看溫度。作業系統是以 Ubuntu 為基礎的 NVIDIA DGX OS,硬體平台則是 Arm。GNOME 桌面與一般 Linux 工具可以正常使用,但只有 x86_64 版本的桌面軟體、驅動或封閉套件可能無法直接執行。把它當成遠端 AI 工作站,比當成一般桌機更實際。
安裝完先防 OOM,長時間運作才穩
DGX Spark 的 CPU 與 GPU 共用同一池記憶體。模型服務、影片工作流、快取與桌面應用如果同時擴張,會直接競爭同一個 128GB 空間。容量耗盡時,不只單一工作可能失敗,整台機器也可能失去回應。
正式交付工作前,建議先做四件事:為作業系統保留固定空間、限制每個服務可用的記憶體、監控 available memory 而不是只看應用回報的 VRAM,以及建立健康檢查與自動重啟。ComfyUI、模型服務與容器不要全部吃滿理論容量。Watchdog 可以請 AI Agent 協助建立,但一定要實際模擬服務卡死與記憶體不足,確認它真的能恢復。
大容量統一記憶體與較低整機功耗,是 DGX Spark 難以取代的優勢
速度不快,但是至少能放著跑。它不太適合進行需要持續盯著的工作,卻很適合執行已經驗證完成的任務管線與長時間批次作業。還在測試哪一組 prompt 與 model 才能產生理想圖片或影片時,用一般顯卡迭代會更快。流程確定後再交給 DGX Spark 慢慢生成,比較不會浪費精神。
官方隨附 240W 電源,GB10 SoC 的 TDP 是 140W。就硬體上限來看,DGX Spark 仍有機會以較低整機功耗提供 128GB 的可用模型空間,這是消費級獨顯桌機很難直接取代的地方。
如果同時有獨立顯卡與 DGX Spark,把需要大容量或長時間常駐的對話模型放在後者為佳,當作地端 endpoint,圖片、影片與需要快速反覆測試的工作則先交給獨立顯卡。尤其有兩台 DGX Spark 時,透過 ConnectX-7 串接,會是執行 DeepSeek-V4-Flash-0731 這類大型模型的甜蜜點。另一條路則是把已驗證的批次工作排滿,讓它每天 24 小時持續產出,這才是現階段最能發揮硬體價值的用法。
適合現在入手的人
- 明確需要超過 32GB 的模型執行空間
- 需要多個模型或服務同時常駐
- 有已經驗證完成、可以長時間批次執行的工作
不適合現在入手的人
- 主要需求只有生圖、生影片或中小型量化模型
- 最在意單次生成速度與互動迭代效率
- 希望買回來就當一般桌機使用
- 需要機架伺服器等級的遠端管理與故障復原
