DeepSeek 1017 雙 DGX Spark:TensorFold 2.2 倍測試、Engram 容量與 Agent 維運界線
查核 CyberQ 雙機測試、DeepSeek 官方模型卡與 EXL3 社群配方;區分解碼/prefill/TTFT、不同配方版本、Engram 儲存與記憶體餘裕,以及模型授權和正式 Agent 後端驗收。
這是特定雙機部署配方的比較,不是 TensorFold 對所有 vLLM 的通用排名。CyberQ 作者 Icewind 在 2026-10-18 發表測試,使用兩台 DGX Spark、相同 DeepSeek-V4.1-Flash-1017 EXL3 2.9 bpw 權重,比較 Mia vLLM kit 與 TensorFold 社群分支。其單路散文解碼為 57.5 對 26.1 tok/s,算得約 2.20 倍;我們核讀報導、模型卡、固定版本配方與限制文件,沒有下載權重或重現跑分。
原文測了什麼、沒證明什麼
CyberQ 原文的硬體是兩台 GB10、每台 128 GB 統一記憶體,ConnectX-7 直連及 TP=2。上述 2.20 倍來自 temperature=0 的散文測項,並非官方建議採樣下的全面效能。改 temperature、程式碼、上下文長度、快取與併發,結果會變;decode、prefill、TTFT、每路速度與總吞吐不可混為一個倍數。
兩套測項還有 DSpark 草稿數不同等設定差異,因此測到的是整組部署效果,不是只替換引擎、其餘參數完全不變的嚴格控制實驗。報導另有工具/取針/小型數學檢查,但這些通過不等於通用推理、視覺或長期 agent 可靠性驗收。與舊 Viterbi 版本的比較更是歷史紀錄,不是本次同期重測。
官方模型與社群量化:能交叉確認的部分
DeepSeek 固定 revision 模型卡將 1017 定位為小改版,並公布 agent 類任務改善;這些是官方評測,不是量化後雙機部署的實測。官方建議 temperature=1.0、top_p=1.0,並提供 Python prompt encoder;不同工具鏈的模板、thinking 與工具結果處理仍須逐一核對,不能只憑相同模型名稱認定行為相同。
LibertAIDAI 量化模型卡確認權重約 210.7 GB(196.3 GiB),另需新版兩個 Engram shard,合計約 203 GB;舊版 Engram 不能直接沿用。2.9 bpw 也不是整個部署的有效容量:OS、KV、暫存、快取與額外磁碟仍要預留。量化作者公布的困惑度變化,是指定 held-out 資料上的指標,不能當成 agent 準確度只損失同樣百分比。
版本校正:報導的 TensorFold 不等於目前配方
原文記錄配方 b97ee60、引擎 fd2365042f56。我們讀到的較新固定配方 3b6d54064241dd7f442ddd2f6079d88e3e3ddb59已列出更多 prompt encoding、強制工具呼叫、structured output 與記憶體/prefill 修正,並指向另一引擎 commit。不能把新版宣告的修正倒填成作者當時已測過,也不能把舊文的所有缺陷當成永久現況。歷史 b97ee60 README 同樣有部分修正宣告,證明「配方版本、實際啟動引擎與測試輸出」必須一起對齊,不能只讀 README 判定某個執行實例已修好。
報導發現 thinking 預設與文件不一致;新版文件仍寫預設關閉。這裡保留差異,不宣稱已替新版 runtime 驗證。代理也可能丟棄 reasoning_effort,應在後端核對 reasoning/content、token 統計與實際工具回應;只看前端參數不夠。
最新配方自己揭露的限制
KNOWN-LIMITS明確區分:個別請求錯誤隔離,不等裝置故障或丟失 rank 後會自動重啟;後者仍需 supervisor 或人工。配方只有雙節點 TP=2,沒有交付 boot unit;接近 1M context 的取針通過,不代表全面長文品質、多人長文併發或低 TTFT。其部分 README 與限制文件對暖機及版本細節也有不同描述,採具體測試紀錄優先,不用一個概括口號消除差異。
該倉庫的 vLLM 對照測試只跑單請求,因此其四路吞吐沒有同配方的 vLLM 多路基線;這是配方作者的實驗邊界,不能拿來否定 CyberQ 另外做的雙路測量。類似地,配方缺視覺實測,不等於整個模型沒有視覺功能。CyberQ 本篇也沒有涵蓋完整視覺測試或 GSM8K 全集,不轉述下一篇標題當結果。