Strata+本機 Qwen+Hermes:180–200 tokens/s 截圖與 Agent 交付邊界
保留作者原貼、Strata/ChatGPT規劃與12–16GB補充;分開tokens/s、expertcache、記憶體、computer use與未測的專案品質。
來源與可見補充
@musclenet2003 原貼 2026-10-09,本次收錄 2026-10-10。正文宣稱本機模型快、可視覺、搭配 Hermes computer use、查網路/改檔/rollback,不需管服務額度。可見十五則留言,頁面顯示49則,未完整讀取;作者四次補充包括開啟 computer use、使用 Strata、ChatGPT 負責規劃、本機負責執行,以及有人能用12–16GB顯卡跑。這些不同描述不能拼成同一個已測的硬體/速度條件。
截圖究竟支持什麼?
原貼截圖標題可見「Strata - Qwen3.8 Flash Next 125B IQ3_S - 256K Vision」;日誌區分 thinking、answering 與 writing a tool call: write_file,包含約180–200 tok/s 與 expert cache 高命中率(約99.5%)的顯示。這是作者畫面,不是本次真實 benchmark;expert cache 不是自動等同 prompt cache,也不能由日誌速率推出需求到驗收的完整吞吐。
未取得精確 GPU/CPU、RAM、量化檔 hash、Strata branch/commit、prompt 長度、batch、測試輪數、冷熱啟動、首token時間、tool耗時與完整驗收。標題「256K」是配置線索,不證明本次速度在256K有效prompt下量到;畫面單次max_tokens設定也不是有效上下文長度。
Strata 與 Qwen:身份還需核對
作者留言提供 Strata 名稱,原貼沒有 repo URL。公開可找到 Strata 候選,但不能把任一同名 repo/fork 的安裝包、benchmark或授權直接當成作者那版。125B 是畫面模型名稱,dense/MoE、總參數與活化參數、RAM/VRAM分工、vision encoder/projector與權重授權仍需第一方固定版本查核。『像統一記憶體使用』是作者比喻,不能寫成PC已變成Apple unified-memory硬體。
Hermes 能力與本機模型的邊界
Hermes 官方文件索引確有 local models 與 computer use 指引:工具執行能力來自框架、配置與權限,並不是模型下載後天然就擁有桌面控制。是否需要視覺模型、截圖去向、browser環境與網站行為,需依設定核對;查網路也會使用外部網路。作者自己說 ChatGPT規劃,本機執行,因此不能把整個流程當作完全離線或私人資料永不外送。
性能與採用前驗收
- 先固定模型、量化/版本與硬體,分開 prefill、decode、thinking、答案與工具呼叫延遲。
- 測 cold/warm cache、代表上下文與實際專案修改;不要將180–200+ tok/s當成每張顯卡保證。
- 用同一需求、單元/端到端測試、diff與人工驗收比較本機與Codex;留言『更聰明』是體驗,非可重現結果。
- 成本另含電力、硬體、模型儲存與維護;無雲端token額度不等於無資源上限與零成本。
查核狀態
已保存正文、作者補充與原貼截圖;文末2026-10-10後續段已補兩個候選Strata固定版本、Qwen原始模型授權、記憶體/vision路徑與文件bench條件;仍未確認作者build與端到端品質。未安裝、下載權重、改Hermes設定、呼叫本機或付費模型,也未讀私人專案或操作桌面。
2026-10-10 固定來源補查:候選版本、硬體與授權
父流程獨立抓取並以SHA-256核對兩個候選repo的README、LICENSE與各兩份技術文件,並重抓Hermes官方local models/computer use頁;十份來源的摘要與子查核一致。這仍是,沒有安裝或推論實測。原貼未提供repo URL,仍不能確認作者使用哪個fork或build。