thread
本地龍蝦玩法:OpenClaw + Qwen3.5-35B-A3B 的部署原則
本地龍蝦玩法:OpenClaw + Qwen3.5-35B-A3B 的部署原則
2026年4月5日2 分鐘閱讀👁 2
本地龍蝦玩法:OpenClaw + Qwen3.5-35B-A3B 的部署原則
文章資訊
- 作者:dseditor
- 來源:https://www.threads.com/@dseditor/post/DVze1OtEoUy
- 發布時間:2026-03-13
- 觀看數:1.3K
- 社群反應:28 讚、4 回覆、2 引用、23 分享
核心內容
作者分享他對「本地龍蝦」玩法的理解,也就是:
- OpenClaw + Qwen3.5-35B-A3B
他認為本地部署要能玩得起來,核心不在表面功能,而在底層部署方式與速度門檻。
作者給出的兩個核心原則
1. 模型部署:直接用 llama-cpp,不要疊中介層
作者的建議非常強硬:
- 直接部署 Qwen3.5-35B-A3B GGUF
- 量化建議:IQ4_NL
- 原因:要保留足夠空間給上下文
- 不要透過中介層
- 目標速度:150 token/s 以上
ContextWindow一開始就開到:131072 以上
作者特別點名:
ollamawsllmstudio
在這個場景裡,他把這些都視為不夠格的中介或包裝層,認為真正要打到高效能,應該直接上:
- llama-cpp 原生 Windows EXE
他的核心觀點很簡單:
- 如果吞吐量不夠快
- 上下文不夠大
- 那本地模型就只是能跑,不是能打
2. 搜尋層:部署 SearXNG,不要亂用無頭爬蟲
作者第二個原則是:
- 搜尋能力要獨立部署
- 建議直接上 SearXNG
而不是:
- 用無頭瀏覽器亂爬
- 把搜尋任務混成不穩定的 scraping workflow
他給 Windows 使用者的建議是:
- 安裝 Docker
- 把 SearXNG 丟進 Docker
- 接到 OpenClaw 能用為止
作者的整體判斷
作者認為本地龍蝦真正的核心任務是兩塊:
- 搜尋
- 對話
其他能力則比較像:
- 透過 skill 逐步補上
- 但這些 skill 必須自己堆、自己調、自己磨
- 不會像大模型那樣,直接就能把工具 / skill 撈起來自然工作
換句話說,這篇的中心思想不是「OpenClaw 很萬能」,而是:
- 你得自己把底層能力堆穩
- 本地模型工作流才會真的好用
多多觀察
這篇的價值在於,它不是在講「本地模型很浪漫」,而是在講一個很務實的部署觀:
- 本地 agent 要好用,不只要模型能跑
- 還要有:
- 足夠吞吐
- 足夠上下文
- 穩定搜尋層
- 自己調過的 skill 結構
這跟雲端大模型的體驗差異很大。
雲端大模型很多時候是:
- 開箱即用
- 工具能力整合較成熟
但本地龍蝦更像:
- 自己搭槍
- 自己上彈
- 自己校準
- 自己保養
需要保留的懷疑點
這篇是很強烈的實戰觀點,但裡面仍有幾個需要注意的地方:
- 150 token/s 對多數人來說門檻不低
5090、Windows 原生llama-cpp、131072 context 這些都偏高配與偏調校導向- 把
ollama / WSL / LM Studio一概打成「玩具槍」,是很鮮明的立場,但未必適用所有人
也就是說:
- 這篇更像是 性能取向玩家的部署哲學
- 不是所有使用者都需要照單全收
一句總結
這篇的核心不是「OpenClaw 怎麼玩」,而是作者認為:本地龍蝦真正能打的前提,是用 llama-cpp 直上高吞吐大上下文模型,再配穩定的 SearXNG 搜尋層,其他能力才值得慢慢往上堆。