---

title: 本地小模型真正缺的可能不是更大參數，而是 Harness：誰能守住規則，誰就能撐住 agent date: 2026-04-09 source: https://www.threads.com/@sexart_kh/post/DW3EXwDEbc2 category: articles tags:

• Gemma 4
• Local Models
• Harness
• Context Rot
• AI Agents
• Small Models created: 2026-04-09 updated: 2026-04-09

---

本地小模型真正缺的可能不是更大參數，而是 Harness：誰能守住規則，誰就能撐住 agent

概要

這則 Threads 的核心觀點很直白：

本地模型（例如 Gemma 4）真正的短板，未必只是模型不夠強，而是長對話後會發生 context rot——規則被洗掉、任務框架流失、agent 開始像失憶一樣亂做事。

作者認為，真正值得注意的是 Harness 這一層：

• 如果每一輪都能確保關鍵規則不丟失
• 能讓 agent 持續記得「怎麼做」與「不能做什麼」
• 那小模型在本地長時程任務中的可用性，可能會被重新定義

這篇真正值得 Allen KB 記錄的，不只是對 Gemma 4 的期待，而是它指出：

本地 agent 的下一個突破點，可能不在模型本身，而在 context-preservation / harness layer。

這篇真正的重點

1. 小模型常常不是「不會」，而是「後來忘了」

很多本地模型在一開始看起來都還不錯：

• 規則講清楚時能照做
• 任務範圍小時也能穩
• 前幾輪表現甚至很像可用 agent

但一旦：

• 對話拉長
• 任務變多步
• 上下文越來越長
• 新資訊不斷蓋上來

就開始出現熟悉的症狀：

• 忘記先前規則
• 忘記任務要求
• 忘記格式與約束
• 開始胡亂發揮

也就是說，很多時候不是模型不具備能力，而是它撐不住上下文衰變。

2. Harness 的價值，在於每輪都重建「行為邊界」

這篇最值得記錄的洞察，是它把焦點從模型能力移到控制層。

如果 Harness 能做到：

• 每輪自動注入關鍵規則
• 固定保留任務骨架
• 避免重要 instruction 被最新訊息沖掉
• 動態維持 agent 的操作邊界

那 agent 的穩定性就不再完全綁在模型原生 context 記憶上。

這其實是一個很重要的設計轉向：

不是期待模型永遠自己記得，而是讓系統幫它持續記得。

3. 本地 agent 的進步可能會先來自 orchestration / memory engineering，而不是純模型升級

這篇真正有價值的地方，是它提醒一件事：