Knowledge Agent：用知識框架讓小模型逼近前沿模型表現

Knowledge Agent × Structured RAG × Small Models

當知識架構做對，小模型也能逼近前沿模型

這則 Threads 摘要了一個很重要的 AI agent 方向：與其只追模型大小，不如在模型外建立高品質知識框架。當檢索、文件分層與入門指南設計得好，任務表現可能被拉到同一條線，讓可本地跑的小模型在特定領域追上昂貴前沿模型。

保存重點：Knowledge Agent 的核心不是「多塞文件」，而是把知識整理成 agent 可使用的結構：原始萃取、概念條目、跨主題論點與定位指南。這讓 retrieval 回來的內容更像人類研究助理整理過的材料，而不是亂抓片段。

文件層	作用	類比
原始萃取 raw 文本	保存原始資料與證據	資料庫 / 原始筆記
概念文件	把主題整理成百科式條目	知識卡片 / wiki
論點文件	跨主題綜合、比較、形成觀點	研究 memo / synthesis
入門指南	讓 agent 知道領域地圖與查詢方向	新研究員 onboarding guide

原文提到的實測訊號

模型差距被知識框架縮小

作者用泰國央行跨領域問題實測，對比 Claude Opus、Sonnet、DeepSeek 與本地 Qwen 27B；當知識框架可用時，模型表現被拉近。

成本可大幅下降

embedding 可用本地 BGE-M3 或 OpenAI 小模型，幾千份文件成本不到 1 美元；若推論也改本地，月帳單可從 2000–3000 美元降到接近零。

檢索輪數不是越多越好

多輪檢索實測最多三輪效果最好；過多輪可能增加雜訊、延遲與成本。

為什麼這對 agent 很重要

很多 agent 失敗不是模型不夠聰明，而是它拿到的 context 太碎、太淺、太像搜尋結果。Knowledge Agent 的想法是先把知識加工成不同抽象層次，再讓模型在需要時取用。這和 OpenAI Kepler、企業資料代理、技能系統、Obsidian / KB 型 agent 都指向同一件事：模型只是推理核心，真正的護城河在可維護的知識結構。

對 Allen KB / Hermes 的啟發

Allen KB 不只保存文章，也可以為高頻主題生成「概念文件」與「論點文件」。
技能 SKILL.md 可視為入門指南，讓 agent 快速定位任務邊界與工作流。
session_search / memory / skills 若再加語意檢索與分層摘要，可以更接近 Knowledge Agent。
本地小模型若搭配高品質 KB，適合做低成本初篩、摘要、分類與資料整理；昂貴模型留給決策與高風險輸出。

結論：模型大小會繼續重要，但在知識密集任務裡，文件結構、檢索品質與 domain onboarding 可能比模型排名更決定最終表現。

Source: Threads / @oneday0013；延伸原文：Knowledge Agents: Beat Frontier Models with Better Structure