載入中...
載入中...
oneday0013 摘要 Knowledge Agents 的核心：在小模型外套一層知識框架，將資料整理成 raw 文本、概念文件、論點文件與入門指南，查詢時即時檢索相關資訊注入。實測指出，結構做對時，Qwen 27B 這類可本地運行模型也能在特定知識任務上逼近 Claude Opus / Sonnet / DeepSeek 等前沿模型。
Hugging Face CTO 用 Qwen3.6-27B、llama.cpp 與 Pi coding agent 在 MacBook Pro 上跑本地 coding agent，體感接近 Claude Opus；這代表開源本地模型在日常 coding 任務上的護城河差距正在變淺，但仍要留意公開 codebase、速度與第三方驗證限制。
Shimmy 是用 Rust 寫的單檔本地 LLM API server，主打 OpenAI 相容、低資源佔用、自動探索 Hugging Face / Ollama / 本地 GGUF 模型，適合邊緣運算與輕量開發環境。