載入中...
Allen KB Articles
共 4 篇；目前第 1 / 1 頁，每頁 24 篇。
oneday0013 摘要 Knowledge Agents 的核心：在小模型外套一層知識框架，將資料整理成 raw 文本、概念文件、論點文件與入門指南，查詢時即時檢索相關資訊注入。實測指出，結構做對時，Qwen 27B 這類可本地運行模型也能在特定知識任務上逼近 Claude Opus / Sonnet / DeepSeek 等前沿模型。
Hugging Face CTO 用 Qwen3.6-27B、llama.cpp 與 Pi coding agent 在 MacBook Pro 上跑本地 coding agent，體感接近 Claude Opus；這代表開源本地模型在日常 coding 任務上的護城河差距正在變淺，但仍要留意公開 codebase、速度與第三方驗證限制。
Shimmy 是用 Rust 寫的單檔本地 LLM API server，主打 OpenAI 相容、低資源佔用、自動探索 Hugging Face / Ollama / 本地 GGUF 模型，適合邊緣運算與輕量開發環境。
OpenAI Privacy Filter 是 Apache-2.0 的 1.5B total／50M active PII token-classification 模型，支援 Transformers.js WebGPU。本次校正多語言與「完全移除」的過度說法，整理台灣資料、local-only 與 LLM 前置脫敏部署邊界。