標籤：qwen

Knowledge Agent：用知識框架讓小模型逼近前沿模型表現

oneday0013 摘要 Knowledge Agents 的核心：在小模型外套一層知識框架，將資料整理成 raw 文本、概念文件、論點文件與入門指南，查詢時即時檢索相關資訊注入。實測指出，結構做對時，Qwen 27B 這類可本地運行模型也能在特定知識任務上逼近 Claude Opus / Sonnet / DeepSeek 等前沿模型。

Iterative-Contextual-Refinements：用 BFS/DFS 式 agentic 工程放大小模型能力

8GB VRAM 跑長上下文本地 LLM：瓶頸正在從顯卡容量轉向記憶體與 KV Cache 調校

Threads 討論 RTX 4060 8GB + 32GB DDR5 筆電跑 Qwen 35B A3B 長上下文的案例。耐人尋味的不是「小顯卡能跑大模型」，而是本地 LLM 的瓶頸正在轉向 KV cache、量化、RAM 頻寬、OS 與 mmap/mlock 等系統調校。

Rapid-MLX：Apple Silicon 本地 AI Engine 開始接近 Agent 工作流需求

Rapid-MLX 是針對 Apple Silicon 的本地 AI engine，基於 MLX 與 Metal/unified memory，主打 OpenAI-compatible API、prompt cache、tool calling recovery、reasoning separation 與多 agent harness 相容。真正價值不是單一速度數字，而是讓 Mac 本地模型更接近可用於 agent workflow。

OpenAI Privacy Filter：把 PII 偵測做成本地隱私預處理層，在資料進 LLM 前先脫敏

OpenAI Privacy Filter 是 Apache 2.0 的 PII token-classification 模型，可在本地或瀏覽器執行，偵測姓名、地址、email、電話、日期、URL、帳號與 secret 等 8 類隱私 span，適合作為醫療、法律、客服、金融等 LLM workflow 的前置脫敏層。

Qwen3.6-27B 在 MacBook 上跑 Coding Agent：本地模型正在逼近閉源旗艦的日常編程體感

Hugging Face CTO 用 Qwen3.6-27B、llama.cpp 與 Pi coding agent 在 MacBook Pro 上跑本地 coding agent，體感接近 Claude Opus；這代表開源本地模型在日常 coding 任務上的護城河差距正在變淺，但仍要留意公開 codebase、速度與第三方驗證限制。

Qwen3.5-35B-A3B 蒸餾版：繁中優化、資源更省的推理模型

Qwen3.5-35B-A3B 蒸餾版：繁中優化、資源更省的推理模型

Qwen3.5-Omni：阿里巴巴原生全模態 AI，256K 上下文、Thinker-Talker 雙元架構