載入中...
載入中...
Redis LangCache 在 LLM 呼叫前先搜尋語意相近的既有回答,命中時直接回傳,未命中才呼叫模型並寫回快取。官方主打最高節省 90% API 成本,但實際效益取決於重複率、相似度門檻、TTL、資料隔離與失效策略;目前文件仍標示 preview,社群提到的 15 倍速度應視為情境化宣稱,而非普遍保證。
Threads 轉述 Can Bölük / Stencil 的 /prewalk:昂貴 frontier model 先深入閱讀、建立 todo、並完成第一個 edit,再把完整軌跡交給便宜模型接手。核心洞察是 coding agent 的 token 成本主要在閱讀而非寫入;傳統 /plan 只交接摘要會讓便宜模型重讀整個 repo,反而可能更貴。搜尋結果與相關 repo 轉述 Stencil SWE-Bench Pro 實驗主張:保留約 92–97% frontier pass rate、成本約減半,特定設定下成本降 41%、速度 1.9×。
Jesse Vincent 用 Fable 對 Superpowers 的 subagent-driven development 流程做 autoresearch:36 小時、25 次實驗,找到預先打包 reviewer packet、合併 spec/code review、條件式 Haiku implementer 等成本優化。作者宣稱 wall-clock 快 50%、token spend 降 60%。真正重點不是單一 prompt,而是 AI 已能建立研究 harness、假說紀錄、實驗與自我抓漏流程。