標籤：rag

Cascading Retrieval：用多向量中間層平衡 RAG 搜尋的速度與準確率

Pinecone 文章介紹如何用 cascading retrieval 把 sparse/dense 快速召回、多向量 late interaction rerank、cross-encoder 高精度 rerank 分層，並以 ConstBERT 固定空間多向量表示降低大型 RAG 檢索成本。

LLM Wiki：把 RAG 變成會自我維護的個人知識庫

nashsu/llm_wiki 把 Karpathy 的 LLM Wiki pattern 做成跨平台桌面 app：LLM 不是每次查詢才臨時 RAG，而是持續 ingest 文件、生成 wiki、維護 graph、支援 Obsidian、Deep Research、review、Chrome clipper 與本地 HTTP API / agent skill。

2026 還需要 RAG 嗎？長 context 不是資料系統，MCP 也不是搜尋品質保證

1M context 讓少量固定文件更容易直接塞進模型，但多文件、頻繁更新、可追溯、可控成本與權限治理仍需要 RAG/檢索層。2026 的重點是把 RAG 從向量搜尋升級成資料工具鏈。

LINE 對話第二大腦：用 Obsidian + QMD 動態 RAG 把客戶閒聊變成需求線索

整理兩則 Kai Chen Threads 案例：寵物店與木工服務如何把 LINE 零散對話寫入 Markdown/Obsidian，再用語意搜尋、全文搜尋與 Claude 推理出未明講需求。重點不是硬上 vector DB，而是把客戶記憶、schema、隱私與推薦倫理做好。

Direct Corpus Interaction：當 Agent 夠強，最好的 Retriever 可能是 grep 與原始語料互動

Threads 貼文介紹 Direct Corpus Interaction（DCI）：讓 agent 直接用 bash、grep、檔案讀取與輕量腳本搜尋原始 corpus，而不是把所有需求壓縮成一次向量相似度查詢。本文核對 arXiv 摘要與 DCI-Agent-Lite GitHub 後整理其意義：DCI 不是宣告 RAG 死亡，而是指出 agentic search 的瓶頸可能在「介面解析度」；當模型能提出假設、局部驗證、反覆修正查詢時，固定 retriever 反而可能太窄。

Agentic Era 的新瓶頸：不是訓練模型，而是讓 Agent 長時間工作

Threads 貼文指出，Agentic Era 的基礎設施瓶頸會從模型訓練轉向長時間執行：files/RAG、context/memory、MCP tools、sub-agents 與 orchestration 會推高 RAM、CPU、storage 與 runtime compute 的重要性。

1M Token 時代，RAG 不是退場，而是重新分工

Threads 貼文回應「Claude 都 1M token 了，RAG 是否退場」：長上下文降低了部分 chunking 與檢索痛點，但 RAG 在成本、更新、權限、可追溯性與大規模知識治理上反而更重要。

JPMorgan Ask David：企業級 AI Agent 的關鍵不是聊天，而是評估、分工與人類最後一哩

Threads 轉述 JPMorgan 在 LangChain Interrupt 分享的 Ask David 系統：它用 supervisor + specialized agents 結合結構化資料、RAG、專有分析模型、LLM judge 與 human-in-the-loop，服務投資研究場景。

PDF 轉 Markdown 不只是省 token：MarkItDown 的真正價值是可除錯、可複用、可索引

Threads 討論釐清 MarkItDown / PDF 轉 Markdown 的核心價值：轉換由工具本地執行，不是先讓 AI 讀 PDF；Markdown 可除錯、可複用、可切 scope，適合長期知識庫與 agent workflow。

Chandra OCR 2：把複雜 PDF、表格與手寫文件轉成可餵給 RAG 和 Agent 的結構化文本

Chandra OCR 2 的重點不是單純辨識文字，而是把 PDF、掃描文件、表格、公式、手寫表單等保留結構後轉成 Markdown/HTML/JSON，降低 RAG 與 Agent 文件處理的清洗成本。

替 Karpathy 的 LLM Wiki 補上一層『原子』：真正有價值的，不是只有先做 Wiki，而是先把素材萃成可驗證、可增量更新的事實層

這篇最值得記的，不只是作者自己跑了一次 LLM Wiki，而是他在 Wiki 與原始素材之間補了一層『原子』，把事實萃取、分類與重建成本控制變成系統設計的一部分。

Karpathy 的 LLM Wiki 並沒有殺死 RAG：它真正做的，是把『湊資訊』的單位放大、把理解錨點固定下來，而不是讓檢索問題消失

這篇反駁型 Threads 最值得記的，不是單純喊『RAG 沒死』，而是它指出 Wiki 派與 RAG 派在本質上都還是在處理同一個問題：如何把零碎資訊整理成模型可用的上下文，只是抽象層次不同。

大多數「個人 AI 知識庫」都在做白工：真正的護城河不是工具，而是資料稀缺性

這則 Threads 最值得記錄的，不是反對 AI 知識庫，而是把判準講清楚：如果你丟進去的資料本來就在網路上隨手可得，那你多半只是在重建模型早就知道的東西。真正值得結構化的，是私有、付費、難取得、具專屬性的資料。

MSA（Memory Sparse Attention）：端到端可訓練的 1 億 Token 長上下文框架，2 張 A800 就能跑

MSA（Memory Sparse Attention）：端到端可訓練的 1 億 Token 長上下文框架，2 張 A800 就能跑

Dokis：RAG 幻覺的 Runtime 終結者——每個 AI 結論都能追溯到原始來源，不需要 LLM 呼叫

Dokis：RAG 幻覺的 Runtime 終結者——每個 AI 結論都能追溯到原始來源，不需要 LLM 呼叫

你的 RAG 看起來很強，但其實跟亂猜差不多：ICLR 2026 新指標 Bits over Random

你的 RAG 看起來很強，但其實跟亂猜差不多：ICLR 2026 新指標 Bits over Random

Mintlify 虛擬檔案系統：當技術文件檢索不再等於向量搜尋，讓模型自己 grep/cat/find