PageIndex 樹狀 RAG：免向量資料庫、Flash 建索引與本機／雲端成本界線

社群主張與留言

原帖介紹先建文件目錄樹，再由 LLM 選擇應讀章節的 RAG，並提醒額外模型呼叫及延遲。可見留言追問「沒有清楚章節怎麼辦」「不是仍要 token」，以及對法規／手冊查詢的興趣。這些是實用問題，不是測試結果；已保存可見回覆，coverage 為 partial，推薦串的其他 PageIndex 評論不算原帖留言。星數僅是社群當時快照，不作正確性或成熟度證據。

第一方實作：樹索引與推理式取用

本次固定 VectifyAI/PageIndex commit 50a71b686d0397df7cb193c33806eb035574b890，pyproject 標示 SDK 0.2.10、Python 3.10+、Alpha，根目錄 LICENSE 為 MIT。README 的兩步是建立文件階層索引，再讓模型沿樹檢索。索引包含節點、頁碼範圍與可選摘要，回答仍需要讀取實際文件證據，而不是只依目錄標題作答。

「不切塊」較精確的意思是不用固定大小的向量 chunk 作為必要索引單位；並不代表不按章節、節點或頁面分組，也不是任何文件都能整份塞入模型。設定檔仍有節點頁數及 token 規劃。相似度不等相關，是專案的問題意識，不能因此把所有向量／混合 RAG 都寫成只比關鍵字、無法保存章節或不能回傳引用。

重要更新：Flash 建樹不一定要模型

PageIndex Flash 文件指出原始階層可用 PDF 版面統計建立，不呼叫 LLM；摘要與部分優化才需要模型。原始樹的 summary=False、optimize=False 路徑，不能與 SDK 完整預設工作流混稱。local_api.py 的 Flash 路徑實際啟用 summary=True，且可做樹優化與文件描述；查詢又是另一個模型工作階段。因此「向量不要錢」並不等於這套流程零 API 成本。

沒有乾淨章節、掃描件與大量文件怎麼辦？

Flash 會辨識版面與嵌入目錄，toc_source 區分 detected、bookmarks、hybrid；若抓不到階層，可退回每頁一節點的 pages。文件超出其 flat-tree 門檻時，本機 client／CLI 會拒絕這種結果，不能假設總能得到好樹。完全沒有可讀文字則回 unreadable。這是有條件的退化與拒絕機制，不是證明亂格式文件也能準確問答。

README 將 Local 定位為文字型 PDF，Cloud 則提供託管解析、OCR、圖像理解與儲存；本機未提供相同的 OCR／圖像能力。PageIndex File System 的跨語料樹層被列為 Cloud-only，也不能把雲端數百萬文件宣告直接套到 pip 安裝的本機單份文件流程。

本機模式不等於推論不出機

Local 的解析與文件儲存可以在自己的環境，但 README 範例仍設定供應商 key；local_chat.py 可透過 OpenAI／LiteLLM 等後端執行模型工作。若模型是外部 API，摘要、取用文字與問題可能被送往該供應商，必須另核服務條款與資料政策。Cloud 模式則另外把索引與資料交給 PageIndex。只有逐段資料流核對後，才可判定特定部署是否離線或符合客戶資料要求。

README 另提供 Claude 訂閱路徑，但用量由既有方案承擔，不是免費無限；MIT 只涵蓋程式授權，不含模型服務、託管容量、OCR 費或素材授權。本次沒有傳送任何私人文件或使用帳號額度。

精準與速度：不能只看一句「比向量慢但更準」

多步模型檢索通常增加網路與推論工作，卻不能不指定模型、文件、並發、快取與步數就斷言每次都比某種向量服務慢，或每個問題都更準。README 的 OSS benchmark 是特定文字型 PDF 查找任務；FinanceBench 的 Mafin 系統成績又是另一組供應商評測，不能當任意文件與預設 SDK 的準確率保證。本篇未重跑其 benchmark，也不將 README 成本或速度數字當自己的實測。

編輯建議：用同一批真問題做小型對照

適合優先評估的任務，是有可追溯頁碼的長手冊、報告或結構文件；這是候選選擇，不是金融／法律／醫療答案可直接採信。先選公開或合成文件，對照現有檢索與樹檢索的引用正確性、漏答、找不到時是否承認、跨頁表格、掃描件及跨文件題。總成本要含一次建索引、每題模型呼叫、重試與文件更新重建；延遲則分冷暖狀態與首字／完整答案。

權限、文件版本、資料刪除、提示注入與審計仍需在外層設計；換掉向量資料庫不會自動解決。索引引用也要核對原頁，避免摘要偏差一路傳到答案。本次未安裝 SDK、下載模型、執行文件問答、接入 MCP 或修改現有知識庫架構。