pplx-embed-v2-late:OCR-Free PDF 檢索、MaxSim 與 92.4% 的評測邊界
官方固定模型卡支持128維per-token、MaxSim與大小模型共享空間;檢索不等於抽取,MADQA92.4%的完整agent評測條件待補。
來源、圖片與留言
@it.oppa.twhk 原貼 2026-10-09,本次收錄與固定模型卡查核 2026-10-10。三張可見正文圖卡已覆核;AI Threads 社群圖示已排除,不算第四張。作者宣稱 MIT、每 Token 128 維、MaxSim、9B 建庫/0.6B 查詢,以及 MADQA 92.4% 與毫秒級搜尋。可見五則留言,頁面顯示九則,覆蓋部分;其中 @meta.ai 回覆談到召回後再用 Vision LLM 做結構化抽取,但它是 AI 生成留言,不是產品官方證據,更不把 top 3–5 頁當普遍最佳參數。
第一方固定模型卡確認什麼?
- 模型族由 Qwen3.5、bidirectional attention 與 ColBERT 型 late interaction 構成;每個 token 輸出 128 維向量,使用 MaxSim。
- 0.6B 與 9B 共享 embedding space,官方支持小模型 query 大模型建的 index;並非任意兩個 embedding 模型均可混用。
- 官方表列 active params 340M 與 7.4B;0.6B/9B 是型號,不能把 total 與 active 參數混成單一部署記憶體數字。
- 兩個模型卡的 license metadata 為 MIT。本次未下載權重,沒有藉此給文件內容、資料庫或所有依賴其他權利。
- 固定卡示範把已渲染圖像輸入 encode_document;要分開 text-only 與 image-only encoding calls,mixed text+image inputs 在此匯出版本不支援。這與一個向量空間能處理不同來源,是兩件事。
OCR-Free 不等於沒有文件前處理
可以略過以 OCR 文字作為檢索索引的必要步驟,但 PDF 仍需載入、渲染成頁面影像、批次編碼、保存 page_id/原檔定位與建立可處理 multi-vector/MaxSim 的索引。取得相關頁之後,摘要、表格抽取、答案、JSON Schema 與引用仍需另一工作層;純文字索引、BM25 或 OCR 也可能作為混合式檢索的一部分,不能由「OCR-Free」推出全面刪除 OCR。
92.4% 與毫秒主張:仍需完整條件
92.4% 是作者圖卡/正文引用的 MADQA 數字,不把它寫成所有 PDF 檢索成功率。本次官方 blog HTML/browser 被 403/安全驗證擋住;已找到官方搜尋摘要,但沒有用摘要假裝完整評測全文。初次收錄時MADQA完整條件待查;文末2026-10-10後續段已補官方文章恢復副本的Agent配置與答案分母,但原站直接存取仍受限。固定模型卡另列 ViDoRe(v3) Image nDCG@10:0.6B 為 62.3%、9B 為 65.2%;它不是 MADQA 92.4%,也不是自家中文圖表的保證。『毫秒級』缺硬體、索引量、batch、top-k 與端到端延遲條件,未在本次實測。
對企業 RAG 的可操作判斷
- 先做有 page-level 標註的代表文件集,分開檢索召回與生成答案/結構化輸出品質。
- multi-vector 增加 token vectors 數量,需估索引容量、查詢計算量與儲存/壓縮,不能只看每個 vector 的128維。
- 保留 ACL、版本、引用、刪除與來源頁面定位;向量相似不等於已驗證的答案。
- 模型卡 recipe 不等於已部署;本次未安裝套件、下載模型、處理私人文件、產生向量或呼叫付費 API。