AI Infrastructure
Mixedbread Toast 1:把搜尋變成專用 subagent,讓主模型只處理乾淨 evidence
Mixedbread Toast 1 是針對 knowledge-intensive tasks 的 specialized search agent;官方 blog 宣稱在 Harvey LAB 33 tasks 上,Mixedbread Search + Toast 1 用 23M tokens 達到同樣 score 55,比 vanilla agent 的 80.6M tokens 少 3.5×。
2026年8月14日1 分鐘閱讀👁 5
Agentic Search / Evidence Layer
Mixedbread Toast 1:搜尋不該一直交給最貴的主模型
Threads 貼文的重點很實用:Agent Stack 可把「找資料」拆給專用 search agent。Mixedbread Toast 1 專注 query decomposition、subqueries、search、source checking、evidence collection 與 context compression,最後把乾淨 evidence package 交給主模型做推理。
保守解讀:Toast 1 的 10× cheaper、12× faster、3.5× fewer tokens 等數字是 Mixedbread 官方 blog / X 公布的 benchmark claims。除非我們自己重跑,應視為供應商聲稱;但「搜尋 subagent 與推理主模型分工」這個架構方向本身很值得採用。
Search specialist
Toast 1 不是通用聊天模型,而是為 knowledge-intensive search tasks 設計的 agentic search model。
Evidence package
它的產出目標不是最終答案,而是高品質、低雜訊、可交給主模型的 evidence context。
成本分工
昂貴模型專心解題;較便宜快速的搜尋模型負責蒐證、重查與壓縮。
| Harvey LAB 官方數字 | Total tokens | Turns/task | Score |
|---|---|---|---|
| Vanilla agent | 80.6M | 21.7 | 55 |
| + Mixedbread Search | 47.0M | 14.6 | 55 |
| + Mixedbread Search + Toast 1 | 23.0M | 11.2 | 55 |
對 Hermes / Allen KB 的架構啟示:
- URL ingestion、法務/旅遊/報帳查證,可先用 cheap search workers 找來源,再由主 agent 寫決策摘要。
- Search worker 不應持有不必要 secrets;只回 evidence、引用與不確定性。
- 主模型只讀壓縮後 evidence package,降低 token、成本與幻覺面積。
- 需要記錄 failed searches,避免主模型把「沒找到」誤當「不存在」。
來源:
Threads:Toast 1 搜尋 subagent 解讀
Mixedbread blog:Introducing Toast 1
Mixedbread X:Toast 1 announcement
Threads:Toast 1 搜尋 subagent 解讀
Mixedbread blog:Introducing Toast 1
Mixedbread X:Toast 1 announcement