載入中...
載入中...
Dream-RSI 不微調底層 Gemini 權重，而是把已完成的 discovery tree 變成可重播的 simulator，讓 policy-development agent 在歷史分支上低成本測試探索策略，再把較好的 policy 部署到下一輪真實搜尋。論文中的 162× 是 Lasso 任務以 317 次 discovery-agent calls 對比 SimpleTES 的 51,200 generations，不是所有 AI 任務、總算力或模型訓練都一律降低 162 倍。
Threads 轉述 Diogo Almeida 對 Kimi K3 是否蒸餾 Anthropic 的技術拆解：產業常把 distillation 混用成任何模仿。嚴格來看，logit distillation 需要老師模型機率分布，商業 frontier API 通常拿不到；behavior cloning 是模仿完整 token / reasoning trace，但現代 reasoning model 隱藏 chain-of-thought；剩下的是 behavior parroting：只模仿最終輸出。即使沒有思考軌跡，最終文字仍可能帶有推理風格與 token-level bias，因此仍可能轉移能力，但它是近似值的近似值。