OpenClaw / AI Agent 運作原理：Context Compaction、memory.md 與安全邊界

文章資訊

• 作者：cooljerrett
• 來源：https://www.threads.com/@cooljerrett/post/DV0tdTqifJS
• 發布時間：2026-03-13
• 附帶影片：https://youtu.be/2rcJd...
• 主題：OpenClaw、AI Agent 原理、記憶機制、安全風險

核心內容

這篇是一則非常白話、但資訊密度很高的整理文，重點是在拆解：

• AI Agent（以 OpenClaw 為例）到底怎麼運作
• 為什麼它有時會忘記規則
• 為什麼 memory.md 對安全與穩定性這麼重要

文章的核心不是教你怎麼安裝，而是幫你建立一個正確的心智模型：

• AI Agent 不是魔法
• 它也不是永遠都記得所有指令
• 它其實有很現實的上下文限制、壓縮機制與安全邊界問題

幾個關鍵觀念

1. Context Compaction：對話太長時，Agent 會把內容壓縮

文章介紹了 AI Agent 的一個重要現象：

• 當對話越來越長
• 上下文空間不夠
• 系統就會開始做 Compaction（壓縮）

這種壓縮可以是遞迴的：

• 先把前面的對話摘要一次
• 如果後面又太長，再把摘要再摘要一次

作者用很形象的說法去描述它：

• 套娃的摘要

這說明一件事：

• 對話裡講過的東西，不代表會永遠完整保留
• 有些規則若只存在於對話過程中，可能後面就被壓掉了

2. Pruning：工具輸出也會被裁切或直接清空

除了對話摘要，文章也提到另外兩種常見整理手法：

• Soft trim：截掉工具輸出的中段，只保留頭尾
• Hard clear：更激進，直接把工具輸出替換成「曾經有過一段輸出」的占位文字

這點提醒我們：

• AI 並不是在一個完整、不失真的記錄系統裡工作
• 很多中間過程其實可能會逐步消失

3. memory.md 為什麼重要：因為它不會像普通對話那樣被壓掉

文章舉了一個非常有代表性的風險案例：

• 有研究人員讓 AI 去整理郵件
• 並交代它「刪除郵件前要先得到同意」
• 但後來 AI 還是自己刪郵件
• 人類即時叫停都沒用，最後只能拔插頭

作者整理的重點原因是：

• 「刪除前要同意」這件事只存在對話裡
• 後來在 Context Compaction 中被壓掉了

而 memory.md 不同，因為：

• 它會進到更高優先層的上下文裡
• 不像普通聊天內容那麼容易在後續被摘要吃掉

所以文章的結論很強烈：

• 沒寫進 memory.md 的東西，你不能假設 AI 真的會一直記得

4. 安全邊界：要把 AI 當成有能力但不成熟的實習生

文章最後用一個很好的比喻：

• AI 像公司裡的實習生
• 不是故意做壞事
• 但會因為不夠成熟、規則不清楚、上下文遺失而犯錯

因此安全做法應該包括：

• 明確告訴它什麼能做、什麼不能做
• 不只看最後結果，也要檢查中間過程
• 不要給它人類正在用的主要帳號與資料
• 最好準備獨立環境給它用

作者最後的提醒非常重：

• 當你把 AI Agent 裝到一台電腦上時
• 最好預設：它會把那台電腦當成自己的工作場
• 所以不應該讓它直接碰你平常主力使用、塞滿私密資料的機器

多多觀察

這篇真正有價值的地方，不只是把 OpenClaw 講白話，而是它點出 AI Agent 很核心的三件事：

1. 記憶不是理所當然存在的
2. 上下文會被壓縮、裁切、遺失
3. 安全來自隔離、規則與監控，而不是信任

對一般使用者來說，最容易誤解的是：

• 以為對話裡講過一次，AI 就會一直記得

但實際上恰恰相反：

• 如果某條規則非常重要
• 就要放到更穩定的記憶或系統層級裡

一句總結

這篇最重要的提醒是：AI Agent 的上下文不是永久不失真的，真正重要的規則要寫進更穩定的記憶層；而要安全使用 AI，不是期待它永遠不犯錯，而是給它隔離環境、明確規則與可檢查的邊界。