---

title: 從小說到 codebase，AI 都在遇到同一堵牆：context window 不夠，必須外接結構化記憶 date: 2026-04-08 source: https://www.threads.com/@haochianlai/post/DW2mVKiD0tO category: articles tags:

• Knowledge Graph
• Structured Memory
• Context Window
• AI Writing
• Codebase Understanding
• Graphify created: 2026-04-08 updated: 2026-04-08

---

從小說到 codebase，AI 都在遇到同一堵牆：context window 不夠，必須外接結構化記憶

概要

這則 Threads 很有意思，因為它把兩個看似完全不同的場景——長篇小說生成 與 codebase understanding——收斂到同一個根本問題：

context window 永遠裝不下完整歷史，AI 要穩定做長時程工作，就必須有結構化的外部記憶。

作者描述自己用 知識圖譜（knowledge graph） 讓 AI 寫長篇小說，解決了幾個典型痛點：

• 角色不會失憶
• 伏筆不會斷線
• 世界觀中的數字、設定、關係能保持一致

同時，他也看到 Safi Shamsi 的 Graphify 在用同樣思路做 codebase understanding。兩者雖然分屬內容創作與軟體工程，但指向同一個本質： 不是模型不夠聰明，而是缺了一層可被維護、查詢與追蹤依賴的記憶結構。

這篇真正的重點

1. 長篇任務的失敗，常不是推理不夠，而是記憶結構不對

很多人第一直覺會把 AI 長篇小說寫不好，歸因於：

• 模型不夠強
• context 太短
• prompt 不夠完整

但作者指出的其實是更根本的問題：

如果系統沒有把角色關係、世界設定、時間線、伏筆依賴、已發生事件等資訊外部化，模型每次其實都在用有限上下文重新猜。

於是就會出現：

• 角色性格漂移
• 已經講過的設定被推翻
• 支線忘記收
• 數值與規則前後不一致

這個問題在 codebase 也一樣：

• API 關係忘了
• 模組邊界混掉
• 歷史決策上下文遺失
• 相依影響範圍判斷錯誤

換句話說，創作和工程其實共享同一種長時程一致性問題。

2. Knowledge graph 的價值，不只是存資料，而是維持關聯

這篇最值得 Allen KB 記的點，是它 implicitly 強調了一件事：

真正重要的不是把資料塞進外部記憶，而是把「關係」也結構化。

在小說裡，關係包括：

• 誰跟誰有什麼關係
• 某個事件引出了哪些伏筆
• 哪些世界規則限制了角色行為
• 哪個數字或設定在哪裡被引用過

在 codebase 裡，關係包括：