AI agent 的記憶該放哪裡?從 Markdown、SQLite 到 LLM Wiki
偏好、對話歷史與整理後的知識,需要不同的讀寫方式
剛開始用 AI agent 寫程式時,我沒有特別在意記憶這件事。只要工作留在同一段對話裡,它還記得前面做過的決定,也知道我剛才否決了哪個方案,感覺一切都沒問題,直到我關掉對話,隔天開啟新的工作階段之後。昨天已經決定不用的工具又被提了一次,commit message 的格式要重新交代,做到一半的工作也得花時間說明。
我最早的處理方式很直覺,把這些內容寫進 MEMORY.md,每次開始前讓 agent 讀取。這個方法一開始確實有用,新對話終於不必每次都從頭建立背景知識。
但我把這個方法放進三個專案跑了兩個月後,一份檔案開始同時裝著長期規則、短期進度與知識整理。它們都被叫作記憶,保存期限和使用方式卻不一樣。
這時我才把 LLM 與 AI agent 分開看。LLM 負責理解文字與產生回答;AI agent 則是包住 LLM、能儲存資料與呼叫工具的完整系統。跨對話記憶由外層系統保存,再於適當時機交給 LLM。
Hermes 把精選資訊放進 Markdown,完整對話則存進 SQLite;Andrej Karpathy 的 LLM Wiki 讓 agent 持續整理讀過的資料。
我的三層協定處理的範圍比較小,分成持久記憶、工作階段摘要與啟動讀取。第一層保存長期規則,第二層記錄近期進度,第三層規定新對話要載入哪些檔案。把這些案例放在一起,可以看出不同記憶各自需要的讀寫方式。
