CLI 也能當 AI agent 的後端
自己做 AI agent,不一定得從模型 API 開始。
現在使用市面上的 AI agent framework,安裝完後遇到的第一個設定,通常就是選擇模型供應商,再填入一組 API key。
這個設計很合理,框架總得知道要去哪裡找模型。但我卡在一個很現實的地方,我本來就在付 Claude 和 ChatGPT 的訂閱費,平常使用 Claude Code 與 Codex CLI 也都包含在方案額度裡。
如果 agent 改走模型 API,等於又多開一條按 token 計費的路徑。技術上沒有問題,但我的錢很有問題啊啊啊。
既然 CLI 已經登入,也支援非互動執行,能不能讓自己的 program 直接呼叫它?答案當然是可以,原本給人操作的 CLI,也能放到 agent 的模型層,成為一種 backend。
把 API client 換成一個 CLI process
一般的 agent 架構大概長這樣:
flowchart LR
USER[使用者] --> APP[Agent program]
APP --> SDK[模型 SDK / API client]
SDK --> API[模型 API]
改用 CLI 後,中間那層換成 OS 裡的一個 subprocess:
flowchart LR
USER[使用者] --> APP[Agent program]
APP -->|啟動 process、傳入 prompt| CLI[Claude Code / Codex CLI]
CLI -->|JSON / 串流事件| APP
CLI --> MODEL[模型服務]
Agent program 啟動 CLI,把 prompt 寫進 stdin,再從 stdout 讀回結構化事件。對 agent program 而言,這和呼叫 SDK 的角色很接近,只是邊界從 function call 變成 process communication。
模型服務背後當然還是存在。這裡省掉的是「自己的 program 直接整合供應商 API」那一層,並非讓模型離線執行。
CLI 憑什麼能當 backend
CLI 平常看起來是人坐在終端機前使用的介面,但 Claude Code 與 Codex 都提供非互動模式,也能輸出 JSON Lines 等結構化格式。
Claude Code 可以用 -p 接收非互動輸入,搭配 stream-json 持續讀寫事件;Codex 則提供 codex exec --json,執行完一個任務後把過程以 JSON Lines 輸出。
這代表 agent 不必模擬鍵盤輸入,也不用從終端機畫面硬拆文字。只要替不同 CLI 做一層 adapter,就能把輸入與輸出轉成自己系統內統一的格式。
更有意思的是,CLI 已經包好不少 API client 原本要自己處理的東西,包括帳號登入、模型選擇、工具設定與本機權限。Agent program 可以專心處理自己的路由、排程和狀態。
Claude 已有 Telegram marketplace plugin,Codex app 也有 Remote,兩者都能讓使用者從手機繼續工作。claude-plugins-official/external_plugins/telegram/README.md at main · anthropics/claude-plugins-official · GitHub、Remote connections - OpenAI
真正麻煩的是 process lifecycle
把 CLI 包進 subprocess 只能算第一步。它開始長時間執行後,就會出現一批 API SDK 不太像的問題。
CLI process 可能卡住、意外結束,或碰到 rate limit。兩個請求也不能同時往同一條 input stream 裡寫,不然回傳事件會混在一起。Agent 得自己處理 timeout、序列化、重啟與錯誤復原。
對話狀態也要納入 backend contract。Claude 回傳 session ID 後,可以透過 claude --resume <session-id> 接回先前的 session;Codex 的非互動模式也提供 codex exec resume。兩邊都有續接能力,命令格式與生命週期卻不相同。CLI reference - Anthropic、Non-interactive mode - OpenAI
所以 adapter 除了傳 prompt、收答案,還得管理 CLI process。它要決定 process 什麼時候啟動或關閉;同時收到多個 request 時,先排好順序;也要保存 session ID,讓 process 掛掉或重啟後能接回原本的對話。這些行為都得寫在 adapter 裡,模型不會幫你處理。
訂閱帳號也能沿用
我會走這條路,還有一個很現實的原因。我本來就在付 Claude 與 ChatGPT 的訂閱費。
Claude Code 和 Codex CLI 都能使用訂閱帳號登入。只要使用量還在方案額度內,透過 CLI 執行的任務就不會另外產生一張 API key 的按量帳單。Codex 官方文件也把 ChatGPT 登入與 API key 列為不同的驗證和計費方式。Authentication - OpenAI、Pricing - OpenAI
這不等於免費。訂閱本身要付費,也有 rate limit 與使用上限;CLI 背後照樣會連到模型服務。比較準確的說法是,我沿用訂閱方案內含的使用額度,沒有讓自己的 agent 另外走 API key 計費。
什麼時候不該這樣做
CLI backend 很適合本機、單人,而且本來就在使用訂閱版 CLI 的情境。離開這個範圍,代價會逐漸浮現。
CLI 版本更新可能改變事件格式,登入狀態也不適合複製到大量伺服器。正式服務需要多人共用、成本歸戶、穩定併發或 CI 自動化時,直接使用 API 通常比較容易管理。
它也會讓 agent 多出 process management 的責任。如果你的 program 只是偶爾呼叫一次模型,為了省一層 API client 卻加上 supervisor、timeout 和 session recovery,可能反而繞了遠路。