多人共用 AI bot,別讓它認錯使用者
多人共用 AI bot 時,身份應該由系統確認,不能讓模型自己提供
試著想像一個故事:小明和小美共用同一個 AI bot。兩人都會請它記住一些事情,可能是待辦、工作筆記,也可能是不想讓對方看到的私人內容。
當小明問「我上次說過什麼?」時,bot 卻把小美留下的內容回傳給他。一次錯誤回答,就變成了私人資料外洩。
這裡要先分清楚 bot 和 AI。bot 是整套應用系統,負責接收訊息,並串起身份確認、工具與資料。AI 是其中負責理解文字、選擇下一步操作的元件。
要避免拿錯資料,bot 必須在把訊息交給 AI 之前,先從聊天平台或登入系統確認訊息是誰傳的,不能讓 AI 自己判斷身分。AI 可以判斷小明想找什麼,但不能決定自己目前是代表小明還是小美。
flowchart LR
U["小明傳來訊息"] --> P
subgraph B["AI bot 系統"]
P["訊息入口<br/>確認是小明"] --> A["AI<br/>理解小明想做什麼"]
A --> T["記憶工具<br/>沿用已確認的身份"]
end
T --> D["只讀小明的資料"]
圖中的 AI 位於 bot 系統裡面,只負責理解需求。訊息入口先確認現在是誰,記憶工具再沿用這個結果查詢資料。把身份也交給 AI 填,它就有機會用別人的身份讀資料。
模型可能誤解對話、受到提示注入影響,或在呼叫工具時填錯資料。身份是權限的起點,不能建立在「模型應該會填對」的假設上。
工具把 AI 填的身份當成真的
我的 bot 只有兩名固定使用者。AI 要讀取記憶時,會呼叫我提供的工具。第一版的工具要求 AI 填入兩個值。
| 欄位 | 代表什麼 | 第一版由誰填 |
|---|---|---|
memory_id |
想讀哪則記憶 | AI |
requester_id |
現在是哪位使用者 | AI |
問題就在第二個值。當小明傳來訊息時,只要 AI 取得小美某則記憶的編號,再把 requester_id 填成小美,工具查到的「記憶主人」就會和 requester_id 相同。
從工具的角度看,記憶主人和提出要求的人都是小美。它沒有收到平台確認的真正身份,因此不知道原始訊息來自小明,權限檢查仍然會通過。
當時的程式碼大概長這樣。
1 | def read_memory(memory_id: str, requester_id: str) -> str: |
程式裡的 if 只確認「記憶主人」和 requester_id 是否相同。由於 requester_id 也是 AI 填的,這個檢查無法確認真正傳來訊息的人。
memory_id 可以由模型選,工具再用可信身份檢查目前使用者是否有權讀取。requester_id 則是認證結果,必須來自聊天平台或登入系統,不能由模型自己聲明。
主要靠 AI 寫程式,也能先檢查三件事
如果你平常主要靠 vibe coding,不必先學會審查每一行程式。請 AI 回答下面三件事,就能找到需要進一步檢查的地方。
追出身份從哪裡來
請 AI 畫出身份從登入或訊息平台,一路傳到工具與資料庫的流程,並標出每個值由誰產生。
一張可用的圖大概會長這樣。
flowchart LR
U["小明傳送訊息"] --> P["聊天平台<br/>確認是小明"]
P -->|"已驗證身份"| B["bot 訊息入口"]
B -->|"訊息內容"| A["AI<br/>理解想做什麼"]
B --> C["伺服器端上下文<br/>保存小明的身份"]
A -->|"想讀哪則記憶"| T["記憶工具"]
C -->|"小明的身份"| T
T --> D["只查小明的資料"]
這張圖有兩條路。AI 提供「想做什麼」,伺服器端上下文提供「現在是誰」,兩者最後在工具會合。
如果使用者身份改成從 AI 流向工具,就代表模型有機會替換身份。身份若來自使用者輸入、提示詞或 LLM 的工具參數,也不能直接拿來做授權。可信來源通常是通過驗證的登入狀態、平台訊息,或伺服器建立的請求上下文。
假設模型能任意填寫工具參數
可以直接把這段要求交給 AI。
假設 LLM 可以任意填寫每個工具參數,找出它跨使用者讀取、修改或刪除資料的所有路徑。
看到 user_id、owner_id、tenant_id 或 requester_id 出現在工具參數中,可以先追查這些值的來源。欄位名稱本身不代表一定有漏洞,重點是模型能否利用它改變自己的權限。
同時測兩名使用者,檢查身份是否混用
許多 AI 產生的範例只測試一名使用者,因此看不出身份混用。請 AI 同時模擬 A 與 B,檢查對話、暫存狀態、工作目錄與請求上下文是否互相影響。
如果實作會修改一個全域的目前使用者,兩個並行請求就可能互相覆寫身份。
系統要在入口確認身份,再一路帶到資料查詢
上面的圖把身份與操作分成兩條路。要讓身份這條路可信,訊息入口還得先驗證來源。
網站要先驗證登入 session 或 token,聊天平台的 webhook 也要先驗證簽章。完成驗證後,訊息入口才把身份綁進伺服器端上下文或專屬執行環境。
工具從這個位置取得身份。LLM 可以選擇操作與資源,例如「讀取這則記憶」,但工具仍會用通過驗證的身份限制資料範圍。
我的兩人版,另外守住執行環境、工具與資料
我的 bot 讓每位使用者各自使用一個長駐 Claude CLI process。訊息入口驗證使用者後,會從伺服器端保存的對應關係找到該使用者的 process。
1 | proc = await asyncio.create_subprocess_exec( |
每個 process 啟動時只收到自己的 DYAD_USER_ID。環境變數不是使用者清單,只表示這個 process 從啟動到結束代表誰。
身份的可信度也不是來自環境變數本身。訊息入口已驗證使用者,再由伺服器啟動對應的 process 並注入身份,這條路徑才是信任來源。
每人一個 process,不代表檔案已經隔離
每位使用者的對話、上下文與 process 生命週期各自分開。小明的訊息只會送進自己的 process。使用者登出或權限被撤銷時,舊 process 也要停止或重建。
cwd 讓相對路徑預設落在使用者自己的資料夾,但它不是檔案沙盒。只要 process 有任意讀檔能力,../B/memory.md 或完整的絕對路徑仍能離開目前目錄。
關掉通用工具,只留下受限功能
Claude CLI 原本帶有 Read、Write、Bash 等內建工具。全部保留時,模型仍能繞過記憶工具,直接讀取其他路徑。
我的 bot 會關掉內建工具,只允許自己設計的 MCP 工具。
1 | claude -p --tools "" \ |
模型只會看到 list_memory、propose_memory、delete_memory 等有限功能。它沒有一般讀檔工具,也沒有命令列可以探索其他目錄。
這層的代價是,每增加一項能力,都要另外設計範圍有限的工具。自訂工具本身也要限制路徑與資料範圍,不能換個名字重新提供任意讀檔能力。
工具使用系統注入的身份查資料
我把身份從工具參數移除。Claude CLI 啟動 MCP 伺服器時,伺服器會繼承 process 的環境變數。
1 | USER_ID = os.environ["DYAD_USER_ID"] |
LLM 只提供 memory_id,工具自行把 USER_ID 加進資料查詢。即使模型知道小美的識別碼,工具定義裡也沒有位置讓它替換目前身份。
四道邊界處理的範圍不同。
| 邊界 | 負責處理 | 單獨使用仍缺少 |
|---|---|---|
| 訊息入口 | 驗證訊息來自哪位使用者 | 不會自動限制工具與資料 |
| process | 分開對話、上下文與生命週期 | cwd 擋不住任意路徑 |
| 工具白名單 | 限制模型可以使用的能力 | 自訂工具仍可能寫錯權限 |
| 資料查詢 | 依可信身份限制實際資料 | 上游必須先正確驗證身份 |
服務更多使用者時,身份要跟著執行環境或請求走
環境變數可以用在更多使用者,前提是一個 process 或容器從頭到尾只代表一位使用者。每建立一個執行環境,系統只注入它代表的單一身份,不需要把所有使用者寫進環境變數。
使用者變多後,可以選擇不同的執行方式。
| 執行方式 | 身份放在哪裡 | 適合的情況 |
|---|---|---|
| 每人一個 process 或容器 | 啟動時由伺服器注入 | 使用者不多,或需要較強的執行隔離 |
| 多人共用 worker | 每次請求專用的伺服器端上下文 | 使用者多,需要共用運算資源 |
共用 worker 不能靠修改全域 CURRENT_USER 切換身份。小明與小美的請求同時執行時,後寫入的值可能覆蓋前一個。
身份要跟著個別請求或非同步任務傳遞。如果 agent runner 與工具伺服器分開部署,這份身份還要透過已驗證的內部連線傳遞,或綁定到伺服器管理的連線與 session。把 user_id 放回模型產生的 JSON,無法取代這段可信傳遞。
公開的多租戶服務還需要正式的登入驗證、授權與租戶資料隔離。資料風險較高時,可以把高風險工具放進短命容器,或使用獨立的作業系統帳號。
Hermes 分開對話,不等於分開資料權限
Hermes Agent 的 Sessions 文件也把使用者資訊放在模型外面。它的 gateway 會根據平台訊息中的聊天室、使用者與討論串等資料建立 session key,再把訊息送進對應的對話紀錄。
私訊會依聊天室分開。平台能提供使用者識別碼時,一般群組會把使用者放進 session key。群組討論串預設讓參與者共用對話,需要逐人分開時,可以開啟 thread_sessions_per_user。
這個設計處理「訊息應該進入哪段對話」,不會自動限制檔案或工具權限。即使小明與小美使用不同 session,兩邊仍可能呼叫接受任意 user_id 的工具。
Hermes 可以作為身份路由的參考,資料授權仍要由工具與儲存層處理。
最後檢查模型能否控制身份或繞過工具
如果 AI bot 會服務多名使用者,可以搜尋工具定義中的 user_id、owner_id、tenant_id 與 requester_id。
這些欄位出現在參數中不一定有錯。資源或工作區識別碼可以由模型選擇,伺服器仍要用可信身份檢查目前使用者是否有權操作。真正危險的是,工具直接把模型提供的值當成已通過認證的身份。
也要檢查模型是否擁有旁路能力。Read、Write、Bash、瀏覽器、資料庫查詢與自訂 MCP 工具,都可能繞過原本設計的記憶 API。
我的第一版沒有漏寫那個 if。我把模型產生的 requester_id 當成通過驗證的身份,才讓檢查看似存在,實際上仍由模型控制。
兩人版可以把身份固定在專屬 process,多人共用的服務可以放進每次請求專用的伺服器端上下文。實作方式會隨規模改變,模型只負責選擇操作與資源,系統負責決定它目前代表誰,以及可以操作哪些資料。