Human-in-the-loop：AI Agent 工作流裡，人該留在哪些關卡？

Human-in-the-loop 不是每一步都按確認。用可逆性、權限與後果判斷，讓 AI 處理低風險工作，人保留目標與不可逆決策。

本文整理 Anthropic／Claude 公開的工程與產品文件，並加入 Gwarket 對可驗證 AI 工作流的分析；不是 Anthropic 官方文件或產品承諾。

人們談 human-in-the-loop 時，常把它理解成「每一步都要按確認」。但如果所有動作都要人逐一批准，AI 只是把原本的工作換成更多按鈕。

真正要保留給人的，不是所有步驟，而是目標、價值、不可逆決定與責任。

先用可逆性劃第一條線

可逆、低風險、可被記錄的動作，通常適合交給 AI：整理資料、提出摘要、建立候選稿、執行可重跑的檢查。

難以回復、會影響他人、會動用金錢、權限或公開聲譽的動作，則應該有人工確認：發送對外訊息、修改正式資料、刪除內容、發布、付款、變更存取權限。

這不是不信任 AI，而是承認系統不知道你願意承擔什麼後果。Anthropic 對 agent 安全的說明也將人類控制、透明度、互動安全與隱私列為核心原則。

中間那些可被明確描述的步驟，才是 AI 最適合承接的部分。

最糟的設計是讓人面對一個模糊的「是否批准？」按鈕，卻看不到 AI 根據什麼做判斷、會改動什麼、有哪些未知項。

好的關卡要讓人看見足以做決定的資訊：待執行動作、影響範圍、來源與不確定性、可否回復，以及不批准時有哪些選項。這時人不是流程中的橡皮圖章，而是承擔判斷的位置。

很多人擔心：只要保留人工確認，AI 就不夠自動化。這其實混淆了「介入頻率」與「決策權」。

好的設計是讓 AI 在低風險區間連續工作，在碰到門檻時才帶著足夠資訊回來。人不需要審核每一個搜尋、每一段草稿或每一次格式整理；但當系統要把候選稿寄給客戶、覆蓋正式資料、公開發布或執行不可逆變更時，人必須能看見並拒絕。

這種設計的關鍵是把關卡放在「後果改變」的地方，而不是放在每一個工具呼叫前。前者保留人的主導權，後者只會製造疲勞。

同一個 agent 不必永遠有同樣權限。一個研究角色可以是唯讀的，只能取得與整理資料；一個草稿角色可建立候選文件，但不能改正式版本；只有在人的明確認可後，才由具備相應權限的流程執行外部動作。

這樣的分層也有一個實際好處：當結果出問題時，你能更容易知道是資料、推理、內容、權限還是執行步驟出了問題。若所有角色都能做所有事，出錯後往往只能看到一團模糊的對話。

把「人類介入」理解為在關鍵決策點恢復上下文。AI 可以把選項、依據、風險與建議整理好；人則根據那些資訊，決定哪個風險值得承擔、哪個目標更重要。這件事不是模型能力不足的暫時替代，而是責任本來就不能被自動化的部分。

內容特別容易被誤以為可以全自動，因為一篇流暢的文字看起來已經像完成品。但真正需要人決定的地方很多：這個題目是否值得佔用讀者注意力？用哪個證據支持會不會超過事實？這個觀點是否代表作者願意承擔的立場？是否已經到了可公開的成熟度？

AI 很適合先做資料整理、角度比較、架構與候選稿；人則應在題目選擇、論點邊界、公開承諾與最終發布上保留決定權。這個切法不只降低風險，也讓作者不會因為把每一句都交給工具，而失去自己的判斷。

好的系統不會只丟一句「請自行確認」。它要把需要確認的理由整理清楚，指出有哪些選項、每個選項會造成什麼後果，並允許人提出新方向。人類關卡的價值不在簽核，而在於系統能否幫助人做更好的決定。

如果一個確認步驟無法讓人理解自己在確認什麼，就應該重設它，而不是要求人更仔細地按按鈕。

有人把人工關卡看成速度的敵人，但真正拖慢工作的，通常是錯誤在公開或不可逆之後才被發現。讓 AI 在低風險環節快速前進，並在後果擴大前停下來，反而能減少返工與溝通成本。

最好的關卡不是阻擋工作，而是把人從瑣碎操作中移開，讓他只在需要承擔判斷時出現。

把 AI 放在可逆、可驗證的工作中；把人放在目標、權限、不可逆行動與結果判斷中。