區分代理與聊天機器人的關鍵問題
誰決定接下來要做什麼?
在聊天機器人裡,沒有人決定。你送出一則訊息,模型產生一則回覆,這輪對話就結束了。如果回覆需要後續動作,得由你自己動手寫。模型從不對外在世界採取行動,它只會寫出文字。
在代理裡,是模型自己決定。給定一個目標後,它會挑選一個行動,例如搜尋網路、執行一段程式碼、開啟一個頁面或編輯一份檔案,取得文字形式的結果,讀取它,再挑選下一個行動。它會持續下去,直到自己判斷目標已達成,或是被步驟上限擋下來。模型就是這個迴圈的控制者。
Anthropic於2024年12月發表的工程指南「Building effective agents」,也是在同一個地方畫下界線:工作流程是模型在固定路徑的程式碼裡運作的系統,代理則是模型自行主導流程與工具使用的系統。這份指南也直白地表明,兩者之中應該先建置哪一個,答案是工作流程。
聊天機器人、工作流程、代理:同一個模型,三種不同的迴圈
三者可以跑在同一個語言模型上,差別在於外圍包著什麼。
| 聊天機器人 | 工作流程 | 代理 | |
|---|---|---|---|
| 誰決定下一步 | 沒有人;一則訊息一則回覆 | 開發者寫好的腳本 | 模型自己,根據上一次的結果 |
| 是否使用工具 | 有時候,一輪一次呼叫 | 會,順序固定 | 會,順序由它自己決定 |
| 何時停止 | 回覆一次之後 | 腳本結束時 | 它判斷目標已達成,或碰到步驟上限 |
| 常見的失敗方式 | 答錯 | 某個步驟拿到不好的輸入 | 迴圈亂跑、重複,或提早停止 |
| 每個任務的成本 | 一次回答 | 已知數量的回答 | 完成之前都不確定 |
多數實用的自動化都落在工作流程這一欄。一條先摘要文件、再擷取日期、最後草擬回覆的管線,就是三次順序固定的模型呼叫。它可靠,是因為路徑是開發者決定的。不管落地頁怎麼寫,它都不是代理,把它叫成代理反而模糊了真正的取捨:固定路徑可預測又便宜,模型自選的路徑則靈活,但兩者都算不上兩全其美。
這個迴圈實際上長什麼樣子,一步一步來看
來看一個具體的例子。目標是「查清楚我們的競爭對手這個月有沒有調整定價,然後幫我寫一份兩段的摘要」。
- 模型讀取目標,決定第一個行動:搜尋競爭對手的定價頁面。
- 搜尋工具以文字形式回傳一串結果,模型讀取後挑一個來開啟。
- 瀏覽器工具回傳該頁面,模型從中擷取目前的價格。
- 模型判斷自己還需要舊的價格,於是搜尋存檔版本並開啟它。
- 它比對兩者,判斷資訊已經足夠,寫出摘要。
五個步驟、四次工具呼叫、六次模型呼叫。每一步都是模型的一次完整回答,輸入內容包含到目前為止的整段歷程。這最後一點正是成本的來源:跑到第五步時,模型每次呼叫都要重新讀取四頁份的搜尋結果與頁面文字。什麼是AI裡的代幣解釋了為什麼每一輪都在變大的輸入,會是最花錢的那種。
而且每一步都可能出錯。如果第一步的搜尋找到的是錯誤的公司,第二到第五步就會很有自信地摘要出錯誤的定價。這個迴圈放大錯誤的方式,跟它放大進度的方式一模一樣。設定步驟上限,並在任何動作送出之前安排人工確認,都不是可有可無的選項。
跑一次代理要花多少錢,相較於單一次回答
這筆算術很簡單,但大家常常跳過不算。一次標準回答,輸入1,000個代幣、輸出500個代幣,每個模型的牌價可以在AI模型成本索引查到,OpenRouter費率的擷取日期是2026-08-20。一次20步的代理跑動,至少相當於20次這樣的回答,實際上通常更多,因為輸入量會逐步增加。
在Claude Sonnet 5上跑20步,底價是$0.14,而單一次回覆只要$0.007;在Claude Opus 5上是$0.35,如果每小時都跑一次,換算下來每月大約是$250,這還沒算進逐步變大的輸入所帶來的加成。換算成Whizi點數,同樣的算術可以對照上方的Auto階梯來看:100點數等於在主力模型上進行100次快速提問,或是在GPT-5.6 Sol上進行5次推理回合,所以在推理這一階跑20步的迴圈要花400點,約是2,500點Pro方案一個月額度的六分之一,而同樣的迴圈換成主力模型只要20點。這就是為什麼正確的設計,是把規劃步驟交給強模型,把例行步驟交給便宜的模型,也是為什麼多模型工作空間會是代理工作的自然歸宿,而不是單一模型的訂閱方案。
哪些產品才算真正的代理
會編輯檔案、執行測試的程式編寫助理是嚴格意義上的代理:給定一份錯誤回報,它們會讀程式碼、做出修改、跑測試套件、讀取失敗訊息,再試一次。這個迴圈是真實存在的,而且由模型自己主導。
ChatGPT、Gemini和Perplexity裡的Deep Research模式是代理:它們搜尋、讀取、根據找到的內容再次搜尋,並在自己判斷問題已被涵蓋時停下來。步驟數量會隨問題而變,這正是判斷的關鍵線索。
產品選單裡多數的「代理」其實是人設或工作流程。在模型選擇器裡標示為稅務代理或讀書導師的那一列,通常只是一個固定的系統提示詞,外加一兩個工具。Whizi自己的代理專區對此相當坦白:加拿大CPA那一列是一個預設,強制每一輪都執行網路搜尋,上限為七次搜尋,並配有較大的代幣預算,輸入55,000、輸出40,000。這是一個掛了工具、配了較大預算的人設,而它之所以好用,正是因為路徑是固定的。它不是一個由模型主導的迴圈,Auto路由指南解釋了每則訊息背後究竟是什麼在決定要用哪個模型。
現在的用詞正逐漸把什麼都叫成代理。要考驗一個產品,就問這頁一開始的那個問題:誰決定下一步?如果答案是「一個腳本」或「沒有人」,那你買到的就是工作流程或聊天機器人,而這也可能正是你需要的。
什麼時候該用代理,什麼時候不該用
當路徑無法事先得知時,代理就值回成本:研究工作中第二次搜尋要看第一次的結果,除錯工作中的修法要看測試輸出,瀏覽工作中下一次點擊要看頁面內容。靈活性本身就是價值所在。
當路徑已知時,代理就是錯誤的工具。摘要、擷取、翻譯、重新排版、分類,這些都是一次呼叫或固定順序的幾次呼叫,把它們包進一個迴圈裡,只會增加成本、延遲,以及新的出錯方式,卻不會增加能力。Anthropic那份指南的建議依然成立:先從單一次呼叫開始,一次呼叫不夠時進到工作流程,只有在工作流程持續需要一個你無法預測的分支時,才伸手去用代理。
判斷原則就是:如果你能在動手之前,先在白板上把步驟畫出來,那就不要建置代理。
- 在相信一個產品是代理之前,先問誰決定下一步
- 把代理任務的預算,抓成步驟數乘以每次回答的價格,再為逐步變大的輸入加碼
- 在任何會傳送、購買、刪除或發布的步驟之前,設步驟上限,並安排人工確認
- 規劃步驟用強模型,例行步驟用便宜的模型
- 如果你能事先把步驟畫出來,就改做工作流程
常見問題
AI代理跟聊天機器人有什麼不同?
聊天機器人每則訊息只產生一次回覆,不會採取行動。代理會分很多步驟追求一個目標,自己選擇每一個下一步行動,呼叫搜尋或程式碼之類的工具,讀取結果,並自己判斷何時完成。同一個模型,不同的迴圈:代理會跑迴圈,聊天機器人不會。
AI代理的例子是什麼?
一個會讀取錯誤回報、修改程式碼、執行測試、讀取失敗訊息,並不斷重試直到通過測試的程式編寫助理,就是一個例子。會搜尋、讀取,再根據找到的內容繼續搜尋的Deep Research模式,是另一個例子。兩者都會自己決定下一步,這正是定義所在。
ChatGPT是AI代理嗎?
一般的對話不是,它一次只回答一則訊息。ChatGPT的代理模式與Deep Research模式才是,因為在那些模式裡,模型會自己規劃、使用工具並反覆迭代。Gemini的Agent Mode與Deep Research,以及Claude的Research模式與Claude Code,也是同樣的道理。每個產品本質上都是一個聊天機器人,裡面內建了代理模式。
為什麼AI代理這麼貴?
因為每一步都是一次完整的模型呼叫,而且隨著歷程累積,輸入量會逐步變大。根據2026-08-20擷取的OpenRouter費率,在Claude Sonnet 5上跑20步,牌價至少要$0.14,而單一次回答只要$0.007,逐步變大的輸入還會把成本往上推。把例行步驟導向較便宜的模型,是控制成本的標準做法。
我的任務需要用到AI代理嗎?
只有在路徑無法事先規劃時才需要。研究、除錯和瀏覽這類每一步都取決於上一步結果的工作,會從代理中受益。摘要、擷取、翻譯和重新排版則是一次呼叫或固定順序的幾次呼叫,用代理只會增加成本與出錯方式,卻不會增加能力。