3 分鐘摘要 (TL;DR)
市場上充斥著號稱「AI Agent」的產品,但多數只是換了名稱的聊天機器人。史丹佛 CS329Z 課程指出,區分兩者無關乎使用哪一個 App,而取決於「執行步驟由誰決定」。一旦將決定權交給模型,雖能處理動態多變的任務,卻也同步帶來延遲、成本、記憶遺忘與誤操作風險。
步驟決定權是分水嶺
步驟由你一步步交代的是聊天;由程式寫死固定路線的是 Workflow;唯有由 LLM 自己決定下一步與工具,才是真正的 AI Agent。
越簡單通常越好用
Agent 是拿更長的等待時間與更高費用換取彈性。遵循 Anthropic 建議:能用單次 LLM 或固定 Workflow 解決,就不要硬上 Agent。
不可逆動作必留人把關
長任務觸發「記憶壓縮」會讓模型忘記「先問我再做」的口頭規則。寄信、付款、刪檔等無法收回的按鈕,必須透過系統權限鎖死由人類按下。
📌 本篇核心判斷
最穩健的企業實作不是「全自動多代理」,而是「傳統程式(算錢、合規檢核)+ Workflow(固定路線)+ Agent(動態調查)」的混合架構,並把最後一顆送出按鈕留在人手裡。
概念拆解:ReAct 迴圈與五大核心零件
早期 Agent(如 AlphaGo)只會下圍棋,無法跨任務使用;直到 LLM 結合 2022 年提出的 ReAct(Reason + Act,邊推理邊行動) 迴圈,才誕生了通用型 Agent。它不會一次想完所有步驟,而是「想一步、做一步、看結果、再調整」,直到判斷達標才停手。
單次推論,靠內建記憶硬答
- •想一次就回答一次,無法驗證對錯。
- •不知道今天天氣,三位數乘法也容易算錯。
- •搜尋失敗或資料不足時,常直接編造答案交差。
多次迴圈,接上雙手與真實環境
- •第一次搜尋沒找到,會自己換關鍵字重搜。
- •透過工具(搜尋、計算機、API)取得真實數據。
- •累積「記憶軌跡」,知道自己已翻過哪些櫃子。
一句話提煉
所有號稱 Agent 的產品拆開來都只有這 5 個零件:大腦 (LLM)、思考 (規劃)、記憶 (軌跡)、手腳 (工具)、現場 (環境觀察);產品強弱的差距,就在這五個零件打磨得有多好。
Workflow 與 Agent 選型:三層階梯原則
模型每多做一次自主決定,就多一次出錯與一筆費用。Anthropic 把這些會自己做事的系統統稱為 Agentic Systems,並在中間畫了一條線:照劇本演的叫 Workflow,自己看情況挑路線的才叫 Agent。
| 選型階梯 | 步驟誰決定? | 代表案例 | 成本與穩定度 | 何時該停在這一層? |
|---|---|---|---|---|
| 第一層:單次 LLM | 人問一次、給資料與範例 | 整理客訴信三大重點 | 極低成本、秒級回應 | 只要單次問答+檢索就夠用時 |
| 第二層:Workflow | 工程師事先寫死程式路線 | Agentless 修 Bug、客訴分類 | 極高穩定、可預測費用 | 步驟固定、要求每次結果高度一致 |
| 第三層:AI Agent | LLM 依現場觀察自己決定 | SWE-agent、動態退款調查 | 高成本、等待時間長 | 步驟無法事先寫死、需跨系統調查 |
多代理分工與防呆:記憶壓縮與人類把關
當單一 Agent 忙不過來時,可以用多 Agent 分工;但現在的模型已很強,單純為了「讓答案更好」而開多個 Agent 不一定有幫助。更重要的是,Agent 具備自主行動能力,一旦缺乏防呆機制,就會在真實世界闖禍。
主管派工 (Orchestrator-Workers)
動態拆解中央主 Agent 收到大任務後,當場決定如何拆解,指派給專用 Subagent(如 File Server、Coder、Terminal),最後整合交付。
真正適合多 Agent 的兩種時機:① 資料權限隔離(查薪資與查物流的助手分開,互不越權);② 多線並行加速。
產出+評審 (Evaluator-Optimizer)
來回修正一個負責產出、一個依明確標準挑錯打分數,來回修改直到過關。最適合評分標準極度明確的任務(如雙語對照翻譯)。
潛在風險:分工若切得不好,關鍵資訊很容易在 Agent 彼此交接的過程中遺失。
課堂兩大真實翻車案例與系統級解方
為什麼交代過「動作前先問我」,還是刪個不停?
工作紀錄越積越長時,Agent 會定期執行「記憶壓縮 (Memory Compression)」,把前面對話濃縮成摘要。模型誤判「執行前先確認」不重要而將其壓縮漏掉,導致失控刪信。
✓ 系統解方:不可逆規則不能只靠口頭 Prompt 交代,必須直接做進系統權限裡,按鈕一定由人類親手點擊。
沒問住哪裡,自己跑到愛荷華州超市找牛奶
使用者只在 Instacart 丟了一句「幫我買菜」,Operator 沒追問居住地址、指定超市與品項偏好,就直接打開瀏覽器隨意挑一個州開始下單搜尋。
✓ 系統解方:強制設計「缺漏關鍵參數時先向人提問」的閘門,絕對禁止 Agent 自己猜測執行。
🛡️ 不可逆動作(寄信、付款、刪檔)的三大保險機制
1. 階段暫停等人
做到關鍵段落或卡關時自動停下,把草稿備好由人類按送出。
2. 設定停止條件
限制最大來回重試次數,達上限即強制熔斷停機。
3. 隔離沙盒測試
正式上線前,先在與真實環境隔離的 Sandbox 大量壓測。
導入檢核與避坑:評估任何 Agent 的 7 把尺
面對市面上層出不窮的 AI Agent 產品或內部開發提案,不需要被華麗的行銷名詞嚇到,直接用這 7 個問題與 4 項決策檢核,就能迅速看穿它的真實成色。
🔍 檢視 AI Agent 產品的 7 個核心提問
是人交代、程式寫死,還是模型自己決定下一步?
第一次搜尋或呼叫失敗後,會不會自己換方法重試?
用哪顆 LLM、接了哪些工具、能記住多少交代?
金額核對與必做檢查是寫死程式,還是交給模型?
有先測過「單次 LLM + 範例」是否就夠用嗎?
多 Agent 是為了隔離權限或並行加速,還是噱頭?
寄信、付款、刪除資料這類收不回來的動作,最後一顆按鈕必須由人來按。
下一步是否必須看「上一輪工具結果」才能決定?
流程中是否包含「算錢、對帳、必做合規檢查」?
結論與討論
把 AI Agent 當成有手腳的新同事:給清楚目標、鎖住危險按鈕
史丹佛 CS329Z 與 Anthropic 的實務共識很明確:Agent 的威力來自 ReAct 迴圈與工具呼叫,但它同時面臨記憶壓縮遺忘規則與過度自作主張的風險。
企業導入應堅持「從簡出發、混合架構、沙盒先測、人機把關」十六字訣,讓 AI 承擔繁瑣調查,人類掌握最終拍板權。
團隊內部反思與落地討論題
討論題 01|選型盤點
我們目前最想自動化的那項業務(客訴、報價、資料彙整),其實只需要「單次 LLM」或「固定 Workflow」,還是真的需要「Agent 自主決定步驟」?
討論題 02|不可逆風險盤點
在我們的日常作業中,哪幾個動作屬於「做錯就收不回來」?我們是否已在系統權限上鎖死必須由真人點擊確認?
討論題 03|主動提問閘門
哪些關鍵參數(如客戶編號、交期、預算上限)一旦缺少,我們應該強制要求 AI 先停下來發問,而不是讓它自己猜測往下做?