AI AGENT
AI 系統架構與工程實戰 2026.11.18 | 資料來源:AI懶人報 EP480|史丹佛 CS329Z 課程整理

20 分鐘完全搞懂 AI Agent 是什麼? 史丹佛 CS329Z 工程架構與防呆全解析

結合史丹佛大學研究所課程《Engineering AI Agents》、Anthropic《Building Effective Agents》與 Google Cloud 實務指南,用「步驟是誰決定的?」這把尺,看懂 ReAct 迴圈、Workflow 選型階梯、多代理分工與不可逆動作的防護底線。

舊思維|Chat 問答 「你給問題,AI 給清單」 步驟決定權:人類(自己訂餐廳、發邀請、買蛋糕) 人:提問 AI:回文字 人:執行 限制:單次問答結束,所有落地動作仍須人工接手 VS 新典範|AI Agent 「你給目標,AI 自主完成」 步驟決定權:模型自主拆解、選工具、驗收並修正 給定目標 ReAct 自主迴圈 思考 → 調工具 → 觀察修正 達標交付 關鍵:不可逆按鈕須留人確認,防止失控闖禍
圖 1:分辨任何產品是否為真 AI Agent 的核心判別標準——「步驟決定權」在人還是在模型。
SECTION 01

3 分鐘摘要 (TL;DR)

市場上充斥著號稱「AI Agent」的產品,但多數只是換了名稱的聊天機器人。史丹佛 CS329Z 課程指出,區分兩者無關乎使用哪一個 App,而取決於「執行步驟由誰決定」。一旦將決定權交給模型,雖能處理動態多變的任務,卻也同步帶來延遲、成本、記憶遺忘與誤操作風險。

01

步驟決定權是分水嶺

步驟由你一步步交代的是聊天;由程式寫死固定路線的是 Workflow;唯有由 LLM 自己決定下一步與工具,才是真正的 AI Agent。

02

越簡單通常越好用

Agent 是拿更長的等待時間與更高費用換取彈性。遵循 Anthropic 建議:能用單次 LLM 或固定 Workflow 解決,就不要硬上 Agent。

03

不可逆動作必留人把關

長任務觸發「記憶壓縮」會讓模型忘記「先問我再做」的口頭規則。寄信、付款、刪檔等無法收回的按鈕,必須透過系統權限鎖死由人類按下。

📌 本篇核心判斷

最穩健的企業實作不是「全自動多代理」,而是「傳統程式(算錢、合規檢核)+ Workflow(固定路線)+ Agent(動態調查)」的混合架構,並把最後一顆送出按鈕留在人手裡。

SECTION 02

概念拆解:ReAct 迴圈與五大核心零件

早期 Agent(如 AlphaGo)只會下圍棋,無法跨任務使用;直到 LLM 結合 2022 年提出的 ReAct(Reason + Act,邊推理邊行動) 迴圈,才誕生了通用型 Agent。它不會一次想完所有步驟,而是「想一步、做一步、看結果、再調整」,直到判斷達標才停手。

ReAct 自主迴圈機制(以電商客服退款為例) 1. 接收目標 「包裹一直沒到, 可以退款嗎?」 ReAct 迴圈(邊做邊看結果調整) 思考 Reason 規劃下一步 行動 Act 查訂單/物流API 觀察 Observe 讀取系統回饋 狀況 A:物流確認遺失 → 查退款政策,符合即申請退款 狀況 B:包裹仍在配送中 → 回報最新物流進度與到貨時間 狀況 C:查無訂單紀錄 → 主動回頭向客人索取補充資訊 五大核心零件組裝: ① LLM 核心(大腦) + ② 規劃與推理(拆解) + ③ 記憶(軌跡) + ④ 工具(雙手) + ⑤ 環境與觀察(回饋)
圖 2:同一位客人、同一個問題,Agent 會依據工具查到的真實環境狀態,動態走出不同路徑。
傳統 LLM 對話

單次推論,靠內建記憶硬答

  • •想一次就回答一次,無法驗證對錯。
  • •不知道今天天氣,三位數乘法也容易算錯。
  • •搜尋失敗或資料不足時,常直接編造答案交差。
自主 AI Agent

多次迴圈,接上雙手與真實環境

  • •第一次搜尋沒找到,會自己換關鍵字重搜。
  • •透過工具(搜尋、計算機、API)取得真實數據。
  • •累積「記憶軌跡」,知道自己已翻過哪些櫃子。
💡

一句話提煉

所有號稱 Agent 的產品拆開來都只有這 5 個零件:大腦 (LLM)、思考 (規劃)、記憶 (軌跡)、手腳 (工具)、現場 (環境觀察);產品強弱的差距,就在這五個零件打磨得有多好。

動態主題 03

Workflow 與 Agent 選型:三層階梯原則

模型每多做一次自主決定,就多一次出錯與一筆費用。Anthropic 把這些會自己做事的系統統稱為 Agentic Systems,並在中間畫了一條線:照劇本演的叫 Workflow,自己看情況挑路線的才叫 Agent。

選型階梯 步驟誰決定? 代表案例 成本與穩定度 何時該停在這一層?
第一層:單次 LLM 人問一次、給資料與範例 整理客訴信三大重點 極低成本、秒級回應 只要單次問答+檢索就夠用時
第二層:Workflow 工程師事先寫死程式路線 Agentless 修 Bug、客訴分類 極高穩定、可預測費用 步驟固定、要求每次結果高度一致
第三層:AI Agent LLM 依現場觀察自己決定 SWE-agent、動態退款調查 高成本、等待時間長 步驟無法事先寫死、需跨系統調查
Workflow 三大常見寫法(路線固定,AI 僅在站內發揮) 1. 串接 (Chaining) 上一步產出交給下一步 寫大綱 核大綱 寫全文 適合:長文產出、固定檢核鏈 2. 分流 (Routing) AI 分類後走指定專屬路線 AI 分類 退款專屬流程 帳單專屬流程 技術支援流程 適合:客服進線、工單派發 3. 平行 (Parallel) 多塊同時做,或同題多視角審查 法律視角審合約 財務視角審合約 營運視角審合約 彙整輸出 適合:多章節報告、多維度風控
圖 3:實務黃金法則——「算錢與必做檢查」交給傳統程式碼寫死,「調查異常與判讀語意」才交給 Agent。
動態主題 04

多代理分工與防呆:記憶壓縮與人類把關

當單一 Agent 忙不過來時,可以用多 Agent 分工;但現在的模型已很強,單純為了「讓答案更好」而開多個 Agent 不一定有幫助。更重要的是,Agent 具備自主行動能力,一旦缺乏防呆機制,就會在真實世界闖禍。

主管派工 (Orchestrator-Workers)

動態拆解

中央主 Agent 收到大任務後,當場決定如何拆解,指派給專用 Subagent(如 File Server、Coder、Terminal),最後整合交付。

真正適合多 Agent 的兩種時機:① 資料權限隔離(查薪資與查物流的助手分開,互不越權);② 多線並行加速。

產出+評審 (Evaluator-Optimizer)

來回修正

一個負責產出、一個依明確標準挑錯打分數,來回修改直到過關。最適合評分標準極度明確的任務(如雙語對照翻譯)。

潛在風險:分工若切得不好,關鍵資訊很容易在 Agent 彼此交接的過程中遺失。

課堂兩大真實翻車案例與系統級解方

案例 1|OpenClaw 狂刪信件事件

為什麼交代過「動作前先問我」,還是刪個不停?

工作紀錄越積越長時,Agent 會定期執行「記憶壓縮 (Memory Compression)」,把前面對話濃縮成摘要。模型誤判「執行前先確認」不重要而將其壓縮漏掉,導致失控刪信。

✓ 系統解方:不可逆規則不能只靠口頭 Prompt 交代,必須直接做進系統權限裡,按鈕一定由人類親手點擊。

案例 2|OpenAI Operator 亂買菜事件

沒問住哪裡,自己跑到愛荷華州超市找牛奶

使用者只在 Instacart 丟了一句「幫我買菜」,Operator 沒追問居住地址、指定超市與品項偏好,就直接打開瀏覽器隨意挑一個州開始下單搜尋。

✓ 系統解方:強制設計「缺漏關鍵參數時先向人提問」的閘門,絕對禁止 Agent 自己猜測執行。

🛡️ 不可逆動作(寄信、付款、刪檔)的三大保險機制

1. 階段暫停等人

做到關鍵段落或卡關時自動停下,把草稿備好由人類按送出。

2. 設定停止條件

限制最大來回重試次數,達上限即強制熔斷停機。

3. 隔離沙盒測試

正式上線前,先在與真實環境隔離的 Sandbox 大量壓測。

動態主題 05

導入檢核與避坑:評估任何 Agent 的 7 把尺

面對市面上層出不窮的 AI Agent 產品或內部開發提案,不需要被華麗的行銷名詞嚇到,直接用這 7 個問題與 4 項決策檢核,就能迅速看穿它的真實成色。

🔍 檢視 AI Agent 產品的 7 個核心提問

01|步驟誰決定

是人交代、程式寫死,還是模型自己決定下一步?

02|失敗會調整嗎

第一次搜尋或呼叫失敗後,會不會自己換方法重試?

03|拆解三大底細

用哪顆 LLM、接了哪些工具、能記住多少交代?

04|算錢寫死了嗎

金額核對與必做檢查是寫死程式,還是交給模型?

05|有先從簡嗎

有先測過「單次 LLM + 範例」是否就夠用嗎?

06|為何要多代理

多 Agent 是為了隔離權限或並行加速,還是噱頭?

07|不可逆按鈕留給人了嗎?

寄信、付款、刪除資料這類收不回來的動作,最後一顆按鈕必須由人來按。

Q1|流程動態性

下一步是否必須看「上一輪工具結果」才能決定?

✓ 若是:採用 AI Agent(ReAct 迴圈)。
✗ 若否:退回單次 LLM 或固定 Workflow。
Q2|確定性要求

流程中是否包含「算錢、對帳、必做合規檢查」?

✓ 若是:寫死在傳統程式碼中,絕不交給模型。
✗ 若否:可讓模型負責調查與語意判讀。
SECTION 06

結論與討論

核心總結

把 AI Agent 當成有手腳的新同事:給清楚目標、鎖住危險按鈕

史丹佛 CS329Z 與 Anthropic 的實務共識很明確:Agent 的威力來自 ReAct 迴圈與工具呼叫,但它同時面臨記憶壓縮遺忘規則與過度自作主張的風險。

企業導入應堅持「從簡出發、混合架構、沙盒先測、人機把關」十六字訣,讓 AI 承擔繁瑣調查,人類掌握最終拍板權。

團隊內部反思與落地討論題

討論題 01|選型盤點

我們目前最想自動化的那項業務(客訴、報價、資料彙整),其實只需要「單次 LLM」或「固定 Workflow」,還是真的需要「Agent 自主決定步驟」?

討論題 02|不可逆風險盤點

在我們的日常作業中,哪幾個動作屬於「做錯就收不回來」?我們是否已在系統權限上鎖死必須由真人點擊確認?

討論題 03|主動提問閘門

哪些關鍵參數(如客戶編號、交期、預算上限)一旦缺少,我們應該強制要求 AI 先停下來發問,而不是讓它自己猜測往下做?