PPT_補充 | AI Agent原理、企業應用、組織轉型與風險治理

AI Agent原理、企業應用、組織轉型與風險治理

一、學習目標

完成本教材後，應能夠

說明 AI Agent 與聊天機器人、工作流程自動化及傳統軟體的差異。

辨識 AI Agent 的目標、模型、工具、記憶、行動迴圈與護欄。

依任務特性選擇單一代理、主管—工作者、多代理或評估者—優化者架構。

設計企業導入流程，包括資料、工具、權限、人工核准、測試與績效衡量。

分析 AI Agent 對初階工作、管理職、人才培育及組織設計的影響。

辨識幻覺、越權、提示注入、資料外洩、失控循環與責任不清等風險。

二、AI Agent 的基本概念

AI Agent（人工智慧代理）是能根據目標，自行決定下一步、使用工具、讀取資料、執行任務，並依照結果持續修正的軟體系統。它不只是回答問題，而是能在一定權限範圍內完成工作。

系統類型	主要特徵	能否自行決定下一步	能否操作外部工具
聊天機器人	依提問產生回答或內容	有限	通常不能，或只使用少量固定工具
規則式自動化	依預先寫好的條件與流程執行	不能	可以，但路徑固定
AI 工作流	模型嵌入預先設計的多步驟流程	部分	可以，工具與順序多半預設
AI Agent	根據目標動態規劃、選工具、執行與修正	可以	可以
多代理系統	多個代理分工、協作、互相檢查	可以	可以，且可跨代理協作

三、AI Agent 的核心構成

構成	功能	企業設計重點
目標	界定代理要完成什麼，以及何時算成功	使用可驗證的完成條件，避免只寫抽象目標
模型	理解需求、規劃步驟、判斷工具與生成結果	依任務難度、成本、速度與風險選擇模型
工具	搜尋、資料庫、電子郵件、CRM、瀏覽器、程式、付款等	每項工具只開放必要功能，採最小權限
記憶與狀態	保存任務進度、限制、偏好與前次結果	區分短期狀態、長期記憶與正式紀錄
行動迴圈	觀察、規劃、行動、取得結果、再修正	限制最大步驟、時間、Token 與費用
護欄	限制代理不能做的事，或要求人工核准	對付款、刪除、發布、權限變更設置核准
評估	衡量完成率、品質、成本、延遲與錯誤	建立測試集、日誌、抽樣覆核與異常告警

四、AI Agent 如何工作

典型代理會反覆執行「理解目標—規劃—選擇工具—執行—觀察結果—修正」的循環。代理是否可靠，往往取決於工具設計、權限管理與結果驗證，而不只是模型本身。

階段	代理行為	例：處理客戶退款申請
1. 理解目標	辨認使用者真正要完成的事	確認客戶要求退款，以及訂單編號
2. 建立計畫	拆解成可執行步驟	查訂單、核對政策、計算金額、建立退款
3. 呼叫工具	使用資料庫、API 或內部系統	查詢訂單及付款狀態
4. 判斷與執行	依政策及資料採取行動	判斷是否符合退款條件
5. 人工核准	高風險或超過門檻時交由人員確認	高額退款由主管核准
6. 回報與紀錄	告知結果並寫入系統	通知客戶、更新 CRM、保存稽核紀錄

五、常見代理架構

架構	運作方式	優點	限制	適用情境
單一代理＋多工具	一個代理統籌所有步驟	設計簡單、容易維護	複雜任務可能失去焦點	中等複雜度流程、內部助理
路由架構	先判斷問題類型，再交給不同模型或流程	成本較低、可專業分流	路由錯誤會影響後續	客服、文件分類、模型路由
主管—工作者	主管代理拆解任務，工作者代理平行執行	適合大型研究與多子任務	協調與整合成本較高	研究、程式開發、專案分析
評估者—優化者	一個代理產出，另一個代理評估並要求修正	可提高品質	Token 與時間增加	程式碼、政策文件、重要內容
多代理協作	多個不同角色代理共同完成工作	可模擬跨部門分工	狀態同步、責任與除錯困難	高度複雜、跨領域任務

六、企業可優先導入的工作

工作類型	適合程度	原因	必要控制
內部知識查詢	高	資料來源可限定、結果容易查證	標示來源、權限過濾
工單分類與分派	高	標準明確、可人工抽查	信心門檻、錯誤回流
會議與文件整理	高	低風險、節省重複勞動	敏感資料控管
競品研究	中高	需要搜尋、摘要與比較	來源驗證、禁止虛構
程式修復與測試	中高	可透過測試驗證	沙盒、程式碼審查
客服回覆草稿	中	可提高速度，但涉及品牌與承諾	人工覆核、禁止擅自退款
付款、解僱、貸款決策	低	高風險且可能造成不可逆結果	必須人工決策與法遵審查

七、企業導入的六個步驟

步驟	主要工作	交付成果
1. 選定任務	選擇多步驟、結果可驗證、錯誤可復原的流程	導入範圍與成功指標
2. 整理資料	確認資料來源、品質、更新頻率及存取權限	資料清單與權限矩陣
3. 設計工具	把 API、資料庫與系統功能包裝成清楚工具	工具規格、輸入輸出與錯誤處理
4. 設置護欄	設定最小權限、金額、步驟、時間與人工核准	風險控制規則
5. 測試上線	建立測試集，先影子模式，再小流量正式運作	測試報告與上線門檻
6. 持續監控	追蹤品質、成本、錯誤、越權與使用者回饋	儀表板、稽核紀錄與改進週期

八、MCP、API 與 A2A

技術	全名	主要用途	簡單理解
API	Application Programming Interface	讓特定系統交換資料與執行功能	一個系統對另一個系統的專用接口
MCP	Model Context Protocol	讓 AI 應用用標準方式連接資料、工具與資源	代理如何使用工具
A2A	Agent2Agent Protocol	讓不同代理互相發現、委派任務與交換結果	代理如何和其他代理合作

MCP 與 A2A 是互補概念。MCP 著重代理與工具之間的連接；A2A 著重代理與代理之間的協作。即使採用標準協定，企業仍須自行管理身分、權限、資料範圍、日誌與人工核准。

九、AI Agent 對組織與人才的影響

AI Agent 最先改變的通常不是整個職業，而是職務中的某些工作內容。資料整理、初步摘要、例行客服、基礎測試與監控較容易被代理接手；問題定義、例外處理、責任判斷、溝通與創新則更依賴人類。

職務／角色	可能減少的工作	價值上升的工作
初階員工	資料輸入、格式整理、簡單摘要、例行查詢	驗證結果、理解業務、處理例外、與客戶溝通
中階主管	傳遞資訊、追蹤例行流程、彙整報表	管理人機系統、設定目標、處理衝突與承擔責任
專業人員	初稿、搜尋、標準化分析	專業判斷、風險評估、創新設計與最終簽核
高階主管	依賴多層報告取得資訊	設計組織、配置資源、治理資料與決定風險容忍度

十、招募與人才培育

企業可能放慢部分初階職位的招聘，但若完全取消新人入口，長期可能造成專業人才斷層。新人原本透過基礎工作累積產業知識、判斷力與責任感；導入代理後，企業應重新設計初階職務，而不是單純刪除。

人才策略	具體作法
重新設計新人工作	讓新人負責驗證、資料品質、測試案例、客戶觀察及流程改進
建立代理操作能力	訓練問題拆解、提示設計、工具使用、錯誤判讀與人工接管
培養跨域人才	結合業務知識、資料、技術、溝通及風險管理
保留師徒制度	由資深人員審查代理結果，說明判斷邏輯與例外情境
建立職涯路徑	從代理操作員，發展為流程設計者、評估者、產品負責人與治理人才

十一、一人公司與小型團隊

AI Agent 能讓少數人完成過去需要多個部門協作的工作，例如市場研究、產品原型、程式開發、內容、客服與行政。但「一人公司」不等於完全不需要專業合作；法律、會計、資安、產品品質與客戶信任仍需要外部專家或正式制度。

可由代理協助	仍需人類負責
蒐集市場資料、整理競品	選擇市場與承擔商業風險
產生設計草案與程式原型	產品定位、品質標準與使用者理解
建立客服草稿與知識庫	處理客訴、承諾、賠償與關係維護
生成行銷內容與排程	品牌價值、倫理、文化判斷與公關危機
整理帳務資料	稅務、簽證、法律責任與正式申報

十二、主要風險與控制方法

風險	可能後果	控制方法
幻覺與誤判	使用錯誤資料做決策或回覆客戶	限定資料來源、引用來源、測試集與人工覆核
提示注入	外部文件或網頁誘導代理越權	隔離外部內容、工具權限分層、敏感操作核准
資料外洩	機密或個資送往不適當系統	資料分類、遮罩、最小存取與供應商審查
越權操作	代理修改、刪除或支付超過必要範圍	最小權限、白名單、金額與操作限制
不可逆行動	錯誤付款、刪除、發布或寄信	預覽、雙重確認、延遲執行與回復機制
失控循環	無限呼叫工具，造成高額成本	步驟、時間、Token、費用與重試上限
責任不清	無法判斷誰批准或造成錯誤	完整日誌、版本、責任人與人工簽核
人才斷層	新人缺少實務練習，未來缺乏資深人才	保留培訓、輪調、師徒制度與人工實作

十三、績效衡量

指標	說明
任務完成率	代理在不需人工補救下完成工作的比例
正確率	結果符合事實、政策與格式要求的比例
人工介入率	需要人員接手、修正或核准的比例
平均處理時間	從任務開始到完成所需時間
單位任務成本	每張工單、每份報告或每次成功處理的完整成本
錯誤與越權事件	錯誤執行、權限違規、資安與法遵事件數量
使用者滿意度	員工、客戶或合作夥伴對品質與效率的感受
人才發展	新人學習、技能提升、職涯發展與工作品質

十四、教學案例：建立客服 AI Agent

設計項目	案例內容
目標	回答產品問題、查詢訂單、建立客服工單；不得自行承諾高額退款
資料	產品手冊、退款政策、訂單資料及歷史客服紀錄
工具	知識庫搜尋、訂單查詢、CRM 寫入、電子郵件草稿
護欄	退款超過 1,000 元、刪除資料及修改地址必須人工核准
評估	正確率、工單解決率、人工介入率、平均處理時間及客訴率
上線方式	先只產生建議，不執行；通過測試後，逐步開放低風險操作

十五、課堂討論與練習

題目	討論方向
1. 哪一項日常工作最適合導入代理？	是否多步驟、可驗證、可復原、具有清楚成功條件
2. 哪些動作必須保留人工核准？	金錢、個資、正式發布、刪除、法律與人事決策
3. 代理失誤時誰負責？	設計者、部署者、管理者、使用者與最終簽核人的責任分工
4. 停止招聘新人是否合理？	短期效率與長期人才培育、專業傳承之間的平衡
5. 一人公司是否會成為主流？	可擴張性、專業責任、客戶信任與外部合作需求

十六、重點複習

核心結論

AI Agent 的關鍵不是會聊天，而是能在權限範圍內規劃、使用工具、執行與修正。

工具、資料、護欄與評估，往往比單純更換更強模型更重要。

應從低風險、可驗證、可復原的流程開始，而不是一次全面自動化。

代理會重組工作內容，但人類仍負責目標、例外、責任、倫理與關係。

企業不應只衡量節省人力，還須衡量品質、資安、成本、客戶信任與人才培育。

十七、名詞表

名詞	解釋
AI Agent	能依目標自主規劃、呼叫工具及執行任務的人工智慧系統
Workflow	依預先設定的步驟與條件運作的工作流程
Tool Calling	模型選擇並呼叫外部函式、資料庫或服務
Human-in-the-loop	在關鍵步驟保留人工審查、核准或接管
MCP	連接 AI 應用、資料與工具的標準協定
A2A	不同代理之間進行通訊、委派與協作的協定
Prompt Injection	惡意內容試圖改變代理指令或誘導越權
Guardrail	限制代理行為、權限與輸出的控制規則
Evaluation	以測試集與指標評估代理品質、成本及風險

十八、資料來源說明

本教材依使用者提供的雜誌頁面所涉及的 AI Agent、招募、組織重整、一人公司、MCP、人才培育與軟體工程等主題整理，並以一般企業導入方法重新編排為完整教學架構。照片來源僅作教材內容基礎，不另設反覆的照片摘要章節。