文／賴郁薇　圖／Shutterstock

隨著大型語言模型（LLM）發展歷程，代理式AI工具如今具備了自主規劃、傳送回覆訊息、調用外部API、操作資料庫與執行任務等能力。根據研調集團顧能（Gartner）預測：2028年，至少15％的日常工作決策將由代理式AI自主完成。

不過同時間，AI A gent專案也面臨更複雜的資安風險情境——不再只有被動資料外洩，還包括模型遭惡意植入後門（Backdoor Attack）的風險。

一旦AI模型在訓練過程中被植入特定隱蔽邏輯，很可能在特定觸發條件（Trigger）下，使模型產生預設的惡意行為或輸出，進一步繞過安全機制、操縱代理，導致代理工具偽造輸出或資料污染，甚至改變決策路徑或任務。

對此，長期關注資安的國際非營利組織OWASP（開放全球應用程式安全專案；Open Worldwide Application Security Project），瞄準代理式AI趨勢，再公開發表風險報告〈OWASP Top 10 for Agentic Applications for 2026〉。

透視代理技術的資安隱憂
偵測風險盲區
大致從〈OWASP Top 10 for Agentic Applications for 2026〉，可以歸納出下述幾個AI代理風險盲點：

風險1》惡意指令劫持，操控AI代理
在代理式AI（Agentic AI）架構下，任務指令與外部資料可能同時進入大型語言模型（LLM）中，使得AI代理人混淆，可能讓攻擊者有機會注入惡意提示詞（Prompt），觸發不安全授權或模糊指令，導致資料外洩、或被操控代理，引發一連串的企業決策危機。

風險2》權限身分遭濫用，突破安全邊界
AI代理系統的委派機制，一旦發生身分權限濫用，權限被無條件提升，等於可執行超越權限範圍的指令，API Key（應用程式介面金鑰）、OAuth Token（存取權杖）、Session（工作階段）等身分憑證與授權機制，就會產生責任歸屬盲點，使操縱委派鏈（Delegation Chains）的決策不再安全。

風險3》程式碼遭竄改，不安全元件滲透系統
衍生而來，第三方AI代理模型、外掛工具、資料、MCP（Model Context Protocol）及Agent2Agent（A2A）Protocol。若遭惡意入侵竄改，將單純指令升級為遠端程式碼執行（RCE）、本機濫用或對內部系統的滲透，最擔心不安全程式碼會被引入執行鏈。

風險4》代理架構分散，不受信任來源威脅資料安全
AI代理人的身分驗證一旦出漏洞，接下來，所有檔案上傳、API餵送、peer-agent（對等代理），上下文涵蓋了摘要、嵌入向量及RAG儲存內容，都可能面臨不信任情境。對話情境被惡意誤植、污染，後續的推理、決策規劃都會產生偏差、不安全操作，甚至觸發機密資料外洩。

AI代理架構被高度去中心後，再加上身分授權的驗證薄弱，使得攻擊者得以攔截、竄改、冒充或阻斷訊息，將大幅削弱代理系統的安全性與可信度。

風險5》人機信任利用幻覺，引爆失控代理
單一代理發生故障，出現幻覺，乃至於下層代理權被惡意扭曲，就會產生連鎖故障反應，演變成大規模的系統崩潰失效。

這很可能在多代理或人機生態系中，在未經獨立查核的前提下，惡意AI代理或遭入侵的AI代理，直接擴大機密損失的風險。

產官學界築起防禦共識：
最小權限原則重塑AI治理秩序
目前AI代理仍處於發展初期，綜觀現階段資安環境，評估大型語言模型（LLM）與代理式AI（Agentic AI）風險，大部分聚焦：提示詞注入、代理程式權限、資料與供應鏈。

數月前，在2026臺灣資安大會（CYBERSEC 2026）上，已經清楚定調──最重要的核心原則，是拒絕放任AI代理隨意執行。

與會者來自全球超過4 0 0家資安品牌、59家自主研發商，以及上萬名專業人士，包括數位發展部（moda） 、國科會、微軟（Microsoft）、谷歌（Google）、思科（Cisco）等產官學研單位，多場議程亦聚焦最小權限、身分驗證與持續監控等AI代理治理原則。

在這前提下，從最基礎的日誌紀錄、動態監控到嚴謹的存取驗證，所有AI行為都必須納入嚴密的資安治理架構中，在AI時代格外重要。

遵循治理關鍵
打造人機協同安全生態系
對照OWASP發布的〈Agentic AI Security Landscape〉，同樣針對營運、部署、發布、測試與評估、開發與實驗、資料擴增與微調，以及監控與治理等不同環節，提供AI代理的資安概念。

資安關鍵1》落實最小權限 加強動態即時監控
資安關鍵2》導入Human-in-the-loop（人機迴圈） 高風險決策強制人工審核
資安關鍵3》建置緊急停止機制 避免異常行為持續擴散

隨著全球AI代理持續發展，國際間也逐步形成安全管理共識，為企業部署AI代理建立防護框架，進一步強化資安量能。