文/林裕洋 本刊特約記者 圖/Shutterstock
當AI Agent逐步進入企業環境,傳統以人與設備為核心的資安邊界也開始改變。資安防護不能只停留在模型層,而必須沿著Agent實際執行任務的流程建立多層防線。企業在規劃資安架構時,除了要限制Agent能存取哪些資料與應用服務,也必須在不影響工作效率的前提下,將異常行為的影響控制在可接受範圍內。
面對AI Agent引爆的資安風險,Agent Gateway、Guardrails、Sandbox與稽核軌跡(Audit Trail)等資安防護工具,正分別從請求進入、權限與工具調用,到程式執行及事後追蹤,將安全機制嵌入Agent整個任務執行鏈。
導入Agent Gateway建立安全閘道
當企業部署的Agent越來越多,若由各個Agent分別管理API、資料庫與外部工具的連線,勢必出現憑證分散、權限設定不一致,以及操作紀錄難以集中追蹤等問題。正因如此,Agent Gateway成為Agent存取企業系統前的第一道安全閘道,扮演將對外連線集中管理的重要角色,協助資安團隊依照企業政策,檢查每個AI Agent的身分、權限與操作範圍之後,再決定是否放行。
舉例來說,Agent Gateway在Agent身分與權限管理功能上,可依任務需求給予最小必要權限,而非直接沿用使用者的完整存取能力。例如,負責整理客戶資料的Agent,可以被授權查詢CRM系統中的資料,卻不需要給予修改客戶帳戶或刪除資料的權限。最終任務涉及資料異動時,可以進一步要求額外授權或人工確認。
市面上已有不少廠商推出相關產品,如Palo Alto Networks的Prisma AIRS,主打可在閘道端攔截提示詞注入與資料外洩。Cloudflare AI Gateway能提供開發者快速部署的AI流量監控、快取,以及安全過濾等工作。而Zscaler AI Guard則可針對企業內外部AI流量,進行即時攔截與政策控管。
落實行為檢查 降低未知風險
儘管生成式AI應用早已導入Guardrails機制,但過去主要集中在模型輸入與輸出的檢查,例如過濾不當內容、防止敏感資訊外洩。當AI Agent開始具備任務拆解與工具調用能力後,風險便不再只出現在最後產出的文字,而可能發生在任務執行過程中的每一個環節。
因此,Guardrails的角色必須從「檢查答案」延伸到「檢查行為」,在Agent執行任務的不同階段設置檢查點。首先,檢查使用者指令、上下文與外部資料,辨識可能影響Agent行為的惡意內容。其次,檢查工具選擇、操作參數與執行目的,確認是否仍符合原始任務與企業政策。最後,再檢查輸出內容,避免敏感資料被回傳,或被傳送至未經核准的外部服務。
目前市面上已經有不少Guardrails工具與框架,如NVIDIA的NeMo Guardrails,是一套開源Guardrails框架,提供適合正式環境部署的微服務,可用於規範LLM輸入、輸出與工具調用。Guardrails AI也是常被使用的開源框架,透過結構化驗證來確保模型的輸出與工具調用符合規格。
妥善隔離風險 保護系統安全
當Agent開始執行程式碼、操作檔案、安裝套件或使用瀏覽器,執行環境本身便成為安全架構的一環。若直接在企業主機或共享環境執行,一旦遭到惡意指令操控,可能進一步接觸其他檔案、系統資源與網路服務;即使沒有遭到攻擊,程式碼錯誤或不安全套件也可能造成系統異常。
特別是當AI Agent需要動態執行程式碼、調用高風險指令或操作終端時,若能在隔離的Sand box環境中運行,可防範對主機系統造成危害。目前常見的隔離方式,包括MicroVM與WebA ssembly(Wasm),其中,MicroVM透過輕量化虛擬機建立相對獨立的執行環境,適合執行來源不完全可信的程式碼。Wasm則透過受限制的執行環境與能力授權,控制程式可使用哪些資源,較適合特定模組化工作負載。兩者並非互相取代,企業仍需依工作負載、效能、資源成本與安全要求選擇適合的隔離方式。
目前市面上的方案中,如E2B Sandboxes是專為AI Agent提供的雲端隔離執行環境,讓Agent可以安全地在雲端執行程式碼、操作瀏覽器或Linux環境。Daytona可提供安全、快速啟動的開發與Agent運行環境沙箱。而Cloudflare Sandboxes,則是利用輕量化隔離技術提供邊緣運算安全防護。
值得注意的是,Sandbox並非把Agent完全關在封閉環境,而是透過權限與資源限制,在「能執行任務」與「控制風險」之間取得平衡,企業可進一步限制外部網路、可讀寫目錄、CPU與記憶體。
完整記錄操作 建立可追溯機制
由於AI Agent任務通常涉及多次推理、工具呼叫及資料交換,若系統僅保留單一API請求或程式執行紀錄,一旦發生非預期事件,資安與維運人員可能無法掌握完整脈絡,也難以判斷問題究竟來自模型、外部資料、權限設定,還是工具本身。因此,若導入可保存完整操作記錄的Audit Trail工具,可讓企業級Agent防護架構更為完整。
舉例來說,若發生某個Agent未經預期地修改企業資料,資安團隊便能透過Audit Trail工具進行追查,包括由哪個任務觸發、使用哪些工具、是否經過權限檢查,以及執行過程中是否出現異常訊號。
目前市面已有非常多成熟的A I監控、資安與合規平台,如Swept AI即是專門提供AI系統的Audit Trail、決策還原,以及法規合規證據生成的平台。至於Arize Phoenix、LangSmith、HoneyHive、Braintrust等,雖然原本是針對LLM觀察性與評估設計,但由於內建完整的追蹤機制,可完整記錄Prompt、Context、Tool Calls與輸出,也常作為稽核與除錯的核心工具。
落實持續監督 建立完整防護鏈
鑑於AI Agent影響層面非常廣泛,許多組織也紛紛制定相關標準,如NIST AI RMF強調組織應持續管理AI系統風險;ISO/IEC 42001提供AI管理系統的建立與持續改善架構;歐盟AI Act也依風險分類及適用情境,對部分AI系統提出風險管理、紀錄保存及人為監督等要求。儘管前述規範的適用範圍略有差異,但均共同指向持續監督與追溯能力,而非僅是導入初期完成一次安全評估。
從Agent Gateway的存取控管、Guardrails的行為檢查,到Sandbox的執行隔離與Audit Trail的稽核追蹤,企業級Agent防護架構並不是依賴某一項技術,而是將不同安全機制嵌入AI執行任務的各個階段。這四者共同形成一條從「允許」到「檢查」、從「隔離」到「追溯」的防護鏈,也代表企業導入Agent時,資安不應再被視為部署完成後才補上的限制,而應從應用與工作流程的設計階段,就同步考量身分、權限、資料流向及執行環境。