隨著生成式AI技術持續進步，AI Agent正逐步從協助員工查詢資訊、生成內容的工具，走向能理解企業情境、串接資料並執行任務的營運角色。根據McKinsey公布The state of AI in 2025報告，已有62%的受訪企業至少開始進行AI Agent實驗，但近2/3受訪者表示仍未進入規模化部署階段，顯示AI Agent雖然受到高度關注，真正走進企業營運核心仍在起步階段。
然而，當企業進一步將AI Agent導入實際營運流程，面對的問題就不再只是模型能力高低，而是AI應具備多高的自主程度。因為模型能否正確回答問題，只是導入初期的基本考驗，後續還必須處理不同來源的資料整合，以及哪些工作適合交由Agent自主執行。但要真正跨越PoC階段、進一步邁向規模化應用，企業仍須補足系統整合、流程設計與治理機制等工程化能力，這正是企業導入Agentic AI時最容易低估的部分。
現階段企業最合適的做法，是在現有系統基礎上，加上能使用AI的介接與管控機制，使AI Agent由單純資料解讀，進階到實際的任務執行層面。
先改造既有系統 再讓AI接手工作
對多數企業而言，AI Agent落地時的首要工作，是在不影響既有營運的前提下，與運作多年資訊架構結合。畢竟既有ERP、MES等核心系統已運作多年，若要大幅改動，恐怕得付出高昂的系統建置與遷移成本，也可能牽動既有流程與業務運作。因此，企業通常是在既有架構下，逐步建立AI與企業系統之間的連接能力，讓Agent能在既有環境中取得所需資料，並進一步理解與執行相關工作。
因此，許多企業推動Agent化的第一步，是採用API進行封裝，將Legacy系統原本無法直接對外開放的功能與資料，重新包裝成標準化介面，讓AI Agent能以一致的方式呼叫與存取，而不必直接碰觸底層系統複雜的程式邏輯。如此一來，企業不必大幅汰換既有系統，也能逐步建立與AI對接的能力，同時降低系統改造的成本與風險。
解決系統之間的連接問題後，下一個挑戰便是讓AI Agent能真正「看得懂」企業資料，才能進一步做出正確判斷。此時就需要「語意層」協助，將分散在不同系統、以不同格式儲存的資料，轉譯成AI能理解的一致語意。例如，將ERP系統中代碼化的欄位對應至實際業務名詞，讓AI Agent查詢「本月營收」或「產線良率」時，能正確找到對應的資料來源與定義，避免因欄位命名、資料格式或業務規則不同而查無結果，甚至誤解資料意涵。
單一串接走向整合平台
Agent成為企業共同入口
當不同系統的資料具備統一語意後，AI Agent才能真正理解企業資訊。但隨著Agent導入數量增加，也會浮現另一個問題，既有的資料與系統能力，如何讓不同Agent重複利用。當每個AI Agent都各自串接ERP、CRM、MES與其他服務，即使單一應用可以正常運作，當應用數量增加後，勢必會再次陷入大量介接、權限管理與維護的複雜度。
因此，企業的架構思維需從「一個代理串聯多個系統」，進一步演進至建立共用的整合平台，以集中管理系統連線、資料交換、權限管理及流程調度等能力。此種整合架構的優勢，在於能將現有的資料、系統與服務等彙整，轉變成可供不同AI Agent重複使用的能力，後續新增的AI Agent可直接調用既有資料及工具，而無需重複建立介接邏輯。
如此一來，IT團隊的工作重心也將從單純維護系統介面，逐漸轉向管理AI可以使用哪些資料與工具，以及不同Agent之間如何安全、有效地協作。
從Walmart到國泰
AI開始進入企業營運現場
由於多代理協作可提升整體工作品質與企業整體競爭力，也因此吸引眾多企業積極推動相關專案。
以Walmart為例，過去為推動電商業務成長，由不同團隊各自建立所需的AI助理，儘管帶來不錯成果，卻也逐漸出現「代理人蔓延（Agent Sprawl）」問題，導致工具彼此難以協作，反而出現維運上的挑戰。為此，該公司重新檢視原先分散開發的AI工具後，決定朝向統一技術協定與多協作架構發展，將原本分散的多種AI助理收斂為服務顧客、員工、開發者以及供應商的「超級代理（Super Agents）」。
Walmart期盼讓AI不再僅僅是各自獨立運作的工具，而是成為能夠共同使用企業資料與服務的工作入口，藉此達到提升整體銷售額的目標。
Walmart的做法也反映出，當企業內部AI Agent數量持續增加後，真正的挑戰將不再只是個別Agent能不能完成任務，而是如何讓不同Agent共用企業能力，並在一致的架構與治理機制下協同運作。
在台灣市場，向來對高科技接受度最高的金融業，也加快推動多協作架構的速度。國泰金控選擇與OpenAI展開策略合作，透過Agentic AI部署，強化全集團在AI研發、部署與治理的核心能力，深化場景智慧化與自動化應用，推動業務模式轉型。該公司整合OpenAI先進大型語言模型能力、國泰內部知識庫與專屬Agents，打造具擴展性與治理能力的智慧工作平台與員工AI助手。
此外，國泰金控與OpenAI將針對企業金融、保險等高度專業的關鍵業務場景投入深度研發，聯合打造具備多代理協作能力的智慧代理引擎，建置可持續學習與知識持續迭代的金融領域知識體系，以提升業務營運效率，同時強化風險控管與決策透明度，確保所有落地應用
均符合監理與合規要求。
AI開始執行工作
權限與責任必須跟著改變
從Walmart、國泰等案例可知，當企業正積極讓不同Agent共享資料、工具與服務，且參與工作範圍也隨之擴大。這代表AI角色不只是協助員工查詢資訊或提供建議，而進一步朝向代為執行實際工作發展。
當AI代理具備自主能力，任何一次的錯誤判斷都可能直接影響營運流程，無論是修改訂單、更新系統狀態、發送通知，乃至於觸發後續流程等，專案團隊應明確定義AI可執行的條件與範圍，如哪些工作必須經過人工確認，以及發生錯誤時的責任歸屬，才能將未知的風險降到最低。
在權限管理之外，多數企業也很容易忽略事後追蹤的重要性。AI Agent執行過程中的所有操作歷程，如資料查閱、工具調用、判斷依據以及最終執行動作等，都必須留下完整紀錄。當流程出現問題時，IT團隊才能藉此追查錯誤來源並介入或中止後續行動，避免相關問題重複發生。
當AI Agent從單一用途工具逐步升級為企業級工作入口，企業面對的已不只是AI導入問題，而是整套營運架構與治理模式的重新調整。除了整合既有系統、資料、工具與權限，企業也必須建立讓AI能安全參與工作的基礎架構，才能真正把Agent從「能使用」推向「能執行」，進一步轉化為可持續的營運效益。