近期，一項來自Gartner的預測揭示了代理型人工智能（AI）市場即將迎來的新變革。據預測，至2030年，守護代理（Guardian Agent）技術有望占據該市場10%至15%的份額，這一技術專為構建可信、安全的AI交互而設計。
守護代理技術涵蓋了多種AI助手，它們能夠協助用戶進行內容審核、監控、分析等任務。同時，也包括了能夠不斷進化的半自主或全自主代理，這些代理能夠根據預設目標制定并執行行動計劃，甚至具備調整或阻止行動的能力。
隨著AI應用的日益普及，守護代理將承擔起管理各類交互和異常情況的重任。Gartner預計，到2028年，70%的AI應用程序將采用多代理系統，這將極大地推動守護代理技術的集成需求。
在一項針對147位首席信息官（CIO）和IT部門領導者的調查中，Gartner發現，已有24%的受訪者部署了少量AI代理（少于12個），另有4%的受訪者部署了超過12個AI代理。50%的受訪者表示正在研究和實驗該技術，而17%的受訪者雖尚未開展相關工作，但計劃在未來幾年內部署。
自動化信任、風險和安全控制措施是確保AI代理一致、安全運行的關鍵。調查結果顯示，這些因素正推動對守護代理技術的需求和增長。Gartner杰出研究副總裁Avivah Litan指出，缺乏適當的防護措施，代理型AI可能導致意想不到的結果。守護代理技術通過監視和管理全部代理功能，實現了運行時決策與風險管理之間的平衡。
在受訪者中，52%的人表示其AI代理當前或未來將主要關注IT、人力資源、會計等內部行政職能相關的用例，而23%的受訪者則表示其AI代理將側重于面向外部客戶的職能。
Litan強調，AI代理的快速發展及其自主性的提升使得傳統的人類監督模式已不足以應對。隨著企業轉向復雜的多代理系統，并且這些系統的通信速度驚人，人類已難以跟上錯誤和惡意活動的步伐。鑒于這一日益嚴峻的威脅形勢，企業迫切需要守護代理技術對AI應用和代理進行自動監視、控制，并提供安全保障。
