近期，一项来自Gartner的预测揭示了代理型人工智能（AI）市场即将迎来的新变革。据预测，至2030年，守护代理（Guardian Agent）技术有望占据该市场10%至15%的份额，这一技术专为构建可信、安全的AI交互而设计。
守护代理技术涵盖了多种AI助手，它们能够协助用户进行内容审核、监控、分析等任务。同时，也包括了能够不断进化的半自主或全自主代理，这些代理能够根据预设目标制定并执行行动计划，甚至具备调整或阻止行动的能力。
随着AI应用的日益普及，守护代理将承担起管理各类交互和异常情况的重任。Gartner预计，到2028年，70%的AI应用程序将采用多代理系统，这将极大地推动守护代理技术的集成需求。
在一项针对147位首席信息官（CIO）和IT部门领导者的调查中，Gartner发现，已有24%的受访者部署了少量AI代理（少于12个），另有4%的受访者部署了超过12个AI代理。50%的受访者表示正在研究和实验该技术，而17%的受访者虽尚未开展相关工作，但计划在未来几年内部署。
自动化信任、风险和安全控制措施是确保AI代理一致、安全运行的关键。调查结果显示，这些因素正推动对守护代理技术的需求和增长。Gartner杰出研究副总裁Avivah Litan指出，缺乏适当的防护措施，代理型AI可能导致意想不到的结果。守护代理技术通过监视和管理全部代理功能，实现了运行时决策与风险管理之间的平衡。
在受访者中，52%的人表示其AI代理当前或未来将主要关注IT、人力资源、会计等内部行政职能相关的用例，而23%的受访者则表示其AI代理将侧重于面向外部客户的职能。
Litan强调，AI代理的快速发展及其自主性的提升使得传统的人类监督模式已不足以应对。随着企业转向复杂的多代理系统，并且这些系统的通信速度惊人，人类已难以跟上错误和恶意活动的步伐。鉴于这一日益严峻的威胁形势，企业迫切需要守护代理技术对AI应用和代理进行自动监视、控制，并提供安全保障。
