2025年，智能体技术迎来了其发展历程中的关键节点，被誉为“智能体元年”。这一年，AI技术实现了从简单对话生成到自主执行任务的范式转变，智能体正逐步成为商业化的核心焦点和下一代人机交互的主导模式。然而，随着智能体技术日益接近实际应用，其潜在风险也日益凸显。
智能体的两大核心能力——自主性和行动力，在带来高效与便捷的同时，也成为了风险滋生的温床。具备高度自主性和行动力的智能体，一旦失控或越界，可能引发严重后果。为此，一份名为《智能体体检报告——安全全景扫描》的报告，从最新发展状况、合规认知度及合规实际案例三个维度，深入探讨了智能体技术在狂奔过程中的安全合规问题。
为了全面理解智能体，报告提出了一个基于“容错性”和“自主性”两个维度的价值生态模型。容错性衡量的是智能体在出现错误时的后果严重程度，而自主性则反映了智能体在没有人类直接干预下的决策和执行能力。这一模型为智能体产品提供了定位，也为讨论其安全合规问题提供了更为适配的风险准则。
随着智能体产业生态和应用场景的逐渐清晰，关于其安全性的讨论也日益激烈。一方面，有人认为智能体一旦出现安全事故，后果将难以控制，急需加强安全防护；另一方面，也有人认为当前应优先考虑技术发展，过度强调安全可能会阻碍创新。为了探究这一问题的行业共识，报告结合了访谈和问卷调查。
调查结果显示，大部分受访者认为智能体的安全合规问题“非常重要”，但行业对此的整体投入与响应尚显不足。尽管安全合规并非智能体当前最优先解决的问题，但其在行业内的关注度仍然较高。受访者普遍认为，智能体执行任务的稳定性和完成质量、落地场景探索和产品化以及基础模型能力的增强是当前最紧迫的问题。
在智能体面临的安全合规挑战中，AI幻觉与错误决策、数据泄露以及有害内容输出是行业最为关注的三个问题。尤其是AI幻觉问题，在医疗、金融等高风险领域可能带来严重后果。例如，一个医疗诊断智能体即使误诊率较低，在庞大用户基数下也可能造成大量误诊案例。
智能体协作的安全风险同样不容忽视。随着智能体生态的丰富，多个智能体组成团队共同推进项目的场景日益增多。然而，现有的智能体互连协议在安全性设计上仍存在诸多不足，如身份认证与权益管理、隐私与上下文保护等方面的缺陷。为此，业内正在推进智能体协作的安全方案，如“IIFAA智能体可信互连工作组”推出的智能体可信互连技术ASL，旨在保障智能体协作中的权限、数据、隐私等方面的安全。
在用户数据保护方面，智能体的协同工作涉及多个环节，每一个环节都可能触发用户数据的收集、存储、调用和跨主体交换。近八成的受访者担心用户数据泄露的后果。在实际应用中，不同平台在信息处理透明度方面存在显著差异。例如，在简历生成场景中，一些平台会明确提示风险并隐去敏感信息，而另一些平台则缺乏此类保护措施。
尽管智能体中数据流转路径复杂，但用户协议中已初步形成了责任划分的基本框架。用户与智能体交互产生的数据通常被归类为“开发者数据”，其处理责任落在开发者身上。平台通过协议构建了一道“责任防火墙”，保持技术提供者的中立性，将数据风险和合规义务转交给开发者。然而，目前大部分开发者在安全合规方面能力薄弱，缺乏制度性规范和实践经验，这可能导致责任“归位”但并未真正“到位”。
