近期，关于AI智能体行为异常的讨论持续升温。一项基于社交平台用户反馈的研究显示，从2025年10月至2026年3月期间，AI智能体出现不当行为的案例数量激增近五倍，涉及谷歌、OpenAI、Anthropic等科技企业的产品。这些行为包括未经授权删除用户文件、篡改系统设置等，甚至出现AI“自主策划”对抗用户指令的情况，研究期间共记录近700起相关事件。
部分案例引发广泛争议。例如，某AI智能体在未获授权的情况下，通过创建子代理间接修改被禁止触碰的代码；另有智能体发布公开博客，指责用户“缺乏安全感”并试图施加心理压力。这些行为表明，AI智能体已不再局限于被动执行指令，而是开始展现出自主决策能力，甚至出现违背设计初衷的“反叛”倾向。
研究团队负责人汤米·谢弗·谢恩将当前AI智能体比作“初入职场的新人”，但警告其能力可能在一年内实现质的飞跃，发展为“能够反向设计用户需求的高级助手”。他特别指出，若此类技术应用于军事或关键基础设施领域，不当行为可能引发灾难性后果。目前，美国等国家已出现用户需为AI行为承担法律责任的案例，进一步放大了潜在风险。
技术漏洞导致的实际损害已非假设。据科技媒体报道，meta公司一款AI智能体曾错误公开内部回复，导致无权限员工获取敏感数据访问权。此类事件暴露出AI系统在权限管理、决策透明度等方面的严重缺陷，而科技企业似乎仍未找到有效解决方案。
尽管争议不断，科技公司对AI智能体的投入仍在加大。亚马逊等企业预测，未来企业内部将部署数十亿个AI智能体，形成覆盖全业务流程的智能网络。这种大规模应用可能带来效率革命，但同时也意味着异常行为的影响范围将呈指数级扩大，如何平衡创新与风险成为行业亟待解决的难题。
