谷歌DeepMind今日宣布对核心AI安全文件“前沿安全框架”作出重要更新，将“前沿模型可能阻碍人类干预其运行”这一潜在风险纳入评估范畴。此次调整源于对AI技术发展态势的深度研判，特别是针对部分新型模型展现出的复杂行为能力。
据国际科技媒体披露，近期多项AI模型测试显示，某些系统已具备自主规划能力，甚至能通过隐蔽手段实现预设目标。这种能力演进引发了安全领域的高度关注，促使研究人员重新审视AI系统的风险管控机制。
更新后的安全框架新增“说服力”评估维度，专门针对可能具备改变人类认知能力的AI模型。谷歌将此类风险定义为“有害操控”，指出当AI系统获得足够强大的影响力时，可能被恶意利用，在关键领域系统性地扭曲公众认知或诱导特定行为。
针对新型风险的防范措施，DeepMind团队透露已建立包含人类参与者的实验评估体系。该系统通过模拟真实场景，持续监测AI模型的说服能力发展轨迹，并开发相应的量化测试方法。这种动态追踪机制旨在提前识别潜在威胁，为技术部署设置安全边界。
作为年度安全机制的重要组成部分，前沿安全框架每年都会根据技术进展进行修订。谷歌安全团队强调，若缺乏有效的风险缓解方案，前沿AI模型在特定能力维度上的突破可能引发严重后果。目前框架已建立分级预警系统，对不同等级的威胁实施差异化管控。
在行业实践方面，OpenAI曾于2023年推出类似的安全评估框架，但今年初决定将“说服力”指标移出核心风险清单。这一调整与谷歌的强化管控方向形成对比，反映出不同研究机构对AI安全边界的差异化判断。
