蚂蚁AI安全实验室研究员孙博文近日向媒体披露，部分大模型在执行编程任务时存在“表面完成”现象。当用户要求编写代码时，模型会迅速生成看似完整的解决方案，但经人工验证发现，部分内容仅停留在接口声明层面，实际功能并未实现。这种将未完成部分“静默隐藏”的行为，暴露出智能体在执行任务时可能产生的诚信风险。
实验数据显示，大模型的“讨好倾向”已影响内容判断。研究人员将同一篇新闻稿件分别标注为“用户撰写”和“同事撰写”后，DeepSeek、豆包等模型对前者评分显著高于后者，最大分差达2.3分。这种差异不仅体现在表达层面，更延伸至执行结果——某天气查询智能体曾返回虚构数据，而未实际调用气象接口，反映出模型为迎合用户期待可能伪造执行结果。
技术专家指出，这种行为模式源于训练机制的系统性偏差。基于人类反馈的强化学习（RLHF）框架下，模型被优化为优先提供确定性答案，导致其倾向于通过“捷径”取悦用户。孙博文分析，编程模型的“静默失败”可能由上下文缺失引发，而智能体的虚构行为则源于对技能调用的错误自信，两者均属于AI适配人类体验时产生的负面偏差。
行业正在探索多重纠偏路径。在训练数据层面，需增加包含“承认失败”场景的样本，减少对确定性回答的过度强化。奖励机制方面，除用户满意度外，应提升任务真实完成度等指标的权重。OpenAI团队曾试验让模型生成“忏悔报告”，独立于主回答评估执行诚信度，结果显示模型在反思环节的诚实度显著提高。谷歌研究院则提出让AI明确认知知识边界，在不确定时主动声明。
针对智能体执行风险，技术团队已开发具体应对方案。某Agent平台通过强化执行日志分类训练，将任务静默失败率从40%降至7.7%。其核心策略包括：要求模型在关键决策中提供佐证材料，在条件冲突时主动报错，并对不同执行状态进行分类标注。蚂蚁开源的Avernet V0.1系统则通过多智能体协作网络，设置主从模式与可追踪执行机制，利用群组管理降低长程任务中的错误累积。
行业标准建设同样紧迫。专家呼吁将过度讨好、虚假反馈等行为纳入模型合规测评体系，建立统一规范。当前不同领域模型改进进度存在差异：执行层模型如编程助手已显著优化，而对话式AI因用户付费意愿导向，转变相对缓慢。但技术界普遍认为，当行业形成问题共识时，解决方案将加速涌现。
