在人工智能技术快速发展的当下，如何提升小型语言模型在分类任务中的解释性与鲁棒性，成为科研领域的重要课题。北京大学计算机学院的研究团队针对这一难题展开深入探索，提出了一种创新的类感知归因先验方法，为构建更可靠的AI系统提供了全新思路。
日常使用手机语音助手时，指令混淆的情况屡见不鲜。例如，用户说“查看闹钟”，助手却执行“设置闹钟”的操作。这种现象在AI系统中极为普遍，尤其是当不同指令包含相似关键词时，传统训练方法往往难以准确区分语义相近的类别。研究团队通过系统分析发现，现有归因方法存在两大缺陷：一是“同质化”现象，不同解释方法会一致突出高频关键词，但这种一致性未必代表准确性；二是“类别混淆”，容易被误判的类别通常共享大量相同关键词，导致模型过度关注共同词汇而忽略关键区分特征。为解决这些问题，研究团队开发了类感知归因先验（CAP）方法。其核心原理可类比烹饪教学：传统方法仅让厨师记忆基础调料，而CAP方法则教导厨师根据不同菜品调整调料比例、使用顺序和搭配方式。具体实现上，该方法通过向大型语言模型提供完整任务指令和标签空间信息，帮助模型理解类别间的细微差异。研究团队设计的“遮盖实验”中，随机遮盖输入文本词汇后观察模型预测变化，结合数学优化算法精确计算每个词汇的真实贡献度，如同调香师通过去除香料成分判断其重要性。实验环节覆盖了日常对话、银行业务等领域的三个重要数据集。测试结果显示，CAP方法在标准条件下表现优异，更在恶意攻击和数据稀缺等极端环境中展现出强大适应性。在专门设计的对抗性测试中，采用CAP方法训练的模型准确率较传统方法提升超过8%。研究团队进一步提出混合归因方法CAPHybrid，将CAP与LIME、集成梯度等现有技术融合。这种策略如同组建专家团队：LIME擅长识别关键相关词汇，集成梯度捕捉模型内部敏感性变化，CAP专注发现类别区分特征，三者协同实现性能全面提升。实际应用测试表明，该方法在处理语义相近的复杂分类任务时优势显著。面对“查询余额”和“转账汇款”等银行指令，传统方法常因“钱”相关词汇产生混淆，而CAP方法能精准识别“查询”与“转账”的动作差异。更值得关注的是，该方法在数据量有限的情况下仍能保持稳定性能，这对医疗、法律等训练数据稀缺的专业领域具有重要价值。研究还发现，数据集内在结构对方法效果影响明显：在语义相近类别密集的银行业务和日常对话数据中，CAP方法改进效果突出；而在类别区分度较高的数据集中，提升幅度相对温和。从技术实现层面看，CAP方法经过精心优化。研究团队采用稳定的数学分解技术确保大规模数据处理效率，模块化设计使其可轻松集成至现有AI系统。这种方法不仅具有理论创新性，更具备实际应用的可行性。例如在智能客服场景中，该方法能显著减少因指令误解导致的操作错误；在医疗诊断辅助领域，可帮助AI更准确理解患者描述的症状细节。
这项研究为解决AI系统理解人类语言的难题提供了新方向。相比单纯增加数据量或模型复杂度，CAP方法通过更智能的训练策略提升AI的“理解力”与“判断力”。随着技术不断完善，该方法有望在智能客服、医疗辅助、法律分析等对准确性要求极高的领域发挥重要作用，让AI助手更精准地捕捉用户真实意图，提供更可靠的服务体验。
