ITBear旗下自媒体矩阵:

中科院团队创新AI框架:让大模型刷题练出"经验手册"精准预测行为

   时间:2026-07-15 05:44:44 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

中国科学院软件研究所中文信息处理实验室联合中国科学院大学、复旦大学及快手科技,共同提出一种名为PraMem的创新框架,旨在提升大语言模型对用户行为的预测能力。该研究以预印本形式发布,论文编号为arXiv:2607.02881,核心突破在于解决长时序行为预测中的两大难题:用户真实偏好的隐含性与模型自身的认知偏差。

在短视频点赞、电商购物等场景中,系统需根据用户历史行为预测当前决策。当历史记录达数千条时,传统方法面临双重挑战:用户偏好分散于海量数据中,如对特定品牌的持续关注或周期性消费习惯;模型则存在近因偏差、从众倾向等固有缺陷。此前主流方案通过压缩历史记录或检索关键信息来简化输入,但研究团队指出,这种"减负"策略无法真正归纳行为规律,亦未消除模型偏见。

PraMem框架的灵感源于教育领域的"错题本"概念。研究人员将用户历史序列转化为带标准答案的练习题,让模型在正式预测前通过反复练习形成两套经验:行为模式经验记录用户偏好,如"偏爱轻薄型笔记本";偏见预警经验标注模型易犯错误,如"警惕仅依据最近记录判断导致近因偏差"。这种设计使模型在预测时能主动调用相关经验,而非临时分析原始数据。

为确保经验质量,研究团队构建了三层筛选机制。在"经验试炼"阶段,模型需明确说明每道题的推理依据;"反思提案生成"环节要求模型分析预测正误的根本原因,提出修改建议;"共识驱动调整"则通过多数表决防止偶发行为被过度解读。例如,若某条建议仅在特定品牌出现时成立,系统会判定其缺乏普适性而拒绝采纳。

实验数据显示,在快手OmniBehavior数据集上,PraMem将预测准确率从传统方法的73.5%提升至84.7%,F1分数从24.7跃升至31.6。在电影评分预测任务中,其F1分数达到49.6,较对比方法翻倍。值得关注的是,经验手册具有跨模型通用性——用GPT-OSS-120B生成的手册,在Qwen3.5-35B-A3B模型上仍能显著提升性能。

与传统方法存储原始行为记录不同,PraMem的经验手册呈现动态收敛特征。初期手册随练习轮次增加而扩充,在覆盖主要行为规律后趋于稳定,最终规模仅为传统记忆方法的30%-50%。这种设计避免了长文本处理负担,同时保持预测精度持续提升。

拆分实验验证了各组件的必要性:移除显式推理环节使F1分数下降2.3个百分点;取消反思机制导致性能损失0.7个百分点;若不采用共识驱动调整,误差率将激增至15.8%。两类经验的协同作用尤为关键,单独使用行为模式或偏见预警经验,预测准确率均出现明显下滑。

以某真实用户为例,传统方法仅记录其观看视频的时长、类别等碎片信息,而PraMem生成的经验手册包含"高完播率视频触发关注行为"等深层规律,以及"需警惕将关注行为默认为罕见事件"等预警。这种从"记录事实"到"提炼规律"的转变,使模型能更精准捕捉用户意图。

尽管PraMem的离线构建时间较传统方法增加约一倍,但研究人员认为这是合理代价——用55.8分钟的构建时间换取17%的相对性能提升,在推荐系统等对精度要求极高的场景中具有显著价值。该框架已开放代码仓库,为数字助手、用户模拟等领域提供新的技术路径。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version