当AI助手每天陪你聊天、处理事务时，如何精准记住你上周提到的烦心事？传统方案是通过语言模型将对话压缩成“记忆卡片”，但这种做法不仅耗费计算资源，还会丢失关键细节。香港理工大学、西南财经大学与吉林大学联合团队提出了一种突破性方案——Zero-Mem，通过完全摒弃语言模型参与记忆操作，实现了零token消耗的高效检索。
现有AI记忆系统普遍采用“生成式记忆”模式，即在对话结束后调用语言模型生成摘要存入数据库。这种压缩方式虽能减少存储压力，却导致信息损耗。例如，相似人名或模糊日期在总结过程中可能被错误合并，原始细节永久丢失。更严峻的是，每次生成记忆卡片都需支付高昂的token费用，且随着对话轮次增加，检索效率显著下降。实验数据显示，主流系统GAM在完成单次问答任务时，记忆操作耗时超9237秒，消耗2857万个token，即便是轻量级方案LightMem也需87万个token。
为解决分散证据的整合问题，研究团队设计了“证据闭合”机制。系统不仅返回主证据，还会自动补充关联的桥接证据与邻近证据，确保答案完整性。例如，在案件调查场景中，主证据可能仅包含案发现场报告，而桥接证据能揭示嫌疑人动机记录。确定性校准步骤则通过预设规则过滤无关证据，并验证最终答案的格式与证据一致性，全程无需调用语言模型。实验表明，去除证据闭合后，系统F1分数下降4.17个百分点，凸显该机制对复杂问题的重要性。
在LoCoMo与HotpotQA两个基准测试中，Zero-Mem展现出显著优势。以GPT-4o-mini为基础模型时，其平均F1得分达59.15，超越GAM的53.75；在448K token的超长上下文测试中，F1分数较最强对手高出5.52个百分点。效率方面，Zero-Mem单查询耗时仅0.22秒，较LightMem提升57.6%，且记忆操作零token消耗。研究进一步发现，提供5条证据时系统性能与性价比达到最佳平衡，继续增加证据数量对准确率提升有限。
该方案颠覆了“记忆系统必须依赖语言模型”的行业认知。传统方法中，生成式摘要虽能简化检索，却因模糊关键细节导致时间推理类问题准确率骤降。Zero-Mem通过非生成式结构保留原始信息，在时间推理题型上F1分数提升达6.82个百分点。研究团队指出，生成式AI的“绑架”现象可能存在于更多环节，未来需探索低成本替代方案。目前，Zero-Mem的代码与数据集已公开，为AI记忆系统设计提供了全新范式。
