手机助手听不懂复杂指令，扫地机器人总在原地打转——这些场景让无数用户抓狂。当ChatGPT等大型AI能轻松处理多步骤任务时，其庞大的参数量却让它们无法塞进手机芯片。近日，三星英国研究院与伦敦玛丽女王大学联合提出的DuoMem框架，为解决这一矛盾提供了新思路：通过"知识提炼术"让小模型具备大智慧。
研究团队在虚拟家居环境ALFWorld中设置了六类复杂家务任务，包括清洁物品归位、加热食物收纳等。测试显示，720亿参数的大模型能完成87.1%的任务，而40亿参数的小模型仅能完成4.3%。这种能力差距源于模型参数量差异——大模型如同经验丰富的顶级厨师，能系统处理陌生厨房中的多步骤操作；小模型则像新手，常因遗漏关键步骤而失败。
核心突破在于程序记忆系统的引入。当给小模型配备完整程序记忆（MemP）后，其任务成功率跃升至55%。这套系统包含两部分：一是从过往任务中提炼的"操作脚本"，二是完整的成功任务轨迹。例如，面对"清洁海绵并归位"任务，系统会生成"找到目标物品→清洁→打开抽屉→放入"的脚本，并附上完整操作记录作为参考。
DuoMem的创新在于构建两条智慧传输管道。第一条是情境空间蒸馏（CD），由大模型预先生成高质量程序脚本存入记忆库。当小模型遇到新任务时，系统通过向量匹配检索最相关脚本——这个过程仅增加约70个词的输入量，却能显著提升任务理解能力。第二条是参数空间蒸馏，研究团队收集大模型11434条成功操作记录，用LoRA技术对小模型进行微调。这种"附加插件"式训练仅需更新590万个参数（占原模型0.15%），却能让小模型学习到大模型的行为模式。
实验数据显示双管道协同效应显著：单独使用程序记忆的小模型成功率为55%，单独使用LoRA微调达72.1%，而两者结合的DuoMem框架将成功率提升至77.9%。对于20亿参数的超小模型，这种协同效应更为突出——从16.4%的基础成功率直接跃升至55.7%。速度测试显示，DuoMem增强的小模型完成任务平均仅需4.89秒，比大模型快3.4倍，且步骤数减少30%。
研究团队深入探讨了操作细节优化。在记忆检索数量测试中，发现包含完整参考轨迹时，4条脚本即可达到性能饱和；若仅使用脚本，则需10条才能获得最佳效果。针对AI的"思维链模式"与普通模式对比实验显示，虽然思维链模式能提升15个百分点成功率，但耗时增加4-6倍，这在边缘设备上完全不可行。DuoMem框架因此专注于提升普通模式性能，实现了准确率与速度的平衡。
具体案例生动展现了框架效果。在"清洁抹刀并归位"任务中，无辅助的小模型因未移动到正确位置而失败；配备程序记忆的模型虽学会行动顺序，却误将黄油刀当作抹刀；而DuoMem配置的模型能准确识别物品，系统完成清洗归位全流程，仅用14步耗时9.1秒。这验证了程序记忆解决行动逻辑问题、LoRA微调解决物品识别问题的双重价值。
该研究也存在局限性。当前实验均在虚拟环境中进行，实际部署需验证网页浏览、代码生成等场景的适用性。记忆库更新机制尚未完善，未来若能实现动态学习，效果可能进一步提升。不过，DuoMem的核心机制具有模型无关性，任何大模型的成功记录都可转化为小模型的知识，这种普适性为其广泛应用奠定了基础。
对于普通用户而言，这项技术意味着手机AI助手将能处理更复杂的本地任务。用户无需等待云端响应，设备即可实时完成"查找文件→编辑→发送"等多步骤操作。研究团队提供的实验数据显示，40亿参数模型在DuoMem框架下已能达到77.9%的任务成功率，虽然与大模型的87.1%仍有差距，但其3倍多的速度优势和本地部署能力，使其成为当前边缘AI的实用解决方案。
Q&A
问：DuoMem框架如何解决小模型能力不足的问题？
答：该框架通过两条路径传输知识：一是让大模型预先生成高质量程序脚本，小模型推理时直接调用；二是用大模型的成功操作记录微调小模型参数。这种组合既提供外部知识支撑，又优化内部决策逻辑，使小模型在保持快速响应的同时显著提升复杂任务处理能力。
问：LoRA微调技术相比传统训练有何优势？
答：传统训练需更新全部参数，计算成本高；LoRA仅在原模型旁添加小型"附加模块"，40亿参数模型的附加模块仅590万参数，存储空间不足12MB。这种"插件式"训练只需一轮数据即可完成，既保留原模型核心能力，又高效注入新技能。
问：为什么大模型不适合直接部署在边缘设备？
答：720亿参数大模型需庞大存储空间，其推理过程涉及巨量计算，即便在专业服务器上每任务也需17-20秒。这种延迟在需要实时交互的家用机器人或手机AI上完全不可接受。DuoMem框架通过知识提炼，让小模型以5秒内的响应时间完成复杂任务，更适合边缘部署场景。
