一项由多所顶尖科研机构联合完成的研究,在人工智能训练领域引发关注。该研究聚焦于强化学习场景下优化器的选择问题,通过系统实验验证了新型优化器Muon在特定条件下的显著优势。实验结果显示,在复杂任务环境中,Muon相比传统优化器AdamW可使模型训练效率提升近一倍,这一发现为AI训练优化提供了新思路。
研究团队构建了以文字交互为核心的虚拟家庭环境,要求AI模型完成包含物品拿取、清洁、温度调节等六大类任务。这些任务平均需要50个操作步骤才能完成,且仅在最终成功时给予奖励,中途正确操作无即时反馈。这种设计模拟了现实世界中结果导向、过程稀疏反馈的复杂场景,对模型长期决策能力构成严峻挑战。
实验采用阿里巴巴开发的5亿参数语言模型,在8块高端显卡上完成200轮训练。研究人员创新性地采用混合优化策略:仅对模型核心矩阵参数应用Muon更新,其余参数保持AdamW优化。这种设计既发挥了Muon在矩阵运算上的优势,又避免了全面替换可能带来的风险。实验过程中,团队系统比较了三种不同评分机制对训练效果的影响。
在步骤级评分框架GiGPO下,Muon展现出惊人表现。训练后期测试成功率从AdamW的29%跃升至54.6%,最终达到63.3%的绝对优势。特别在需要多步骤协调的加热、冷却任务中,改进幅度超过100%。训练曲线显示,Muon从第50轮开始持续领先,形成稳定上升态势,而AdamW的进步曲线则趋于平缓。
当采用更精细的图结构评分GraphGPO时,Muon的优势特征发生变化。虽然最终成功率仅从81%提升至82.8%,但训练效率获得质的飞跃:达到50%成功率的时间缩短30轮,75%成功率门槛提前60轮。这种"学得更快"的特性,在需要快速迭代的实际应用场景中具有重要价值。相比之下,简单轨迹评分的GRPO框架下,Muon的改进幅度降至67%,且主要集中在训练后期。
针对"Muon优势是否源于更大学习率"的质疑,研究团队进行了严格验证。当AdamW学习率提升至与Muon相同水平时,模型在第5轮即出现灾难性崩溃:生成响应长度异常、有效指令率归零、参数偏离初始状态等指标全面恶化。而Muon在同等学习率下保持稳定训练200轮,这证实其优势源于内在的谱归一化机制,而非简单的参数调整幅度。
进一步实验揭示了优化器与评分机制的协同效应。在启用步骤评分的条件下,Muon相比AdamW的优势从22%扩大至25.5%;而在关闭步骤评分时,两者差距仍达22%。这表明精细评分机制与Muon的更新方式存在互补关系:步骤评分提升信号质量,Muon则更有效地利用这些高质量信号。研究团队提出理论框架解释:Muon通过均衡各方向更新幅度,能够放大微弱但真实的信号,同时抑制强势方向的噪声干扰。
该研究也坦诚指出实验局限性:所有测试均基于单一小规模模型,在更复杂任务和更大模型上的表现有待验证;当前实现方式面临显存限制,需要开发分布式版本才能扩展应用;理论分析尚未通过直接测量梯度特性进行验证。尽管如此,这项研究通过严谨的实验设计,首次证明了Muon在强化学习场景的可行性,为优化器选择提供了新的评价维度。











