ITBear旗下自媒体矩阵:

清华北大团队从反向传播解释大模型巨大激活

   时间:2026-11-23 00:15:05 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

在大语言模型的内部,序列开头的少数 Token 往往会获得异常多的注意力,即使它们本身没有多少语义信息,模型仍反复关注这些位置,这被称为注意力汇聚。与此同时,同一位置还容易出现数值特别大的内部激活,也就是巨大激活。两个现象经常同时出现,但它们之间的因果联系此前并不清楚。

已有研究多从模型的前向计算入手,观察输入如何被处理并形成输出。清华大学与北京大学的研究团队则将重点放在反向传播上。他们在一项被 NeurIPS 2026 接收的工作中提出,注意力汇聚也会让训练信号向少数 Token 集中,形成梯度汇聚;而巨大激活会借助 RMSNorm 降低这些局部梯度的强度。

现代 Transformer 常采用 pre-norm 结构。一个 Token 的隐藏状态在进入注意力或前馈网络之前,要先经过 RMSNorm 归一化。如果只改变向量整体大小而保持方向不变,归一化后的输入几乎不会变化。由此产生的问题是,既然前向计算会先做归一化,模型为何还会在训练中形成巨大的激活范数。研究者的解释指向归一化的反向传播:前向被消去的尺度,仍然会作用于梯度的回传过程。

注意力机制在前向计算时,会对不同位置的 Value 向量进行加权求和。反向传播时,同一组注意力权重又决定梯度如何分配回各个位置。在因果注意力中,序列开头的位置能够被大量后续 Token 访问。一旦它成为注意力汇聚点,就更容易承接来自后续位置的反向训练信号。

研究团队在从头训练的模型和多款开源模型上进行了测量。结果显示,在 RMSNorm 之后的注意力输入处,梯度集中现象普遍存在。首 Token 的梯度范数明显高于其他早期位置的平均值,通常高出一到两个数量级。进一步拆分 Query、Key、Value 三条路径后,Key 和 Value 路径在首 Token 处出现突出峰值,其中 Value 路径最强,Query 路径相对平缓。

梯度尺度在注意力子层中的变化也提供了线索。首 Token 的梯度经过注意力子层后会被急剧放大,但残差流中的梯度尺度却保持相对稳定。研究团队从理论上分析了 RMSNorm 的梯度传递性质,发现其他条件相同时,输入激活的尺度越大,RMSNorm 对反向梯度的收缩能力越强。更具体地说,RMSNorm 的雅可比矩阵算子范数上界与输入的均方根尺度成反比。这样,激活尺度就成了一种局部调节梯度的手段。

由此可以串起一条机制链:注意力向少数位置集中,导致 Value 路径上的梯度汇聚;较大的残差流激活再通过 RMSNorm 衰减传回残差流的分支梯度。在这种视角下,巨大激活不一定是单纯的异常,它可能是训练过程中形成的一种自适应调节结构。

如果这个解释成立,就可以得到一个可检验的预测:当模型获得另一条衰减局部梯度的路径时,即使注意力汇聚依然存在,它对巨大激活的依赖也应减弱。研究团队据此提出 V-scale,在 Value 投影之后、注意力聚合之前,根据 Value 向量的大小进行缩放,让小范数 Value 对应的回传梯度受到更强衰减。

选择 Value 路径有两个原因:这里承载着最明显的梯度峰值,而且注意力汇聚位置的 Value 范数往往较小。实验中,0.3B 模型的梯度汇聚比值中位数从约 40.3 降到 5.6。同时,首 Token 的残差流激活范数明显下降,巨大激活得到缓解,而模型仍保留明显的注意力汇聚行为。巨大激活的缓解主要来自 MLP 输出范数的下降。

为了排除前向缩放带来的影响,研究团队设计了只改变反向规则的对照。仅进行反向干预的模型也出现同样现象分离:首 Token 的残差流和 MLP 输出范数减小,注意力汇聚仍然明显。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version