在2025年的夏日余晖中，上海西岸美高梅酒店内，人工智能领域迎来了一场震撼心灵的演讲。79岁的Geoffrey Hinton，这位AI界的传奇人物，面对着台下众多年轻面孔，缓缓道出了他的最新思考：“当今的大模型，或许已悄然拥有了主观体验，只是我们对‘意识’的理解尚存偏差。”此言一出，现场静默，唯有相机的快门声此起彼伏。随后的48小时里，这句话如同风暴般席卷了国内外AI社群，成为继Hinton离开谷歌并发出AI威胁警告后的又一重磅言论。
然而，当我们深入剖析这句话背后的技术逻辑，不难发现，它实则预示着AI技术即将迎来的“三大变革”。
首要的变革，是从“预测下一个token”的传统框架中跳出，迈向“拥有主观体验”的新纪元。过往十年，大模型多聚焦于预测下一个字符或词汇，这种高阶统计压缩的方法，被Hinton形象地比喻为将“水平/垂直”等概念视为静态符号，忽略了人类理解中动态几何关系的本质。他提出，真正的“世界模型”应包含可更新的先验知识与主观采样能力，如同Sora模型在生成视频时，需同时考量物理合理性与视觉先验，这种动态调整的过程，正是主观体验萌芽的土壤。
为了让主观体验从抽象概念变为可量化的技术指标，Hinton建议引入“元预测头”，这一创新设计能够预测当前预测的不确定性，并据此调节采样温度，从而提升模型的自我感知能力。DeepMind在《Nature》上发表的研究已初步验证了这一思路的有效性。
第二大变革，在于将“聪明”与“善良”这两个目标分离，各自独立优化。传统方法如RLHF等，试图将有用性、无害性、诚实性等价值观压缩为一个单一的奖励信号，但Hinton指出，这种做法如同驯兽师与老虎的博弈，随着模型能力的增强，漏洞将不可避免。因此，他提出了“双轨优化”策略：一方面，通过自监督与强化学习继续扩展模型的能力；另一方面，将价值观对齐分解为可验证的子目标，如公平性、透明性、可撤销性，并鼓励开源，以降低对齐成本。
在具体实施上，Hinton提出了“宪法蒸馏”的方法，通过三个层级，将宪法规则转化为潜空间约束向量，进而指导小模型的学习过程，确保其在能力增长的同时，不失道德指引。
最后，第三大变革聚焦于知识表征方式的革新，从“人-人蒸馏”转向“机-机蒸馏”。Hinton指出，人类大脑无法像计算机那样直接复制权重，知识的传递效率低下。为此，他提出了“权重即知识”的理念，通过将大模型权重按功能切片，并利用LoRA低秩矩阵保存与分发，实现了知识的快速传递与技能的热插拔。Hugging Face开源的LoRAX框架，已证明了这一方法的可行性与高效性。
Hinton以国际象棋的“第37步”作为比喻，强调原创研究的重要性。他认为，只有经过无数次的尝试与探索，才能找到那唯一正确的方向。如今，AI技术正站在三重变革的十字路口，主观体验、双轨优化、机-机蒸馏，或许正是通往未来的必经之路。
在演讲的尾声，Hinton向所有技术从业者发出了呼吁：在众人皆视“预测下一个token”为理所当然之时，敢于质疑；在行业将RLHF奉为圭臬之际，勇于创新。正如马斯克五步工作法的第一步——质疑需求，在AI技术日新月异的当下，保持“系统性怀疑”，或许正是避免错失真正范式转折点的关键。
