当地时间11月20日,OpenAI发布公告,介绍其针对对抗性蒸馏的防御部署。11月21日有消息称,这家公司正在加强对GPT-6.2 Astra和GPT-6.2 Sol内部推理思考链的保护,目标是降低其他模型通过提取推理过程获得能力的风险。
按照OpenAI的解释,对抗性蒸馏是在未获授权的情况下,利用前沿AI模型的输出训练其他模型。被训练出的模型可能表现出相近能力,却缺少原模型对应的安全防护。OpenAI担忧,这种行为会让网络安全、生物学等领域的高风险能力流入安全限制更弱的模型。
为评估防护效果,OpenAI进行了内部自适应黑盒红队测试,考察攻击者能否提取模型此前请求和当前请求中的受保护推理内容。测试覆盖6个攻击模型。结果显示,针对此前请求推理内容的提取成功率从GPT-6 Astra原有安全机制下的54.0%降至GPT-6.2 Astra更新安全机制后的0.2%;针对当前请求推理内容,提取成功率从22.9%降至0.9%。
OpenAI采用多层措施实现上述防护,包括通过对抗性训练让模型识别并拒绝推理链提取请求,借助输入和输出分类器检测攻击行为和推理内容泄露,并在API层面限制不同会话、模型和组织之间复用推理内容。
其中,GPT-6.2 Astra和GPT-6.2 Sol会把受保护的推理内容与生成它的对话历史关联。如果此前消息被修改,API将丢弃基于该消息生成的后续推理内容。安全防护较弱的旧版模型也无法读取这两个新模型的受保护推理内容。
在执法方面,OpenAI表示,今年以来公司每周都会对涉及未经授权蒸馏活动的账号采取措施,规模从数千个到数万个不等;今年夏季以来,相关执法规模明显增加。公司还会调查协调进行大规模提取的账号网络,并与其他模型提供商分享攻击指标,以协助识别滥用行为。
OpenAI还介绍了关于蒸馏安全风险的内部研究。测试发现,与只使用模型最终回答、推理摘要和工具交互记录训练的学生模型相比,使用教师模型完整推理轨迹进行监督微调的学生模型,通常能获得更好的网络安全能力迁移效果。











