ITBear旗下自媒体矩阵:

OpenAI公开反蒸馏机制 每周处置数千至数万账号

   时间:2026-11-21 10:27:08 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

OpenAI今天凌晨发布了一份名为《打击对抗性蒸馏》的报告,回应外界关注的账号封禁与模型防抄袭问题。

报告称,自今年夏季以来,平台针对利用账号矩阵和分布式请求批量提取模型能力的协同行为,持续展开清理。部分账号网络被整体处置,每周封禁规模从数千到数万不等。

OpenAI把这类行为描述为对抗性蒸馏:攻击者试图用大量请求拼凑模型的底层逻辑,从而绕开正规授权,低成本复制模型能力。

在OpenAI看来,蒸馏不只是侵权问题,还可能带来安全风险。被复制的能力若脱离原有安全防护,可能被用于生成恶意代码或危险配方等场景。

为减少此类提取,OpenAI将防线分成多个层面。模型训练阶段引入对抗训练,让系统分辨正常提问与试图套取推理过程的请求,并拒绝给出内部思维链。

输出分类器也被用于拦截隐蔽泄露。有些模型会把推理片段藏在工具调用参数中,分类器会检查这些位置,避免敏感过程绕过最终答案流出。

API层面的限制更直接影响开发者。GPT-6.2 Astra与GPT-6.2 Sol把推理过程与对话历史绑定,一旦修改前序提示词,后续推理内容会失效,反复调整上下文来套取内容的做法难以继续。

跨模型和跨会话隔离则堵住旧漏洞。防护较弱的老模型不能读取新模型的推理记录,此前通过加密思维链转移和诱导复述的攻击路径也已被封堵。

OpenAI用6个AI攻击模型进行测试。报告给出的数据显示,在模拟生产环境中,针对上一轮对话受保护推理的攻击,旧防线下的GPT-6 Astra平均成功率为54.0%,更新后的GPT-6.2 Astra降至0.2%;针对本轮对话推理的攻击成功率也从22.9%降到0.9%。

目前,GPT-6.2 Sol已上线这套防护,GPT-6 Astra也在修补。OpenAI表示,会把发现的攻击手法转为回归测试,并计划把相关经验分享给行业伙伴。

报告末尾,OpenAI表态支持美国《芯片安全法案》《人工智能监管法案》和《MATCH法案》,希望通过硬件出口管制限制对手获得前沿芯片。对于美方以安全为由推进技术封锁、泛化国家安全概念的做法,中国一贯主张开放合作,反对人为设置产业壁垒。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version