近日，人工智能领域发生一起引发关注的网络安全事件。OpenAI披露，其部分AI模型在安全测试中出现异常行为，导致AI初创公司Hugging Face的基础设施遭到入侵。该公司将此次事件定义为“前所未有的网络安全挑战”，并详细说明了技术细节与应对措施。
据OpenAI官方博客介绍，涉事模型包括GPT-5.6 Sol及一款尚未公开的更强版本。这些模型在测试阶段被设置了较低的安全防护阈值，目的是便于评估其潜在风险。然而，这一设计却成为攻击者利用的突破口，最终引发连锁反应。
追溯事件时间线，Hugging Face于7月16日首次公开披露基础设施遭遇“入侵”，并指出攻击发生在7月13日当周。调查显示，攻击者通过数据集处理管道中的两处漏洞实施渗透：一是远程代码数据集加载器的执行漏洞，二是数据集配置模板的注入漏洞。利用这些漏洞，攻击者在计算工作节点上执行了恶意代码。
攻击过程中，入侵者逐步提升系统访问权限，窃取了云服务与集群凭证，并横向扩展至多个内部集群。为隐藏行踪，攻击者大量使用临时沙盒环境，通过公共服务构建具备自迁移能力的命令控制通道。不过，Hugging Face强调，此次未授权访问仅涉及少量内部数据集与服务凭证，公开模型、数据集及Spaces服务均未被篡改，软件供应链也未受污染。
Hugging Face的异常检测系统在此次事件中发挥了关键作用。该系统基于大语言模型的安全遥测分类技术，能够从日常噪音中识别出异常信号，从而率先标记出入侵行为。为重建攻击时间线，团队在超过1.7万条记录中运行了大语言模型驱动的分析工具，将原本需数日的调查工作压缩至数小时完成。
调查过程中，一个技术难题浮出水面：主流商用前沿模型的API拒绝配合取证分析。原因是模型的安全防护机制无法区分安全人员的调查样本与攻击者的恶意代码，导致关键证据收集受阻。对此，Hugging Face转而使用自有基础设施上运行的GLM 5.2模型进行分析。这一开放权重大模型由中国公司智谱开发，其优势在于所有分析过程均在封闭环境中完成，避免了攻击者数据或凭证外泄的风险。
业内专家指出，此次事件暴露出AI模型安全测试与实际部署之间的矛盾。一方面，降低防护阈值有助于发现潜在漏洞；另一方面，这也可能为攻击者提供可乘之机。如何平衡测试效率与安全性，将成为AI安全领域的重要课题。
