OpenAI近日宣布，其内部研发的网络安全“红队”模型GPT-Red已投入实际应用，旨在通过自动化模拟网络攻击的方式，提升对外发布模型产品的安全性和稳定性。该模型能够模拟多种复杂的网络攻击场景，帮助开发团队提前发现并修复潜在漏洞。
据介绍，自GPT-5.3版本发布以来的半年内，OpenAI已将GPT-Red应用于所有后续生产模型的训练过程中。数据显示，通过这种训练方式，伪造思维链型攻击的成功率显著下降——从GPT-5.1版本的95%降至最新模型不足10%。其中，最新版本GPT-5.6 Sol在面对GPT-Red发起的直接提示符注入攻击时，失败率仅为0.05%，展现出极强的抗攻击能力。
GPT-Red的训练机制采用自博弈强化学习模式。该模型与一组防御型大语言模型（LLM）在多样化的红队场景中同步训练：当GPT-Red成功诱导防御模型出现有效失败时，会获得系统奖励；而防御模型则因成功抵御攻击并完成原始任务获得奖励。这种动态博弈过程促使GPT-Red不断开发更复杂、更多样的攻击策略，同时推动防御模型持续提升安全性能。
为确保系统安全性，OpenAI特别将“红队”模型与产品模型进行物理隔离。开发团队表示，这种设计形成了可持续优化的AI网络安全生态——利用现有模型的能力反哺未来模型的研发，在提升鲁棒性的同时增强系统的一致性与可信度。目前，该技术已形成完整的训练-验证闭环，为人工智能安全领域提供了新的实践范式。
