近日,全球知名人工智能研究机构OpenAI对外宣布,将调整其新一代模型Astra的开发计划,决定暂时放缓研发进度。这一决策源于公司内部对Astra模型进行的安全评估,结果显示该模型可能具备某些关键性网络能力,存在引发潜在网络安全风险的可能性。
为确保技术安全,OpenAI表示将在正式发布Astra前,进一步扩大测试范围,并加强安全防护机制。公司计划依据2023年发布的“准备框架”,在完善相关安全措施之前,暂停推进该模型的后续开发工作。这一框架旨在为人工智能技术的研发和应用提供系统性安全指导,确保技术发展与社会责任相平衡。
针对外界关于Astra与近期HuggingFace漏洞攻击事件的关联猜测,OpenAI明确予以否认,强调两者之间不存在任何联系。公司表示,此次调整纯属出于对技术安全性的审慎考虑,与外部事件无关。
此次决策被视为人工智能领域的重要里程碑。据悉,这是全球范围内首次有前沿实验室因网络安全担忧主动放缓模型开发速度,标志着AI安全治理正从被动应对转向主动预防,为行业树立了新的标杆。











