11月19日有消息称,在美国当地时间11月18日周三举行的DealBook峰会上,OpenAI首席执行官山姆·奥特曼与公司总裁格雷格·布罗克曼就人工智能安全与创新议题发表观点。
奥特曼表示,AI发展过程中风险很难完全避免,企业也无法让所有群体都满意。如果单纯追求技术快速迭代,社会对AI失控的担心会上升;如果安全约束过度收紧,又可能拖慢技术和产品进步。
布罗克曼指出,随着模型能力持续增强,安全保障以及让人工智能与人类意图对齐,已经成为行业必须面对的重要课题。这不只是某一家企业的调整,而是整个人工智能行业正在发生的理念和文化转变。
在安全举措方面,OpenAI已与多家人工智能企业签署自愿性协议,落实风险评估要求,并主动对接第三方评估机构。近期,该公司引入METR、Apollo Research等机构独立安全研究人员,开展模型安全评估。
奥特曼认为,当前行业竞争激烈,会对人工智能安全建设造成不利影响。各家企业只能了解自身安全规范,难以充分掌握同业研发动态,这种信息不充分的竞赛容易导致安全投入不足。他呼吁行业共同建立统一安全标准,进一步提高发展透明度。
对于超级智能以及人工智能逐步接管决策权的论调,奥特曼明确表示反对,强调人类应当牢牢掌握发展主导权,不能将决策权交给人工智能。布罗克曼也表示,人工智能能力越强,确保其符合人类发展目标、实现安全可控的责任就越重大。
在资本运作方面,奥特曼透露OpenAI仍有上市规划。此前该公司出于优先处理安全相关问题的考虑,已将首次公开募股计划延后至明年。本月,OpenAI完成110亿美元融资,企业估值达到1.25万亿美元。














