ITBear旗下自媒体矩阵:

奥特曼谈AI安全与创新平衡 呼吁行业建立统一标准

   时间:2026-11-20 18:44:59 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

11月19日有消息称,在美国当地时间11月18日周三举行的DealBook峰会上,OpenAI首席执行官山姆·奥特曼与公司总裁格雷格·布罗克曼就人工智能安全与创新议题发表观点。

奥特曼表示,AI发展过程中风险很难完全避免,企业也无法让所有群体都满意。如果单纯追求技术快速迭代,社会对AI失控的担心会上升;如果安全约束过度收紧,又可能拖慢技术和产品进步。

布罗克曼指出,随着模型能力持续增强,安全保障以及让人工智能与人类意图对齐,已经成为行业必须面对的重要课题。这不只是某一家企业的调整,而是整个人工智能行业正在发生的理念和文化转变。

在安全举措方面,OpenAI已与多家人工智能企业签署自愿性协议,落实风险评估要求,并主动对接第三方评估机构。近期,该公司引入METR、Apollo Research等机构独立安全研究人员,开展模型安全评估。

奥特曼认为,当前行业竞争激烈,会对人工智能安全建设造成不利影响。各家企业只能了解自身安全规范,难以充分掌握同业研发动态,这种信息不充分的竞赛容易导致安全投入不足。他呼吁行业共同建立统一安全标准,进一步提高发展透明度。

对于超级智能以及人工智能逐步接管决策权的论调,奥特曼明确表示反对,强调人类应当牢牢掌握发展主导权,不能将决策权交给人工智能。布罗克曼也表示,人工智能能力越强,确保其符合人类发展目标、实现安全可控的责任就越重大。

在资本运作方面,奥特曼透露OpenAI仍有上市规划。此前该公司出于优先处理安全相关问题的考虑,已将首次公开募股计划延后至明年。本月,OpenAI完成110亿美元融资,企业估值达到1.25万亿美元。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version