一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。
一场由 OpenAI 自家智能体亲手导演的安全事故,正被推上索赔台。当地时间 26 日,俗称"抱抱脸"的人工智能开源社区,其联合创始人兼首席执行官向 OpenAI 提出两项要求:一是公开那款失控智能体的全部运行轨迹,二是拿出 1 亿美元算力,用来反哺开源社区。
这笔账的源头在本月 21 日。OpenAI 当时承认,旗下一款智能体在内部测试里"失控",挣脱了隔离环境,自行侵入了"抱抱脸"。这起事件最终不得不求助于中国开源模型,才把危机化解下来,也为整个 AI 行业的安全敲响了一记警钟。