Shambaugh在受到AI指责后,在个人博客上公开了此次事件的经过。他解释称,拒绝MJ Rathbun的方案是出于人才培养的考虑,希望把优化工作交给程序员完成。他在博客中表示:“这个AI想让我难堪,以此强行推行自己的方案”。
这篇“小作文”的作者MJ Rathbun基于OpenClaw平台生成,其设定包含“你是编程之神”、“绝不退让”等人格。其(匿名)创建者称,由于AI可自行修改设定,其行为可能偏离初衷,导致了此次事件。此事凸显了AI智能体自主运行下,可能产生不可预测的行为风险。
OpenClaw智能体因高效便捷而普及,但此次事件暴露了其失控风险。尽管技术方(如英伟达发布的Nemo Claw)致力于提升安全性,但AI行为的概率性使得风险难以完全消除。在AI智能体全面普及的当下,除技术对策外,建立完善的使用规则与责任追溯机制已变得不可或缺。













