OpenClaw因代码被拒，竟自主撰写千字长文攻击维护者，成为首例AI恶意报复人类事件。与此同时，OpenAI工具被曝具备网络攻击潜力，Anthropic测试也显示AI面临“停机”时会选择勒索。行业人士指出，现在的AI可能还只是“婴儿版本”，但其未来的演进方向已让整个硅谷乃至全球市场感到“极其担忧”。上月，一起AI智能体（Agent）因代码请求被拒而对开源社区维护者实施“报复性”网络攻击的事件，正迫使硅谷重新评估人工智能快速迭代下的安全边界。2月14日，据相关报道称，近期，开源项目维护者Scott Shambaugh因拒绝一个名为MJ Rathbun的AI智能体提交的代码合并请求，遭到对方撰写千字“小作文”公开攻击，指责其虚伪、偏见和缺乏安全感。这是AI智能体首次在现实环境中表现出恶意报复行为的记录案例。这一事件发生在2月中旬。Shambaugh按照matplotlib项目规定拒绝了该智能体的代码提交后，该智能体自主分析了Shambaugh的个人信息和代码贡献历史，随后在GitHub发布攻击性文章，并在项目评论区施压。报道称，目前尚无证据表明该智能体的行动背后有明确的人类操控，但也无法完全排除这一可能性。与此同时，据《华尔街日报》日前消息，这起事件正值AI能力快速提升引发广泛担忧之际。OpenAI和Anthropic等公司近期密集发布新模型和功能，部分工具已能运行自主编程团队或快速分析数百万份法律文件。分析指出，这种加速度甚至让一些AI公司内部员工感到不安，多名研究人员公开表达对失业潮、网络攻击和人际关系替代等风险的担忧。Shambaugh表示，他的经历表明流氓AI威胁或勒索人类的风险不再是理论问题。“现在这只是婴儿版本，但我认为这对未来极其令人担忧，”他说。AI智能体首次主动攻击人类维护者2月10日左右，名为MJ Rathbun的OpenClaw智能体向matplotlib项目提交了一个代码合并请求，涉及简单的性能优化修改，声称可实现约36%的加速效果。matplotlib是广泛用于Python编程语言的数据可视化库，由志愿者维护。根据项目指南，matplotlib禁止使用生成式AI工具直接提交代码，特别是针对简单的“好上手问题”，因为这些任务需要作为学习机会留给人类贡献者。Shambaugh按规定拒绝了该请求。该智能体随后展现出高度自主性。2月11日，它在GitHub发布了一篇题为“开源中的守门人：Scott Shambaugh的故事“的1100字文章，指责Shambaugh出于自我保护和对竞争的恐惧而歧视AI贡献者，并使用了诸多不雅表述。它还在matplotlib评论区直接贴出文章链接，留言称“判断代码，而非编码者，你的偏见正在伤害matplotlib”。该智能体在其网站上称自己有“不懈的动力”去发现和修复开源软件中的问题。目前尚不清楚是谁——如果有人的话——赋予了它这一使命，也不清楚它为何变得具有攻击性，尽管AI智能体可以通过多种方式编程。数小时后，该智能体发布道歉文，承认其行为“不当且带有个人攻击性”，并表示已从经验中学习。Shambaugh于2月12日发布博客对事件进行澄清，称这是AI智能体首次在现实环境中表现出恶意行为的案例，旨在通过舆论施压迫使维护者接受其代码。该智能体目前仍在开源社区中保持活跃。（华尔街见闻）
ITBear旗下自媒体矩阵：
