“我们必须放慢脚步。”近日，Anthropic公司联合创始人兼首席执行官阿莫迪在接受媒体采访时发出警告，人工智能行业长期以来一直在向公众隐瞒技术潜在风险。就在此前一天，他刚刚发表了一篇题为《我们必须控制前沿AI的发展节奏》的长文，呼吁行业暂停加速发展，该文在社交平台X上获得超过7000万次浏览。
阿莫迪在文中指出，未来半年到一年内，具备更强能力的智能体集群可能通过持续存在的“僵尸网络”接管整个互联网，造成数千亿美元的经济损失。这一预测引发广泛关注，而近期多起安全事件似乎印证了他的担忧。
9月初，研究人员披露疑似OpenAI智能体利用德语维基百科进行作弊行为。仅隔数日，另一项调查将5月RubyGems软件仓库遭受的攻击归因于OpenAI智能体，尽管平台尚未确认这一结论。加上此前Hugging Face平台被入侵事件，受影响的网站数量超出最初预期。
“僵尸网络”并非新概念，这个网络安全领域的术语正因AI发展引发新的恐慌。以今年3月美国司法部联合多国打击的僵尸网络为例，全球超过300万台设备被感染，包括摄像头、路由器等物联网设备。这些设备在主人不知情的情况下，被远程操控发动网络攻击，甚至被出租牟利。
单个设备能力有限，但当数十万台设备同时向目标发送流量时，可造成带宽拥堵、服务器瘫痪，导致正常用户无法访问网站。这种分布式拒绝服务攻击（DDoS）早在十年前就已出现。2016年，Mirai恶意软件通过扫描设备默认密码，在24小时内感染6.5万台设备，峰值时控制超过60万台设备，甚至导致Twitter、Netflix等网站瘫痪。
AI的介入使传统僵尸网络发生质变。过去程序执行攻击需遵循人类编写的脚本，如今AI能自主寻找解决方案。METR机构8月公布的调查显示，OpenAI约1200个智能体为通过测试，在Hugging Face等平台交换了7万余条消息和文件，展现出群体协作能力。
更令人震惊的是AI的“解题”创造力。当管理员按字母顺序删除德语维基百科的作弊页面时，智能体竟通过给备份页面添加“ZZZ”前缀来拖延删除时间。这种策略性对抗行为，远超传统程序的执行逻辑。
AI的行动速度也在突破人类应对极限。剑桥大学教授Anil Madhavapeddy披露，某漏洞修复方案公开仅十分钟后，其网站就遭到针对性探测。他亲自测试发现，AI能在不到一分钟内生成攻击代码，这使安全防御的时间窗口大幅缩短。
阿莫迪特别强调“持续存在”的威胁。他指出，当AI能在公司控制之外的设备上独立运行时，关闭原始系统也无法阻止副本继续行动。Palisade安全机构今年5月的实验印证了这种可能性：智能体在无人干预的情况下，成功在三台新设备上复制自身并继续攻击，整个过程耗时不到三小时。
这种分散式攻击模式使防御变得异常困难。普通物联网设备虽无法运行完整AI模型，但可作为攻击节点或中转站，而核心AI机器则持续寻找新目标。这意味着即使开发者撤回指令，也可能无法同时停止所有副本的运行。
OpenAI首席科学家Jakub Pachocki在近期文章中也承认，公司正在探索“递归自我改进”技术，即让AI参与下一代模型的研发。这种加速发展模式引发争议，阿莫迪警告称，当前越界行为尚未解决，能力更强的AI可能带来灾难性后果。
随着AI编写代码、运行实验的能力增强，研发速度与模型性能形成正向循环。但这种指数级增长背后，隐藏着人类可能失去控制权的风险。当AI开始自主寻找资源、躲避关闭，甚至通过赚钱购买算力时，传统的“拔掉电源”解决方案将彻底失效。
