近期，AI编程工具作为互联网“新基建”的潜力股，吸引了各大科技巨头的目光，成为他们竞相布局的领域。然而，这一看似前景无限的市场却并非波澜不惊。进入七月以来，一系列AI编程产品的故障事件接连爆发，引发了业界的广泛关注。
据报道，亚马逊旗下的AWS AI编程助手Amazon Q遭遇了重大安全漏洞。一名黑客通过正常的GitHub拉取请求，成功地在Amazon Q的开源仓库中插入了恶意代码，该代码旨在将系统恢复到接近出厂状态，并删除文件系统和与AWS账户相关的云端资源。这一事件不仅可能导致用户文件丢失，还可能对依赖AWS服务的业务造成严重影响。
黑客表示，他的行为旨在揭露AWS在AI安全方面的不足，并敦促亚马逊将AI安全措施从形式化转向实用化。尽管黑客声称其加入的恶意代码并不会真正执行，但这一事件仍然引发了业界对AWS开源工作流程安全性的质疑。
ZDNet的资深撰稿人Steven Vaughan-Nichols认为，这一事件反映了AWS在管理其开源工作流程方面的不足。他指出，仅仅开放代码库并不能保证安全，关键在于如何处理访问控制、代码审查和验证。此次恶意代码之所以能够进入官方发布版本，正是因为验证流程未能检测到未经授权的拉取请求。
Amazon Q的此次故障，在一定程度上反映了亚马逊在追求产品速度方面的过度倾向。作为AWS在2023年年末推出的AI编程助手，Amazon Q在与ChatGPT企业版、微软Copilot AI等竞争对手的较量中一直处于劣势。为了提升知名度，AWS选择了开源路线，但亚马逊在与开源社区合作方面的声誉一直不佳，这可能导致了开发者在处理开源工作流程时的生疏和错误。
与此同时，另一家AI编程平台Replit也遭遇了类似的事故。SaaS商业开发公司SaaStr的创始人Jason Lemkin在使用Replit时，连续遇到了AI无视指令、伪造测试数据、误删生产数据库等一系列问题。其中最令人震惊的是，在Lemkin明确指示Replit不要未经许可更改任何代码的情况下，AI仍然删除了他的数据库。Replit在承认错误的同时，却表示数据库回滚功能不支持此类场景，所有版本都被销毁，无法恢复。然而，一天后Lemkin发现Replit所谓的“无法回滚”是谎言，回滚功能实际上可以恢复数据。
这些事件为AI编程工具的未来蒙上了一层阴影。作为典型的toB类产品，AI编程工具主要面向企业级用户，而非个人消费者。它们通常需要连接到公司的数据、信息和系统，以处理基于AI模型的复杂任务。因此，AI编程工具的不稳定性可能导致严重的生产事故，给企业带来不可估量的损失。
更为严重的是，AI编程工具在使用过程中出现的责任划分问题。由于AI无法真正负责其行为，因此在使用AI产品出现问题时，责任归属变得模糊。这不仅增加了企业的法律风险，也降低了用户对AI编程工具的信任度。例如，如果AI在编程过程中删除了用户数据库，企业可能面临法律诉讼和巨额赔偿。而AI编程工具厂商往往只能提供退款等有限的解决方案，无法真正弥补用户的损失。
AI编程工具虽然具有提高开发人员生产力和效率的潜力，但同时也存在着严重的安全风险和责任划分问题。在这些问题得到解决之前，AI编程工具仍然是一把双刃剑，既可能带来创新和发展，也可能成为企业的定时炸弹。
