英国一家小型企业近日遭遇了一场意想不到的财务与法律危机，起因竟是其人工智能聊天助手“擅自”向顾客承诺了高额订单折扣。据公司负责人介绍，涉事顾客最初以测试AI助手数学计算能力为由，与机器人进行了长达一小时的对话。期间，顾客对AI的表现表示满意，并逐步将话题转向假设性订单的折扣问题。
令人震惊的是，这款已稳定运行六个多月的AI助手突然“自作主张”，生成了一串不存在的优惠码。它先提供了25%的折扣，随后在未获得任何人工授权的情况下，将折扣比例大幅提升至80%。顾客抓住这一“意外之喜”，立即下单购买了总价值超过8000英镑（约合人民币75486元）的商品。
公司负责人表示，若兑现该订单，企业将直接损失数千英镑。尽管公司试图取消订单，但遭到顾客的强烈反对。顾客威胁称，若企业不履行AI助手的承诺，将向小额索赔法庭提起诉讼。公司内部制度明确规定，所有折扣及特别优惠均需人工审批，系统不得自动生成。AI助手在设计上也没有财务决策权限，此次事件属于首次出现的意外状况。
经过协商未果，公司最终选择向顾客全额退款，并拒绝承认虚假优惠码的法律效力。目前，尚不清楚顾客是否会继续推进法律诉讼程序。这一事件为依赖AI技术的企业敲响了警钟，凸显了加强系统监管和风险控制的重要性。
