上海两会期间，人工智能技术的创新应用与规范治理成为代表委员讨论的重要议题。市人大代表、上海合合信息科技股份有限公司董事会秘书刘忱提出，生成式人工智能技术在电商领域催生的新型违法活动，已成为侵害中小商家权益的突出问题，亟需通过多方协同治理构建健康数字生态。
随着生成式人工智能技术门槛降低，部分不法分子利用AI工具批量生成虚假商品图片，通过伪造"商品破损""货物瑕疵"等证据，利用电商平台"仅退款"规则实施恶意索赔。这种新型"黑灰产"具有零成本、批量化、难辨别等特点，已形成完整的产业链条，对电商市场秩序造成严重冲击。
据刘忱分析，AI恶意应用带来的危害呈现多维度特征：商家不仅面临直接经济损失，还需承担高昂的维权成本；部分电商平台在网络安全投入方面存在短板，审核机制难以应对技术性造假；更严重的是，这种行为破坏了市场信用体系，动摇了公平交易的基础，对营商环境造成负面影响。数据显示，某电商平台去年因AI伪造证据导致的异常退款案件同比增长超过300%。
针对治理难题，刘忱建议构建"监管-技术-行业"三位一体的治理体系。在监管层面，主张由市场监管部门牵头，联合网信、公安等部门及行业协会开展专项整治，重点排查3C数码、美妆等高风险品类，建立高频索赔账号数据库。同时推动监管技术创新，要求平台部署AI生成内容检测系统，对审核流程实施常态化监督，并开设商家维权绿色通道，简化举证程序。
技术治理方面，他提出电商平台应升级智能风控系统，通过算法比对商品原始信息与退款证据，建立高频索赔账号预警机制。建议引入数字水印技术，要求商家对关键环节录像存证，形成完整的证据链。某头部平台试点显示，应用AI识别技术后，异常退款拦截率提升45%。
行业协同治理同样关键。刘忱呼吁建立跨平台信息共享机制，推动欺诈案例数据与恶意账号黑名单互通，实现联合管控。建议行业协会制定AI应用伦理规范，引导企业建立技术自律机制。目前已有部分平台开始共享风险账号信息，形成初步的协同防御网络。
