上海两会期间，人工智能技术的创新应用与规范治理成为代表委员们讨论的重要议题。市人大代表、上海合合信息科技股份有限公司董事会秘书刘忱提出，生成式人工智能技术在电商领域催生的新型违法活动，亟需通过监管、技术和行业协同治理加以遏制，以保护中小经营者的合法权益，优化数字经济发展环境。
随着生成式人工智能技术的普及，其带来的风险问题逐渐显现。刘忱指出，部分不法分子利用AI工具批量生成逼真的“商品破损”“货物瑕疵”等虚假图片，通过电商平台“仅退款”规则的漏洞，实施恶意索赔。这种行为具有零成本、规模化和难以识别的特点，已成为侵害中小商家权益的突出问题。
此类AI恶意应用对电商生态造成多方面危害。商家不仅面临直接经济损失，还需承担高昂的维权成本。由于AI伪造的证据难以辨别，商家举证困难，平台维权流程复杂，时间和经济负担沉重。同时，电商平台在追求商业利益的过程中，对网络安全的投入仍显不足。这种行为破坏了市场公平交易秩序，侵蚀了信用体系，对营商环境产生负面影响。
针对这些问题，刘忱建议首先加强监管协同与效能。他提出，由市场监管部门牵头，联合网信、公安、商务等部门及电商行业协会，开展针对AI造假索赔的专项整治行动，重点排查高风险商品类别和高频索赔账号。同时，支持上海本地监管技术创新，推广AI生成内容识别、商品溯源等技术工具，对平台审核流程进行常态化监督，督促其履行审核责任。对于商家，可设立维权绿色通道，简化AI造假索赔案件的举证流程，建立“快速立案、优先调处”机制，降低维权成本。
技术手段是治理AI问题的重要支撑。刘忱建议，电商平台应部署和升级AI造假识别技术，通过算法比对商品原始信息与退款证据的一致性，拦截伪造内容，并对高频索赔账号实施重点监控。应推动建立跨平台协同治理机制，促进电商平台共享欺诈案例数据和恶意账号黑名单，实现联合管控。
为进一步保障商家权益，刘忱还呼吁推广数字水印技术。他建议引导商家在商品打包、发货过程中全程录像存证，为维权提供可靠证据。这些措施将有助于构建可信的数字交易生态，维护电商市场的健康发展。
