为进一步规范人工智能应用发展秩序，中央网信办近期持续推进“清朗·整治AI应用乱象”专项行动，首阶段整治工作已取得阶段性成效。据统计，专项行动开展以来，全国网信系统累计处置违规AI产品1.4万余款，清理违法违规信息超600万条，对2.6万余个问题账号采取处置措施，下架违规AI商品1300余件，并清理9个存在安全隐患的开源数据集。
针对人工智能领域存在的备案缺失、内容审核漏洞、数据安全风险等突出问题，专项行动重点围绕大模型备案登记、平台审核机制、生成内容标识等关键环节展开治理。各地网信部门创新监管方式，形成多维度治理格局：北京市建立“四查联动”机制，通过平台自查、常态巡查、技术筛查和线索核查相结合的方式，及时下架问题应用；上海市指导互联网平台完善举报处理流程，要求定期发布治理公告；浙江省从模型训练、语料安全等环节入手，组织企业开展语义判断能力优化专项整改；江苏省开设专项举报通道，重点收集数据投毒、标识缺失等五类违法线索；广东省构建多部门协同监管体系，综合运用技术监测、现场检查等手段实施全链条治理。
互联网企业积极响应监管要求，主动强化技术管控措施。华为应用商店新增生成式AI服务专项审核流程，确保上架产品符合备案要求；阿里巴巴升级数字指纹比对系统，将关键词拦截精度提升至新水平；智谱科技研发多模态审核模型，有效识别复杂对话场景中的违规内容；稀宇科技建立AI行为监测机制，实时阻断病毒编写、钓鱼攻击等恶意操作；DeepSeek在数据采集环节部署异常检测算法，防止恶意样本注入影响模型训练。
根据工作部署，专项行动第二阶段将重点整治利用AI技术传播虚假信息、制作暴力低俗内容、实施网络仿冒诈骗、侵害未成年人权益等违法违规行为。监管部门将加大对违规账号和机构的惩处力度，强化AI应用全生命周期管理，推动互联网平台完善技术防控体系，持续净化网络空间环境，促进人工智能技术健康有序发展。
