近期，网络空间中AI生成虚假信息的问题引发广泛关注。部分账号利用技术手段制造不实内容，通过AI换脸、声音克隆等方式假冒公众人物发布言论，或编造灾害事故等虚假图片视频，以此吸引流量甚至谋取利益。此类行为严重扰乱公共秩序，破坏网络生态健康。
针对这一乱象，中央网信办已展开专项整治行动。据通报，近期依法处置违规账号13421个，清理违法违规信息54.3万余条。监管部门明确表示，将持续强化对未标注AI生成标识的虚假内容的打击力度，形成常态化高压监管态势，坚决维护网络空间的清朗环境。
伴随技术普及，人工智能产业呈现爆发式增长。据专业机构统计，截至目前全国现存人工智能相关企业超500万家。仅2025年新增注册企业就达120.2万余家，近五年企业注册数量持续攀升，今年创下历史新高。从地域分布看，广东省以77.2万余家企业领跑全国，占比达15.45%，北京、江苏、山东、浙江四省市紧随其后，形成产业集聚效应。
业内人士指出，AI技术发展需与规范管理同步推进。一方面要鼓励技术创新应用，另一方面必须完善标识制度，强化平台审核责任。当前监管部门正通过技术手段与人工巡查相结合的方式，构建全链条治理体系，从源头遏制虚假信息传播。
