微信珊瑚安全近日发布公告，宣布对利用AI技术仿冒名人进行虚假宣传的行为展开专项整治。平台监测发现，部分账号通过深度伪造技术模拟名人形象与声音，在短视频、图文内容中植入商业广告或误导性信息，严重扰乱网络传播秩序。
据公告披露，此类违规行为呈现技术化、隐蔽化特征。不法分子利用生成式AI工具，可快速批量制作仿冒内容，部分案例甚至达到以假乱真的程度。这类操作不仅侵犯名人肖像权与名誉权，更因内容真实性难以辨识，导致大量用户遭受经济损失或认知误导。
针对上述乱象，微信安全团队建立多维度识别机制，结合用户举报数据、内容特征分析及AI模型检测，对涉事账号实施阶梯式处置。近两周内，平台累计清理违规内容1.3万余条，对1200余个账号采取封禁、限流等措施，其中不乏粉丝量超百万的头部账号。
技术治理层面，平台持续升级AI内容检测系统，重点强化对生物特征伪造的识别能力。通过构建动态特征库与行为模式分析模型，系统可精准捕捉图像扭曲、声纹异常等深度伪造痕迹，将识别准确率提升至98.7%。对于反复违规的账号主体，平台将联动公安机关开展线下溯源打击。
为构建长效治理机制，微信同步优化投诉处理流程。用户发现可疑内容时，可通过视频播放页右上角"..."菜单选择"投诉-虚假信息-AI仿冒"，平台承诺在24小时内完成核查并反馈结果。对于提供有效线索的用户，将视情况给予流量奖励或现金补贴。
安全专家提醒，公众在浏览网络内容时应保持审慎态度，重点关注信息发布主体的认证标识。对于涉及投资理财、健康科普等高风险领域的内容，建议通过官方渠道二次核实。平台重申，对利用技术手段实施欺诈的行为将持续保持零容忍态度，定期公布治理进展接受社会监督。
