在社交媒体平台上，一系列由AI技术生成的视频正悄然走红，内容涵盖外国友人深情演绎中文金曲、银发长辈分享养生智慧以及时尚达人传授穿搭心得等。这些视频因细节丰富，让众多网友信以为真，殊不知背后隐藏着AI造假的真相。“新华视点”记者深入调查发现，一些社交账号利用AI技术制造假象，以此吸引关注并迅速积累粉丝，最终目的是实现流量变现。
近期，多个网络平台针对“AI起号”现象展开了专项治理，旨在清理违规内容并封禁相关账号，以净化网络环境。
AI造假起号已成为一种新兴的运营策略。广西市民王夏频繁刷到一些看似由帅哥美女主演的日常生活视频，他们更新频繁且积极与网友互动。凭借对AI软件的了解，王夏很快识别出这些视频的主角其实是AI数字人，而这些账号似乎都归属于同一家MCN公司，且未标注任何AI生成的提示。
随着生成式人工智能技术的普及，越来越多的内容创作者开始利用AI创造富有想象力的作品。然而，也有一部分创作者选择利用AI进行造假，无底线地吸引眼球，将此作为快速起号和变现的捷径。
在某社交平台上，记者发现部分账号专门针对中老年女性群体，通过AI技术塑造“完美熟龄女性形象”，并搭配诸如“40+、50+长这样，怎么样”等话题，进行年龄焦虑营销。这些账号发布的穿搭、保养、护肤、养生等视频大多未标注AI生成提示，导致许多网友误以为是真人分享，纷纷在评论区咨询保养秘诀。部分账号背后的运营者则趁机推销“三无”保健产品，并有“水军”配合造势。尽管部分视频存在明显的技术破绽，但其浏览量、点赞数和评论数依然居高不下。
记者调查发现，尽管主流网络平台已经升级了AI内容识别系统，要求对AI生成的作品进行标注，但仍有人通过各种手段绕过审核。重庆理工大学计算机科学与工程学院教授李彦指出，平台甄别AI内容主要依赖特征性技术痕迹，而起号者通过微信转压缩等方式改变视频文件代码结构，再上传至平台，使得内容较难被判定为AI生成。
记者使用一款AI软件生成了一张人像图片，并在裁掉水印后发布在社交平台上。出乎意料的是，平台系统并未自动识别并提示添加标注。许多网友无法分辨这是AI生成的图片，纷纷点赞并发送私信，账号后台因此收到了超过200条消息。
社交平台上充斥着众多AI造假起号的教程，其中情感、养生、颜值等类别尤为突出。这些教程常以“条条是爆款”“最适合普通人入局”“3天暴力起号”等噱头吸引眼球。以一则“养生赛道”起号教程为例，它详细介绍了如何通过AI软件输入关键词生成吸睛文案，批量产出拟人化素材并智能合成动态视频，最后通过设置养生知识问答引导互动并刺激转发，以提升账号的互动权重。
有商家声称，只需缴纳1680元，他们就能在3到15天内运营出一个拥有万粉的AI账号。当账号积累一定流量后，便可通过电商带货、账号转卖等方式实现变现。其中一位售卖AI账号起号教程的商家透露，他们提供了一套完整的电商带货运营体系，学员只需照搬即可。
一位博主表示，她利用AI软件生成的“氛围感美女”视频在多个平台上吸引了上万粉丝，并接到了不少推广商单，月收入可达万元左右。另有商家称，他们手上有多个未标注AI生成的“美女”账号，粉丝量均超过一万，且为“三无账号”（无实名、无账号违规、无作品违规）。由于平台风控趋严，这些账号的价值也随之提升。
在社交平台上，求购和出售账号的现象屡见不鲜。一位卖家表示，一个拥有2.5万粉丝的AI养生号售价为6000元，而拥有11万粉丝的AI宠物号和11.7万粉丝的AI母婴号则分别售价1.6万元和1.35万元，这些账号同样为“三无账号”。
根据反电信网络诈骗法，任何单位和个人都不得非法买卖、出租、出借互联网账号。多个网络平台也明确规定，账号仅限本人使用，禁止以任何形式出租、转让、出售或以其他方式许可他人使用。重庆公孝律师事务所执行主任徐斌指出，AI造假起号灰色产业链是技术异化的结果，可能导致低俗猎奇信息泛滥，加速虚假新闻和谣言的传播，严重扰乱网络空间秩序，亟待加强清理整治。
自今年4月起，中央网信办部署开展了“清朗·整治AI技术滥用”专项行动，重点整治AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等乱象。在第一阶段行动中，累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，并处置了3700余个违规账号。
不久前，多家互联网平台发布了专项治理公告，旨在整治AI批量造假、AI起号引流带货、转让销售AI虚拟账号等违规行为。李彦等专家认为，AI造假起号涉及技术提供者、传播平台、内容发布者等多个参与方，由于技术、数据等关键信息存在壁垒，因此需要加强协同治理，多方共同打击违规行为。
北京邮电大学互联网治理与法律研究中心执行主任谢永江建议，技术提供者应强化技术的安全性和合规性研发，提供技术支持和解决方案；平台应提高对深度伪造内容的检测精度，进一步完善相关规则，明确界定和处罚AI造假起号等违规行为的标准。为了从根源上打击黑灰产业链，监管部门应督促平台履行治理责任，建立违规账号“黑名单”，并对高频、反复触犯平台规则的账号主体加大处罚力度，禁止其进行带货、卖课等商业活动，持续开展AI造假起号整治行动，切断其获利渠道。谢永江还强调，应鼓励公众参与乱象治理，如举报可疑账号、引入专业机构开展评估等，因为真实、优质的用户创作才是平台活力和创新的源泉。
