抖音平台近期对利用AI技术生成的色情低俗内容展开专项整治行动，通过技术拦截与人工巡查相结合的方式，对违规账号和内容进行全面清理。据平台公布的数据显示，今年以来已累计处置4.2万条违规内容，对1.4万个账号实施阶梯式处罚，包括限制推荐、禁言直至永久封禁。
在整治过程中，平台发现部分不法分子通过AI工具批量生成低俗擦边内容，并采用隐蔽手段进行色情导流。某黑产团伙利用深度合成技术制作虚假人设，发布带有性暗示的短视频，诱导用户跳转至第三方平台下载非法应用。该团伙4名成员已被公安机关依法刑事拘留，案件正在进一步侦办中。
针对直播场景的违规行为，平台重点打击了利用AI生成图片设置直播间封面的导流手段。经核查，339个账号通过展示虚拟美女形象吸引观众点击主页，进而为色情网站引流。这些账号已被永久收回直播权限，相关违规内容全部下架处理。
数据显示，另有8421个账号因持续发布AI生成的暴露擦边内容受到处罚。平台通过图像识别技术，对穿着暴露、动作暧昧的虚拟形象进行精准打击，同时清理了大量含有性暗示的文案内容。所有受罚账号均被要求删除违规内容，并根据情节严重程度采取不同时长的账号限制措施。
抖音安全中心负责人表示，此类行为不仅违反平台社区规范，更涉嫌触犯《刑法》第二百八十七条之一的非法利用信息网络罪和第三百六十四条的传播淫秽物品罪。平台已建立违法线索移送机制，定期将查实的案件信息上报公安机关，配合开展刑事打击。
为应对AI技术带来的新型治理挑战，平台正在持续优化内容审核模型。通过升级深度学习算法，系统可自动识别AI生成的虚拟人物特征，并对异常导流模式建立预警机制。技术团队还与高校科研机构合作，研发针对深度伪造内容的检测工具，提升对复杂违规场景的处置效率。
