近日，抖音平台针对利用 AI 技术生成色情低俗内容的违规行为展开了专项治理。今年以来平台已累计处置违规内容 4.2 万条，并对 1.4 万个账号采取了包括禁言、封禁在内的梯次处罚，有力打击了网络黑产。
此次治理重点指向利用 AI 塑造虚假人设、发布性暗示视频进行导流的黑产团伙。据了解，部分违规者利用 AI 生成的美女图片作为直播间封面或主页收藏，诱导用户跳转至第三方色情应用。目前，已有 339 个相关账号被无限期回收直播权限，某涉案 4 人团伙因涉嫌非法利用信息网络罪被依法刑事拘留。
抖音强调，利用 AI 生成着装暴露的“擦边”内容已触犯平台公约及相关法律。目前，平台已将8421 个持续发布此类内容的账号封禁或降权，并将相关违法线索移交公安机关。
未来，抖音将持续升级技术手段，提升对 AI 生成不良内容的识别与拦截能力。平台提醒用户，应共同抵制低俗内容，维护清朗的网络空间。
