小红书近日发布新规，要求用户对站内发布的AI生成内容进行明确标注。此次调整源于平台近期收到多起用户举报，反映部分账号利用人工智能技术仿冒公众人物形象、制作虚假视频，甚至恶意改编经典作品传播不良价值观。这些未经授权的内容不仅侵害当事人权益，更因缺乏标识导致信息真实性存疑，严重损害社区信任环境。
根据国家《人工智能生成合成内容标识办法》相关要求，平台将升级技术识别系统，强化对AI生成内容的检测能力。若创作者未在发布时主动勾选"AI生成"选项，系统将自动识别并添加标识，同时对未声明内容实施流量限制措施。这一机制旨在保障用户知情权，避免AI内容与真实信息混淆。
针对恶意使用AI技术的行为，平台明确划出三条红线：一是严厉打击制作虚假仿冒信息、传播不良导向内容；二是禁止对经典作品进行歪曲改编；三是严惩发布"去标识教程"等助长造假的行为。相关违规账号将面临内容下架、账号限流直至封禁等处罚。目前技术团队正在优化检测模型，重点提升对深度伪造内容的识别精度。
此次规则更新是平台内容治理的重要举措。除技术手段外，小红书同步完善用户举报机制，开通AI内容专项投诉通道。后续将持续迭代检测算法，建立跨平台内容比对系统，从源头遏制AI技术滥用现象，维护健康有序的网络空间。
