小红书平台近日发布公告，针对站内AI生成合成内容的管理提出新要求，呼吁用户主动对相关内容进行标识。这一举措源于平台近期收到多起用户举报，涉及利用AI技术仿冒公众人物形象、制作虚假视频等行为。
为规范内容生态，小红书宣布将依据《人工智能生成合成内容标识办法》强化技术管控。平台已升级AI内容识别系统，能够自动检测未标注的生成内容。若创作者在发布时未主动添加标识，系统将在审核环节自动补标，并对违规内容采取限制传播措施，包括减少推荐权重、屏蔽搜索结果等。
新规明确要求，所有通过AI工具生成或合成的图文、视频内容，必须在发布时勾选"AI创作"选项。平台将通过弹窗提示、流程优化等方式引导用户合规操作，同时建立申诉通道处理误标情况。对于屡次违规的账号，除内容处理外，还将视情节采取警告、限流直至封禁等阶梯式处罚。
此次调整标志着内容平台对AI技术应用的监管进入新阶段。行业观察人士指出，随着生成式AI的普及，如何平衡技术创新与内容真实性的矛盾已成为全球性课题。小红书的主动标识制度不仅保护用户知情权，也为行业提供了可参考的治理样本，未来可能推动更多平台建立类似规范。
