小红书平台近日发布公告，针对站内AI生成合成内容管理提出新要求，呼吁用户主动标识相关创作内容。此举源于平台近期收到多起用户举报，反映部分账号利用AI技术仿冒公众人物形象、制作虚假视频，且未在发布时明确标注技术属性。
根据公告内容，未经授权使用AI生成公众人物形象的行为，不仅侵犯了个人合法权益，更因部分内容缺乏技术标识导致信息真实性存疑，对社区信任体系造成冲击。平台特别指出，部分创作者通过深度合成技术制造的虚假影像，已引发用户对内容真实性的广泛质疑。
依据《人工智能生成合成内容标识办法》相关规定，小红书将强化技术检测手段，对未主动标识的AI生成内容进行自动识别。系统检测到未声明内容时，将自动添加技术标识并限制推荐流量。平台明确表示，创作者需在发布环节自行勾选"AI生成"选项，否则将面临内容分发受限的处置措施。
针对特定违规情形，平台制定了更严厉的管控策略。包括但不限于：利用AI技术制造虚假仿冒信息、篡改经典作品内容、传播不良价值观，以及教授去除AI标识方法等行为，均被列入重点打击范围。技术团队将持续优化AI内容识别模型，提升对深度伪造内容的鉴别能力。
此次规则调整标志着内容平台对AI技术治理进入新阶段。通过强化标识规范与检测技术双管齐下，小红书试图在鼓励技术创新与维护内容真实性之间寻求平衡。业内人士指出，此举或将推动整个社交媒体行业建立更完善的AI内容管理标准。
