小红书平台近日正式推出AI内容治理新规，明确鼓励用户使用人工智能技术进行创作，但同时划定了严格的行为边界。根据公告，创作者需在发布内容时主动标注AI参与程度，无论是完全由AI生成还是经AI辅助润色的作品，均需在笔记中明确说明。若未主动标识，平台将通过技术手段识别并统一添加标注，同时开通申诉渠道保障创作者权益。
新规重点打击四类AI滥用行为：在运营层面，严禁利用自动化工具批量操控账号、模拟真人互动，或传授通过AI洗稿、绕过审核的违规技巧；在内容真实性方面，禁止克隆他人声音或面容、虚构人设进行商品推荐、伪造经历截图，以及制造涉及公共事件的虚假信息；版权保护领域明确禁止未经授权生成可识别肖像，或模仿受版权保护的视觉、文学及音乐作品；针对低质内容，平台将限制套用模板批量生产同质化内容、以猎奇画面博取流量，以及传播极端不良价值观的行为。
对于违规行为，平台将根据情节严重程度实施分级处置，包括限制内容分发、账号封禁等措施。值得注意的是，涉及色情、违法等触及安全底线的行为，无论是否由AI生成，均将直接适用现有社区规则进行严格管控。此次规则调整既体现了对AI创作工具的开放态度，也展现出维护社区生态的坚定立场。
平台相关负责人表示，技术中立不等于责任豁免，创作者需对发布内容承担主体责任。通过明确标识要求和技术识别手段，既能保障用户知情权，也能避免AI技术被用于恶意营销或信息操纵。未来将持续优化审核机制，在鼓励创新与维护秩序间寻求平衡，构建健康的内容生态。
