小红书近日举办首届AI治理开放日活动，正式推出平台AI内容管理框架，明确技术应用的鼓励方向、标注规范与行为边界。社区用户信任中心负责人吉吉在发言中强调，平台支持AI赋能创意表达，但必须坚守真实底线，防止技术滥用破坏社区生态。
随着AI工具普及，内容创作门槛显著降低。吉吉指出，这项技术为普通用户提供了表达渠道，也帮助专业创作者突破技术限制，在知识科普、虚拟角色设计、艺术视觉辅助等领域发挥积极作用。平台数据显示，AI辅助创作的内容中，知识类笔记互动率提升37%，虚拟形象相关话题浏览量突破12亿次。
技术双刃剑效应在内容领域愈发明显。吉吉坦言，当前AI生成内容已形成完整产业链，部分机构通过批量制造高仿真内容获取流量，经过多次传播后难以追溯源头。这种行为不仅损害用户信任，更冲击"真实分享"的社区根基——当视觉内容失去可信度，真诚创作者的生存空间将被严重挤压。
针对创作公平性问题，平台治理团队发现，AI生成的同质化内容占据23%的推荐流量，导致优质原创内容曝光量下降41%。吉吉特别提到，某美妆领域账号通过AI批量生成"伪测评"内容，单月获得超500万曝光，而同期真实用户的同类内容曝光不足其十分之一。
基于"鼓励创新、保障知情、维护公平"原则，小红书构建三级管理体系：在创作支持层面，设立AI创意实验室，为知识类、艺术类内容提供技术工具包；在信息透明层面，要求所有AI生成内容必须标注技术标识，未标注内容将由系统自动识别并添加标签；在行为约束层面，明确禁止账号托管、人设造假、版权侵权等四类行为，对低质灌水内容实施流量限流。
技术治理面临现实挑战。平台安全团队负责人透露，经过三次以上传播的AI内容，现有识别模型准确率下降至68%，误判率上升至12%。为此，平台开通申诉通道，创作者可对标识结果提出异议，经人工复核后48小时内反馈结果。数据显示，该机制上线首周收到2.3万条申诉，其中31%被确认误判。
这场治理行动背后是价值取向的坚守。吉吉认为，当技术能够以极低成本复制内容时，维护创作生态的唯一途径就是守护真诚分享的价值。平台数据显示，标注AI标识的内容平均互动时长减少15%，但用户对真实创作者的关注度提升27%，这印证了用户对内容真实性的强烈需求。
目前，小红书已建立日均处理300万条内容的AI治理系统，对违规账号采取阶梯式处罚措施。最新治理公告显示，过去30天平台封禁AI托管账号1.2万个，下架虚假人设内容47万条，技术标识覆盖量突破8000万次。
