小红书近日在北京举办了首届AI治理开放日活动，首次全面阐述了平台在AI内容管理方面的具体策略，明确了支持与限制的内容范畴。该平台将内容的真实性和原创性作为AI治理的核心原则，倡导创作者利用AI技术创作兼具审美价值、叙事深度和真实信息增量的高质量内容。
在内容创作方向上，小红书重点支持三类AI应用场景：一是通过AI技术将复杂知识转化为直观的可视化内容，降低用户理解门槛；二是鼓励创作具有独特风格的虚拟角色或对现有IP进行创新性二次开发；三是推动AI在艺术插画、绘画及具备完整剧情逻辑的影视短片创作中的应用。平台明确表示，符合上述标准的优质内容将在流量分配中获得优先支持。
为保障用户知情权，小红书要求所有涉及AI创作的内容必须主动标注技术属性。对于未标注的内容，系统将自动添加AI标识，但强调此类标注不会影响合规内容的正常推荐。同时，平台已开通申诉渠道，允许创作者对标注结果提出异议并进行复核。
在规范创作行为方面，小红书划定了四条不可逾越的底线：坚决禁止利用AI技术全自动运营账号、批量制造低质内容等破坏社区生态的行为，对确认无人参与的AI托管账号将直接封禁；严厉打击AI伪造名人形象、虚构人物经历、编造虚假信息等造假行为，以及恶意篡改经典作品或借热点事件进行低俗营销；明确禁止使用AI技术侵犯他人肖像权、著作权等合法权益；反对通过AI批量生成同质化内容、制作猎奇极端画面或传播负面价值观。针对不同违规情形，平台将实施从限制曝光到账号封禁的分级处置措施。
据平台披露的数据显示，今年以来已累计处理超过百万例AI相关违规行为，其中包括80余万个AI托管账号和近15万篇造假笔记。通过技术手段与人工审核相结合的方式，小红书持续完善AI内容治理体系，维护健康有序的社区环境。
