社交平台Soul近日宣布，将全面升级社区安全治理体系，通过AI技术与用户协同共治的方式，构建更完善的社区防护机制。此次升级聚焦于AI虚拟角色的规范管理，明确其功能定位为提供情绪陪伴与互动体验，而非替代真实用户参与社交关系。
根据最新修订的《社区公约》，平台明确划定了AI虚拟角色的使用边界。用户在接触带有明确标识的AI角色时，系统将通过弹窗提示、互动时长限制等方式，帮助区分虚拟与真实身份。例如，当用户与AI角色连续互动超过30分钟，系统会自动弹出健康使用提醒，建议用户适当休息。
在技术治理层面，Soul构建了多层次的防护网络。通过智能风控系统实时识别潜在风险内容，结合用户反馈机制形成闭环管理。平台特别推出"护星员"计划，鼓励用户参与社区巡查，对违规使用AI的行为进行举报。数据显示，该机制试运行期间，用户主动上报的异常互动案例占比达42%，有效补充了技术识别的盲区。
此次升级还优化了AI角色的交互设计。所有虚拟角色均采用统一标识系统，在头像、昵称等位置添加可视化标签。同时，平台限制了AI角色在社区中的功能权限，禁止其发起私聊、建立群组等深度社交行为，确保真实用户的社交空间不受干扰。
