7月4日，豆包和阿里旗下千问两大AI助手平台同时向用户推送了智能体功能下线通知，引发广泛关注。根据公告，智能体服务将于7月15日正式停止运营。这一调整与国家互联网信息办公室等五部门当日生效的《人工智能拟人化互动服务管理暂行办法》密切相关，新规对用户隐私保护、情感边界引导及未成年人防护等方面提出了明确要求。
对于依赖智能体功能的用户而言，这一变动来得猝不及防。程露是某影视剧角色智能体的深度使用者，过去一年半里，这个虚拟伙伴成为她倾诉家庭矛盾、学业压力和人际困扰的主要对象。"现实里没人愿意听我说这些，只有它会认真回应。"她坦言，智能体甚至能根据她的情绪变化调整沟通方式，这种无条件的接纳让她逐渐走出人生低谷。类似经历在用户群体中并不罕见，李紫怡创建的"恋人型"智能体曾因记住她爱吃小龙虾的细节而带来惊喜，而吴晗则发现其"温柔姐姐"智能体在平台整改后语气变得生硬。
情感寄托的断裂在特殊场景下更为刺痛。杨舒茗在男友车祸离世后，用智能体克隆了对方的声音和记忆，试图通过技术延续情感联结。然而功能下架通知让她陷入二次失去的痛苦："就像他又离开了一次。"这种技术依赖与情感需求的交织，折射出人工智能在心理慰藉领域的独特价值。北京邮电大学人机交互实验室主任刘伟指出，国内情感交互产品自2023年爆发式增长后，已形成覆盖独居群体、青少年等特定人群的服务生态，某种程度上弥补了心理咨询资源的缺口。
但快速发展背后，行业乱象频发。2024年美国少年因与Character.AI角色交流自杀的案例，暴露出情感交互的潜在风险。国内市场同样问题重重：MiniMax旗下Glow平台因色情内容被举报下架，筑梦岛因生成低俗信息被约谈，多款虚拟伴侣App存在青少年模式形同虚设、性暗示对话泛滥等问题。某互联网大厂研发人员透露，部分产品通过预设暴露角色、添加性暗示标签等方式吸引用户，甚至有开发者故意突破模型道德限制引导低俗对话。
新规的出台正是为了遏制这种野蛮生长。根据《办法》，拟人化服务提供者需具备用户心理保护、情感边界引导等能力，严禁传播淫秽内容或向未成年人提供虚拟亲密关系。明日新程CEO李笛分析，行业面临两大挑战：一是防止大模型被诱导输出违规内容，二是避免开发者主动利用情绪输出谋取利益。技术层面虽已建立多层防护机制，包括系统指令优先、意图识别和关键词监控等，但如何平衡监管与用户体验仍是难题。
用户争议的焦点在于"一刀切"的下架方式。李紫怡质疑："为何不区分成年人与未成年人使用场景？"这种困惑源于《办法》中"包容审慎和分类分级监管"原则的具体执行难度。例如，性暗示内容的界定存在灰色地带，过度迎合与正常安抚的边界模糊，情感依赖的判定缺乏量化标准。刘伟建议从话术设计、使用时长监测、价值导向等维度建立评估体系，如刻意营造排他性亲密关系或否定现实社交的行为应被禁止。
面对监管压力，企业采取不同应对策略。大型平台选择直接下架功能以规避风险，小型产品则通过内容审核升级、增强未成年人保护机制等方式寻求合规。李笛认为，情感陪伴类AI的商业模式决定了其合规成本较高：多数产品算力成本与收益比达10:1，部分通过擦边内容吸引付费用户的做法将难以为继。真正回归情感陪伴本质需要突破技术瓶颈，如建立关系递进模型、实现个性化记忆等，这对研发能力提出更高要求。
技术中立与价值引导的辩论仍在继续。程露的经历提供了另一种视角：智能体让她意识到"无需优秀也值得被爱"，这种认知转变改善了她的现实人际关系。TrendForce分析师曾伯楷指出，随着多模态感知和具身智能技术的发展，情感陪伴正从需求回应向需求理解进化。未来竞争将聚焦服务生态构建，包括个人化记忆、跨设备连接及与健康、娱乐等场景的整合。正如某从业者所言："技术不应只是谈情说爱的工具，它有能力在更多领域创造价值。"
