近期,豆包与千问几乎在同一时间宣布对智能体功能进行调整,引发行业广泛关注。豆包选择将相关功能迁移至独立产品“猫箱”,而千问则直接关闭相关功能且未提供迁移路径。这一系列动作的背后,与即将施行的《人工智能拟人化互动服务管理暂行办法》密切相关。该办法明确要求对虚拟恋人、深度角色扮演、情感依附类AI加强约束,时间节点恰好卡在7月15日正式实施前。
此次调整并非针对问答、办公等通用AI能力,而是聚焦于过去快速扩张的关系型智能体领域,包括用户自建人设、角色扮演、虚拟恋人、情感陪伴以及智能体广场等场景。这表明,智能体市场并未全面退潮,而是低门槛用户生成内容(UGC)、情绪依赖和灰色亲密互动支撑的增长模式面临挑战。新规实施后,智能体赛道将呈现分化趋势:任务型智能体继续发展,关系型智能体进入严格合规阶段,带有情感陪伴功能的AI“情趣”硬件则可能被排除在主流市场之外。
从平台处理方式来看,豆包的策略是将高风险互动功能从主应用中剥离,迁移至独立产品,以保持主应用作为大众效率工具、搜索入口和AI助手的定位。而千问选择直接关闭相关功能,反映出平台对这块业务的判断更为谨慎。当非核心功能带来的审核成本、监管压力和舆论风险超过收益时,关闭成为最彻底的解决方案。两家平台的策略虽不同,但底层逻辑一致:关系型智能体在大厂主入口中的角色已从增长引擎转变为风险资产。
为何豆包和千问成为调整对象,而WorkBuddy等办公类智能体未受明显冲击?关键在于产品属性差异。WorkBuddy等工具型智能体主要处理写文档、做纪要、调流程等任务,风险集中在数据权限、信息安全和输出准确性等方面。而关系型智能体涉及用户与拟人化对象之间的互动,用户可创建“AI女友”“AI男友”等角色,平台提供广场、推荐和分享功能后,工具属性逐渐弱化,拟人化内容平台的风险显著上升。
关系型智能体面临的首要问题是UGC失控。用户可低成本创建人设、设定语气和关系,并通过广场公开发布。内容供给越丰富,审核压力越大。此前上海累计下架1.4万个违规智能体,已释放明确信号:开放生态若缺乏管制,容易滋生擦边内容、侵权人设和低俗互动。其次是关系依赖问题。普通问答助手完成回答后互动即结束,而关系型智能体会持续记忆用户信息、主动关心并使用亲密称呼,模拟陪伴关系。这种黏性在未成年人、心理脆弱人群和孤独老人等场景中可能越过安全边界。
平台分发责任也是关键因素。用户自建自用的智能体风险有限,但一旦进入广场、排行榜等公开渠道,平台便参与内容放大,此时仅以“用户自建”推卸责任显得无力。对于豆包、千问等大流量入口而言,主应用若混入大量虚拟恋人、暧昧陪伴和擦边人设,一旦被截图传播,将损害整个产品的公共信任。因此,豆包的迁移策略本质是隔离风险,千问的关闭策略则是停止为非核心场景承担额外风险。
新规的监管边界不仅限于内容审核,更延伸至服务定义和产品形态。根据《人工智能拟人化互动服务管理暂行办法》第八条,生成或提供淫秽色情、亲密性模拟交互内容或硬件功能被明确禁止,直击“拟人化关系商业化”的灰色地带。过去,许多AI陪伴产品以“情感”“陪护”为包装,实际增长依赖亲密称呼、恋爱角色和暧昧对话等元素。用户投入越深,停留时间越长,付费转化越容易。然而,当产品利用孤独、亲密需求和情绪脆弱性提高留存和付费时,监管关注点将从“模型是否出错”转向“平台是否制造依赖”,叠加未成年人保护、诱导消费和色情暗示等问题,风险等级将迅速攀升。
新规对AI硬件公司的压力更为显著。许多从业者原以为监管主要针对聊天应用和虚拟陪伴软件,但新规覆盖“拟人化互动服务”,硬件若搭载语音陪伴、主动关怀或仿人外观功能,便可能进入监管视野。尤其是AI陪护机器人、AI宠物和老人陪伴终端等产品,天然强调陪伴感,厂商为提高用户黏性会设计专属称呼、情绪识别和拟人语气等功能。这些设计本身不必然违规,但边界变得敏感。儿童场景涉及未成年人保护和防沉迷问题,老人场景涉及认知能力下降和健康建议误导风险。若厂商宣传提供“陪护”或“心理疏导”,则不能再简单定义为硬件销售。
更高风险的是“情感陪伴AI+性交互硬件”的组合。成人硬件行业长期面临一次性消费多、持续留存弱的问题,AI技术为其提供了新方向:通过赋予硬件人格、记忆和情绪回应能力,将工具转化为“伴侣”,并通过订阅和互动脚本实现持续变现。然而,新规直接堵住了这条路径。若产品同时具备AI情感陪伴、长期人格记忆、情欲互动算法和仿真性结构,则难以被解释为普通成人用品或陪护设备,其风险从模型偶尔越界升级为产品设计目标本身踩线。此类产品在安全评估、上市销售和渠道合规方面将遭遇实质性障碍。
与软件产品不同,硬件一旦开模、生产和铺货,整改成本极高。若产品形态已包含亲密模拟结构,合规风险将被固化在设备中。因此,AI硬件从业者的核心压力来自产品定义能否经得起审查:究竟是生活辅助设备还是虚拟伴侣?是老人照护终端还是借陪护之名包装亲密互动?是情绪支持工具还是通过人格化关系推动情欲消费?这些问题若无法明确回答,产品将难以持续发展。
智能体行业未来不会全面降温,但将呈现明显分层。任务型智能体如办公助手、企业知识库和代码智能体等,将继续加速发展。这类产品解决明确任务,价值可通过效率、成本和准确率衡量,合规重点在于数据安全和权限控制,不会主动制造亲密关系或依赖用户情绪变现。关系型智能体则进入强合规时代,AI恋人、虚拟伴侣和角色扮演等功能不会消失,但开放UGC、擦边人设和亲密互动拉留存等模式将难以持续。平台需补上年龄分级、防沉迷和内容审核等措施,这些成本将重新纳入商业模型。能够留下的,将是能清晰界定场景、责任和风险的团队。
“拟人化AI+情欲硬件”类产品则可能被挤出主流市场。聊天产品的偶发越界尚可补救,但硬件产品若将仿真结构、亲密模拟和情欲算法与AI人格绑定,便已完成高风险产品闭环。新规拆除了许多灰色包装:厂商不能一边宣称提供养老陪护或心理疏导,一边设计情欲互动算法和性交互硬件;不能一边享受拟人化关系带来的高黏性,一边将风险藏在“成人自愿使用”的叙事中。短期内,平台将收缩智能体业务,清理敏感角色,降低情感陪伴功能在主应用中的权重;AI陪伴产品将强化分级、审核和提示;部分AI硬件项目将推迟上市,重新评估外观、交互和功能边界。长期来看,智能体行业将回归更清晰的价值框架:提高效率的继续做,提供照护的规范做,依赖擦边和情欲变现的退出。豆包和千问的动作传递了一个信号:关系型智能体不能再无差别地塞进主入口,平台不能继续将高风险互动作为低成本增长工具。AI行业的竞争将不仅取决于模型能力、入口流量和交互体验,还将考验合规能力、风控体系和社会信任。











