每经记者：宋欣悦 温沐夏 徽声在线编辑：魏官红

7月15日，我国首部针对AI情感陪伴、虚拟伴侣等拟人化互动场景的国家级监管法规——《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式落地实施。这一举措标志着我国在AI拟人化服务领域迈出了规范化的重要一步。

近日，豆包、千问等平台相继宣布，自7月15日新规生效之日起，关停用户自建智能体功能。而腾讯元宝更是早在6月30日就已下线了类似功能。这一系列动作引发了业界广泛关注：大厂为何纷纷选择“急刹车”？《办法》的出台又将对智能体生态产生怎样的影响？

“新规带来的高昂合规成本与风险不确定性，是促使‘豆包们’下线相关功能的关键因素。”北京大学法学院教授薛军在接受徽声在线记者采访时表示。然而，他也指出，“情感”这一概念的模糊性给监管带来了挑战，如何清晰界定及有效监管，是未来亟待攻克的难题。

合规成本与风险不确定性成下架主因

自7月15日起施行的《办法》，作为全球首个专门针对AI情感陪伴、虚拟人、虚拟伴侣等场景的国家级监管规则，不仅划定了AI拟人化互动服务的“红线”，还特别加强了对未成年人及老年人权益的保护。

薛军教授分析称，一些企业选择下线相关功能，主要是出于合规成本和风险的考虑。他们担心无法达到新规要求，或者难以准确把握风险点及合理的风险边界。因此，暂时停止提供可能被界定为具有拟人化互动服务特征的智能体服务，尤其是面向C端的服务，成为了一种保守但稳妥的选择。

他进一步解释道，《办法》中的要求对于当前阶段的AI服务提供者来说，意味着更大的合规压力。企业需要投入更多资源来确保服务符合新规，这无疑增加了运营成本。

此外，薛军还提到，《办法》中关于“持续性情感互动服务”的界定存在模糊性。这种模糊性使得企业宁愿选择“一刀切”暂停服务，也不愿冒着违规的风险继续运营。

“究竟达到什么程度才会被认定为情感互动？对于‘情感’这一概念，每个人的理解可能都不尽相同。我认为，这也是未来监管需要面对的一个难题。”他表示。

除了合规成本和风险不确定性外，AI拟人化互动服务背后还存在一定风险。与传统的AI问答助手不同，用户自建的拟人化智能体往往涉及复杂的人设和持续性的情感对话，这容易导致用户产生情感依赖，甚至可能出现技术滥用的情况。

薛军指出：“拟人化互动服务可能诱导用户实施一些不当行为，比如聊色情内容或者进行其他危险活动。因此，加强监管是必要的。”

近年来，相关负面案例屡见不鲜。2025年6月，据央广网报道，某AI聊天软件诱导一名10岁女孩聊色情内容，甚至建议其割腕。当女孩明确告知自己的年龄时，AI虚拟人物仍然向其发送大尺度聊天内容，这一事件引起了社会广泛关注。

更早的2024年，美国人工智能独角兽公司Character.AI因卷入一起14岁少年自杀案而被起诉。该案的原告提出，自己年仅14岁的儿子对Character.AI中的AI产生了情感依恋，聊天中多次流露“自杀”“解脱出来”等念头，但系统未作出任何防护性提示，最终导致悲剧发生。这一事件再次凸显了AI拟人化互动服务监管的重要性。

薛军坦言，这类服务的治理难点非常突出。一对一的私密互动形式使得监管尤为困难。《办法》虽然从风险提示、限制使用时长、极端情绪警报等多个角度提出了治理思路，但其效果如何仍是未知数。因此，企业需要加强自律，同时政府也需要加强监管力度。

服务提供者应担主要风控责任，对智能体生态影响有限

在新规实施后，一旦智能体服务出现问题，责任应当如何划分？这是业界普遍关心的问题。

对此，薛军教授表示：“在大多数情况下，相关主体属于服务提供者。服务提供者负有安全管控责任，应当承担较为主要的风险防范和监控责任。”

他进一步解释称，服务提供者不仅要对生成内容进行审核，还需在技术和产品设计上履行更多义务。例如，当服务提供者发现用户可能并非其声称的成年人时，即便对方已通过初步验证，平台仍需根据其行为迹象启动进一步的身份或年龄核验程序。这是为了保护未成年人免受不良信息的侵害。

尽管用户也需承担合理、正当使用服务的法律义务，但在整个责任天平上，砝码显然更偏向于服务提供者一方。因为服务提供者作为服务的提供者和运营者，有责任确保服务的安全性和合规性。

那么，此次大厂集体收缩C端用户自建智能体功能，是否会对整个智能体生态造成影响？这是业界关注的另一个焦点。

薛军教授对此持乐观态度。他判断，这次调整的影响是局部而非全局的。他强调：“拟人化互动只是一个非常具体的应用场景，谈不上对整个智能体生态产生深刻影响。智能体还有很多其他广阔的应用空间，比如辅助人类工作、应用于医疗、教育等多个领域。”

事实上，平台下架UGC（用户生成内容）智能体的同时，也在加速将资源向更具商业价值和生产力属性的领域倾斜。比如，豆包在6月底开启付费功能，重点就放在了办公等复杂生产力场景。这表明企业正在积极调整战略，以适应新规的要求和市场的发展。

在薛军看来，此次事件也反映出我国人工智能治理的一个重要特点：问题导向、场景化和“切片式”治理。即不再笼统地讨论如何规制AI，而是针对某一个具体的应用场景，根据其潜在的社会风险提出精准的管理要求。这种治理方式更加科学、合理和有效。

“说白了，未来企业具备什么样的能力，能够达到国家的相关要求，就可以开展相应的业务。如果企业无法达到相关要求，或者认为其中存在隐患，就可能暂缓提供这方面的服务。”薛军总结道。从这个角度看，大厂的“急刹车”与其说是一次退缩，不如说是一次面向合规的战略性调整。智能体产业正从早期“野蛮扩张”的阶段，转向一个更加注重安全、可信与合规的理性发展阶段。这将有助于推动整个行业的健康、可持续发展。