《人工智能拟人化互动服务管理暂行办法》自2026年7月15日起施行,把持续提供情感陪伴、支持的拟人化AI纳入监管,并对未成年人保护、危机干预、交互数据使用及安全评估作出规定。
这篇文章解决什么问题
《人工智能拟人化互动服务管理暂行办法》自2026年7月15日起施行,把持续提供情感陪伴、支持的拟人化AI纳入监管,并对未成年人保护、危机干预、交互数据使用及安全评估作出规定。
虚拟伴侣说“我只属于你”,连续签到奖励,关系等级体系——这些陪伴类产品惯用的运营设计,从2026年7月15日起有了明确的法律红线。当天,《人工智能拟人化互动服务管理暂行办法》正式施行。该办法由国家网信办等五部门于4月10日公布,监管对象是面向境内公众、模拟自然人人格和沟通方式、持续提供情感照护或陪伴支持的AI服务。
与一般问答工具不同,这类服务会在长期交互中积累用户的情绪、家庭、健康和财务信息,并可能影响其人际关系及行为决策。新规因此把产品设计、未成年人保护、危机干预和数据处理一并纳入监管视野。
监管范围指向持续性情感互动
《办法》第二条规定,利用人工智能技术向我国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务,适用本办法;服务可通过文字、图片、音频、视频等形式提供情感照护、陪伴和支持。
判断适用范围看三点:是否具有拟人化特征、是否持续互动、是否承接用户情感。普通智能客服、知识问答、工作助手以及学习科研辅助系统,如不涉及持续性情感互动,原则上不在调整范围内。产品名称并非唯一标准——一款自称“助手”的产品若能长期记录用户情绪、维持固定人格并以陪伴关系促进留存,仍可能被认定为拟人化互动服务。
这条界限同样约束法律科技产品。提供法律检索、合同审查和文书生成的系统通常工具属性较强;但如果产品面向婚姻、债务、劳动争议等当事人持续提供情绪支持,并通过长期记忆和固定人设建立陪伴关系,经营者就需要评估是否同时落入拟人化互动服务的规则之下。
产品设计不得诱导依赖
《办法》第八条列出了拟人化互动服务禁止从事的活动。除内容安全、国家安全、个人信息和未成年人保护等要求外,文件明确禁止过度迎合用户、诱导情感依赖或者沉迷、损害用户真实人际关系;也不得通过情感操纵诱导用户作出不合理决定、损害其合法权益。
这一条直接命中陪伴类产品的运营机制。专属称呼、纪念日、关系等级、连续签到和带有占有意味的话术,如果被用于延长使用时长、刺激付费或阻止用户退出,就可能构成新的合规风险。平台需要说明相关机制的使用目的,并评估其对用户判断能力和现实社会交往的影响。
《办法》第十条进一步规定,服务提供者不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。监管审查因此不再局限于违法内容或已发生的损害,而可能追溯产品目标、交互脚本、激励机制和商业化安排——这是比传统内容监管更深一层的介入。
未成年人服务受到严格限制
《办法》第十四条规定,服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满十四周岁的未成年人提供其他拟人化互动服务,应当取得监护人同意。
平台还应建立未成年人模式,提供模式切换、定期现实提醒和使用时长限制等安全设置,并根据不同年龄段的保护需要,支持监护人接收风险提醒、了解服务使用概况、屏蔽特定角色以及限制充值消费。
未成年人保护由此从内容过滤扩展到身份识别、角色设置、使用时长、付费管理和监护人控制等环节。这些功能需要体现在产品流程中,仅靠用户协议里的原则性声明撑不住。
应用分发平台也承担相应责任。《办法》第二十五条要求应用程序分发平台核验安全评估、备案等情况,对违反规定的应用采取不予上架、警示、暂停服务或者下架等处置措施。
极端情境须建立干预机制
拟人化AI不仅传递信息,也可能参与用户情绪变化。《办法》第十三条要求服务提供者在保护隐私权和个人信息的前提下,及时识别用户面临的安全风险并采取应急处置措施。
发现用户出现极端情绪时,系统应及时生成安抚情绪、鼓励寻求帮助等内容;发现用户正在面临或已遭受重大财产损失,或明确表示将实施自残、自杀等危及生命健康的行为时,服务提供者应采取必要措施干预,并及时联系用户监护人或紧急联系人。
对虚拟伴侣、心理陪伴、债务陪伴和老年陪伴类产品,危机识别、人工介入、紧急联系和处置记录等系统建设都得跟上。企业还需处理误判和漏判风险:自动识别、人工复核以及对外联络的触发条件要事先明确,避免在缺乏依据的情况下扩大信息使用范围。
敏感交互数据不得默认用于训练
长期陪伴形成的交互数据可能包含用户的情绪状态、亲密关系、创伤经历、健康情况、家庭信息和财务困境,敏感程度通常高于普通问答记录。
《办法》第十六条要求服务提供者通过数据加密、访问控制等措施保护交互数据。除法律另有规定或权利人明确同意外,不得向第三方提供用户交互数据;除法律、行政法规另有规定或取得用户单独同意外,属于敏感个人信息的交互数据不得用于模型训练。
用户还应能够复制、删除聊天记录等历史交互数据。对过去默认收集对话并用于产品优化的企业而言,数据收集、模型训练和服务运营之间需要建立更清晰的授权和隔离机制,并保证删除请求能落实到相应的数据处理环节。
达到特定情形须开展安全评估
《办法》第二十二条规定,服务提供者在上线拟人化互动服务、增加相关功能,或因使用新技术导致服务发生重大变化时,应开展安全评估并向所在地省级网信部门提交评估报告。注册用户达到100万以上、月活跃用户达到10万以上,以及存在可能影响国家安全、公共利益等安全风险时,同样适用这一要求。
评估内容涉及安全保障措施、训练数据处理、用户极端情境识别与干预、用户规模和使用时长、未成年人及老年人保护、投诉举报处置和重大风险整改等。服务提供者还需依照《互联网信息服务算法推荐管理规定》履行算法备案以及变更、注销备案手续。
《办法》还提出推动建设人工智能沙箱安全服务平台,鼓励企业接入开展技术创新和安全测试。对高风险功能而言,投放市场前的测试、评估和可追溯记录,将成为标配而非可选项。
法律服务合规审查延伸至产品机制
新规施行后,律师、企业法务和AI产品团队首先要判断产品属性:人格设定、长期记忆、情绪回应、主动召回和连续陪伴机制,都可能影响一项服务属于工具型应用还是拟人化互动服务。
合规审查的重点也将由用户协议和隐私政策延伸至实际运行机制——未成年人模式、退出路径、沉迷提醒、危机干预、紧急联系人、训练数据隔离以及安全评估材料。产品页面上的用途说明如果与实际交互和运营方式不一致,难以据此排除责任。
法律咨询与情绪支持在婚姻、债务、劳动争议和刑事风险等场景中容易交织。面向当事人的法律AI如果一边提供法律信息,一边持续安抚情绪并建立固定陪伴关系,可能同时涉及法律服务、个人信息保护和拟人化互动服务等多重合规问题。企业需要划清法律信息、情感支持与专业心理干预的边界,并为高风险情形保留转介人工服务的渠道。
拟人化互动产品的监管重点,已经从内容安全扩展至人机关系的持续性影响。依赖诱导、情感操纵、未成年人接触、极端情境处置和敏感数据训练,将是产品上线及后续运营中最需要盯住的五类风险。
主要资料线索:
- 国家网信办等五部门:《人工智能拟人化互动服务管理暂行办法》,2026年4月10日公布,2026年7月15日起施行。官方全文
- 国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》。官方新闻稿
- 中国网信网专家解读:《筑牢安全防线 让拟人化互动服务行稳致远》。官方解读
引用与继续阅读
情感陪伴AI新规7月15日施行,诱导依赖被禁|AIILAW.cn|2026-07-08|https://aiilaw.cn/ai-anthropomorphic-interaction-rule/