首页 / 合规与实务风险

客服有长期记忆,先审拟人化互动边界

7月15日《人工智能拟人化互动服务管理暂行办法》施行后,客服加入长期记忆、固定人格和持续情感回应,法务应按实际交互判断是否落入拟人化互动服务。文中梳理对话脚本、安全评估、训练数据、未成年人保护和退出机制,供版本发布前逐项核对。

这篇文章解决什么问题

7月15日《人工智能拟人化互动服务管理暂行办法》施行后,客服加入长期记忆、固定人格和持续情感回应,法务应按实际交互判断是否落入拟人化互动服务。文中梳理对话脚本、安全评估、训练数据、未成年人保护和退出机制,供版本发布前逐项核对。

7月15日之后,客服产品若同时具备长期记忆、固定人格和持续的情感回应,法务不能只看产品页写的是“助手”还是“陪伴”。《人工智能拟人化互动服务管理暂行办法》已经施行,判断重点在实际互动方式:是否模拟自然人的人格、思维和沟通风格,是否持续提供情感照护、陪伴或支持。

这条边界会直接影响产品上线。国家网信办在答记者问中明确,智能客服、知识问答、工作助手、学习教育和科学研究等服务,如不涉及持续性的情感互动,不适用该办法。团队若给工作助手加入“记住你的情绪”“永远站在你这边”这类设计,仅以“效率工具”命名,很难完成合规判断。

用完整对话脚本判断产品关系

不少产品评审仍围绕功能列表展开:能否联网、是否收费、有没有语音、能不能保存历史记录。识别拟人化服务,更适合先看对话关系。产品经理应提供完整脚本,至少覆盖首次使用、连续多日使用、用户表达孤独或依赖、用户要求退出等场景,供法务查看系统如何回应。

长期记忆本身不等于拟人化互动,语音形象也不当然等于虚拟伴侣;但人格设定、记忆和迎合式话术结合后,产品可能从“完成任务”转向“维持关系”。是否属于办法第二条规定的服务,应根据实际交互整体判断,不能只看某一个按钮。

新增相关功能就可能需要安全评估

办法第二十二条列出的安全评估情形,包括上线拟人化互动服务、增设相关功能,以及使用新技术、新应用导致服务发生重大变化。注册用户达到100万以上或月活跃用户达到10万以上,只是另一种触发情形。小规模产品不能以用户量未达门槛为由,等到过线后再评估。

法务介入应前移。新版准备加入虚拟伴侣、情感陪伴或类似功能时,安全评估应纳入上线门禁;发布后再补材料,风险不小。评估材料也不限于模型测评报告。办法第二十三条还要求关注训练数据、极端情境识别和干预、用户年龄结构、未成年人及老年人保护、投诉处理和重大风险整改。

聊天记录不能直接进入训练库

情感互动容易产生健康状况、家庭关系、财务困境等敏感信息。办法第十六条要求采取加密、访问控制等措施保护交互数据;除法定情形或权利人明确同意外,不得向第三方提供。属于用户敏感个人信息的交互数据,除法律法规另有规定或者取得用户单独同意外,不得用于模型训练。

隐私政策中一句笼统的“用于改善服务”,不宜替代训练授权。法务至少要追问两个技术问题:线上聊天记录是否会自动进入训练或评测数据池;调用外部模型时,原始对话、摘要和标签分别会发给谁。涉及敏感个人信息处理时,可结合个人信息 Skills 列表梳理审查事项。没有数据流图,单独同意页面写得再周全,也很难确认后台实际照做。

用户保护还要落到界面。办法禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;对不满十四周岁用户提供其他拟人化互动服务,要取得监护人同意。产品还需提供未成年人模式。对所有用户,系统应提示其正在与AI而非自然人互动;连续使用每超过两小时,应通过对话或弹窗提醒使用时长。用户提出退出时,服务应及时停止,不能继续用话术挽留。

本周可以先把“拟人化功能判定”加进版本发布单:由产品提交五段真实对话脚本和一张交互数据流图,法务据此判断是否触发安全评估、单独同意和未成年人保护。相关审查任务也可从合规 Skills 列表中查找工具。先把产品实际怎么说、数据实际往哪走画出来,比在合同模板里多加一页承诺更有用。

相关报道

引用与继续阅读

客服有长期记忆,先审拟人化互动边界|AIILAW.cn|2026-08-14|https://aiilaw.cn/personified-ai-scope-check-20260814/

按任务选择法律 AI 工具 · 订阅后续文章 RSS

从读到用

带走这份四步核对清单

  • 确认适用规则与生效时间
  • 回到原始证据核对事实
  • 明确责任人与复核节点
  • 保留版本、来源与操作记录