首页 / 合规与实务风险

AI客服加上长期记忆后,公司法务先判断它是不是属于陪伴型机器人

7月15日之后,一个普通客服如果加上长期记忆、固定人格和持续的情感回应,法务就不能只看产品页上写的是“助手”还是“陪伴”。《人工智能拟人化互动服务管理暂行办法》已经施行,适用范围盯的是实际互动方式:是否模拟自然人的人格、思维和沟通风格,是否持续提供情感照护、陪伴或支持。

这条边界会直接影响产品上线。国家网信办在答记者问中明确,智能客服、知识问答、工作助手、学习教育和科学研究等服务,如果不涉及持续性的情感互动,不适用该办法。反过来说,团队给工作助手加了“记住你的情绪”“永远站在你这边”一类设计后,仅靠“效率工具”的名称,很难完成合规判断。

先审对话关系,再审功能清单

不少产品评审仍按功能列表走:能否联网、是否收费、有没有语音、能不能保存历史记录。但拟人化服务的识别,更适合从对话关系入手。建议法务让产品经理提供一组完整脚本,至少覆盖首次使用、连续多日使用、用户表达孤独或依赖、用户要求退出等场景,再看系统如何回应。

这里有一个容易误判的地方。长期记忆本身不等于拟人化互动,语音形象也不当然等于虚拟伴侣;可一旦人格设定、记忆和迎合式话术组合起来,产品就可能从“完成任务”滑向“维持关系”。是否属于办法第二条规定的服务,要根据实际交互整体判断,而不是抓住某一个按钮下结论。

上线前的安全评估,不只看用户规模

办法第二十二条列出的安全评估情形,包括上线拟人化互动服务、增设相关功能,以及使用新技术、新应用导致服务发生重大变化。注册用户达到100万以上或月活跃用户达到10万以上,只是另外一种触发情形,并不意味着小规模产品可以等到用户量过线再评估。

这会改变法务介入的时间。若新版准备加入虚拟伴侣、情感陪伴或类似功能,安全评估应当进入上线门禁,而不是发布以后补材料。评估内容也不能只交一份模型测评报告。办法第二十三条还要求关注训练数据、极端情境识别和干预、用户年龄结构、未成年人及老年人保护、投诉处理和重大风险整改。

聊天记录不能顺手流进训练库

情感互动很容易产生健康状况、家庭关系、财务困境等敏感信息。办法第十六条要求采取加密、访问控制等措施保护交互数据;除法定情形或权利人明确同意外,不得向第三方提供。对于属于用户敏感个人信息的交互数据,除法律法规另有规定或者取得用户单独同意外,不得用于模型训练。

所以,隐私政策里一句笼统的“用于改善服务”,不宜被当作训练授权的替代品。法务至少要追问两个技术问题:线上聊天记录是否会自动进入训练或评测数据池;调用外部模型时,原始对话、摘要和标签分别会发给谁。没有数据流图,单独同意页面写得再漂亮,也很难确认后台实际照做。

用户保护还要落到界面。办法禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;对不满十四周岁用户提供其他拟人化互动服务,要取得监护人同意。产品还需提供未成年人模式。对所有用户,系统应提示其正在与AI而非自然人互动;连续使用每超过两小时,应通过对话或弹窗提醒使用时长。用户提出退出时,服务应及时停止,不能继续用话术挽留。

本周最实用的一步,是把“拟人化功能判定”加入版本发布单:由产品提交五段真实对话脚本和一张交互数据流图,法务据此判断是否触发安全评估、单独同意和未成年人保护。先把产品实际怎么说、数据实际往哪走画出来,比在合同模板里多加一页承诺有用。

资料来源

从读到用

带走这份四步核对清单

  • 确认适用规则与生效时间
  • 回到原始证据核对事实
  • 明确责任人与复核节点
  • 保留版本、来源与操作记录