这篇文章解决什么问题
《国际人工智能伦理治理行动计划》7月17日发布,文件不能直接用来判断企业做法是否违法,却给智能体风险评估列出了三个落点:数据敏感程度、工具调用权限和自主决策能力。采购接入邮箱、合同库或付款系统的智能体时,法务应把责任分工、人工审批和操作日志写进合同与验收材料。
相关工具:合同审查助手 Skill 腾讯电子签 Skill MCP-Doc Word 文档处理
采购方案里写着:AI智能体可以读取企业邮箱,拟好回复后自动发送,还能调用合同库和付款系统。法务先问三件具体的事:谁批准它发信,谁能调高它的权限,出错后谁能拿出操作记录。
7月17日,工业和信息化部会同有关方面指导发布《国际人工智能伦理治理行动计划》。这份文件面向国际合作,企业不能直接据以判断某项做法是否违法。但文件对智能体风险评估写得很具体:要看数据敏感程度、工具调用权限和自主决策能力;基础模型提供者、智能体开发者、部署者、接口提供者、运维主体和使用者之间,也应划清责任。
企业采购智能体时,往往漏掉的正是这一层。聊天机器人答错一句话,多数还能在发送前删掉;智能体接入邮箱、印章、付款或客户管理系统后,错误可能直接变成一次对外行为。模型由谁训练,回答不了出事后谁担责。
产品演示前,先要一张责任表
供应商合同常把”平台””第三方模型””插件”和”客户配置”分散在几份附件里。法务可以把内容整理成一张责任表:每个动作由谁发起,调用哪些数据和接口,哪一方设置权限,日志保存在哪里,发生误发、越权或错误调用时由谁暂停服务、通知客户并配合调查。
以邮件回复为例,”生成草稿”和”对外发送”至少要分开。前者可以交给智能体;后者是否需要业务人员确认,应按收件人和内容分层。给公司内部同事发会议纪要,与向客户确认合同变更,不该共用同一个授权档。付款、用印、删除文件这类难以撤回的动作,也不宜用一句笼统的”用户已授权”带过。
国家网信办5月发布的《智能体规范应用与创新发展实施意见》同样要求厘清本人决策、用户授权决策和智能体自主决策的边界,强调执行操作不得超出用户授权范围,并提出加强模型接入、API调用和扩展工具使用环节的安全管理。采购合同不能只写数据安全与保密,还要落实到每一个可调用的工具。需要梳理相关工具的法务团队,可从AI Skill 与 MCP 库查找。
人工确认要落到具体岗位和页面
“重大事项由人工确认”看上去稳妥,事故发生后却经不起追问。谁算人工:业务经办人、部门负责人,还是系统管理员?他在哪个页面确认,能看到哪些依据,点拒绝后能否阻断后续动作?这些问题没有答案,人工确认只是合同里的一层薄纸。
更可用的写法,是把审批人和系统控制绑在一起。比如智能体生成供应商付款申请后,只能提交进现有审批流;审批人应能看到原合同、发票和智能体提取的字段;智能体本身没有付款权限,也不能修改审批结果。日志则要记录调用时间、所用数据、工具名称、输出结果和最终批准人。保存期限按业务需要、调查需要和数据最小化要求确定,不必一律追求永久留存。
把行动计划改成采购和验收问题
《国际人工智能伦理治理行动计划》要求把伦理治理嵌入研发、部署和运维全过程,也提出按应用场景、影响范围和潜在后果做分类评估。企业不必把这些原则另做成一份漂亮的”AI伦理宣言”,把它们改成供应商必须回答的问题,写进验收材料,更有用。
本周若有智能体项目准备试点,可以先停一次功能演示,请供应商交一页责任表:列出全部外部接口、每个接口的最高权限、人工批准人、日志位置和紧急停用负责人。填不完整的项目,还不适合接入真实邮箱,更不适合碰付款和用印。
资料来源
引用与继续阅读
智能体接入邮箱前,合同先写清审批和日志|AIILAW.cn|2026-08-16|https://aiilaw.cn/agent-responsibility-matrix-20260816/