英国司法管辖工作组(UK Jurisdiction Taskforce,UKJT)近日发布有关人工智能损害责任的法律声明。声明认为,在英格兰和威尔士的私法框架下,现有合同、侵权、产品责任和专业过失规则通常可以处理多数人工智能损害争议。除技术供应商外,负责选择、部署、验证并采用系统输出的机构和专业人士,也可能进入责任认定范围。
这份声明所讨论的法律制度具有明确的地域范围,但其提出的问题已出现在企业法务、律师事务所和合规部门的日常工作中。生成式人工智能被用于合同审查、法律检索、客户服务、尽职调查和内部决策支持后,一项错误输出可能经过供应商、业务部门、法务人员及外部律师等多个环节,最终转化为对外陈述或业务决定。
现有法律规则仍是主要依据
UKJT提出,处理相关争议未必需要等待一套独立的“人工智能责任法”。按照既有私法规则,法院或仲裁机构仍会考察系统由谁选择、预定用于何种场景、使用者是否开展适当尽调、输出是否经过验证,以及有关风险是否通过合同作出清晰分配。
在这一框架下,模型出现错误并不当然决定责任归属。争议焦点还可能包括供应商是否准确说明产品能力和限制,采购方是否将工具用于约定范围之外,以及部署机构是否采取了与风险程度相适应的人工复核措施。
对采购人工智能工具的企业而言,产品性能和演示结果只是评估内容的一部分。适用场景、禁止用途、人工复核节点、日志保存方式、供应商承诺、系统更新通知和责任限制等事项,也需要纳入采购合同及内部制度。系统越接近客户、员工或交易相对方,部署机构越有必要保留人工监督和风险控制记录。
专业人士面临双向风险
声明同时讨论了律师及其他专业人士使用人工智能时的注意义务。专业人士可能因选择不适合的系统、错误使用工具或未经验证即采纳输出而承担责任;在特定情况下,如果合理可得的人工智能工具已经成为行业通行的辅助方式,完全不予采用也可能受到专业水准方面的质疑。
后一种情形目前尚不能视为普遍适用的责任规则,其成立仍取决于具体业务、行业惯例、工具成熟度及使用成本。不过,在大批量文件审阅、重复性合同比对和法规更新监测等工作中,人工智能工具对覆盖率和一致性的影响,可能逐渐成为客户、管理层及争议处理机构评价服务质量时的考虑因素。
是否使用人工智能并非唯一判断标准。专业服务机构还需说明采用工具的目的、操作方式、复核人员及例外处理程序。即便系统参与了检索或初步审阅,最终专业判断及对外意见通常仍需由具备相应职责和资质的人员作出。
聊天机器人输出可能归责于机构
UKJT还涉及聊天机器人提供错误信息时的责任认定。组织将聊天机器人作为自身对外沟通渠道,或在业务中采纳其生成的陈述后,仅以内容由机器生成作为抗辩,未必足以切断责任联系。对用户而言,相关信息通常通过机构的品牌、界面和服务流程呈现,底层模型的免责声明并不当然改变这一事实。
这一风险在企业客服、销售咨询、合规问答和法律服务入口中较为突出。部署文件除一般性的“内容仅供参考”提示外,还应规定高风险问题转人工、对外承诺权限、敏感事项禁答、答案来源追溯及异常输出撤回等机制。
法律相关服务还需注意系统呈现方式。如果聊天机器人在缺少专业审查和授权的情况下,对具体事实给出具有确定性的法律判断,机构可能面临误导用户、服务质量及职业监管方面的风险。免责声明可以提示边界,但不能替代实际控制措施。
记录将影响责任认定
人工智能损害争议发生后,责任判断往往需要还原系统上线和输出采纳时的决策过程。模型评测报告之外,上线审批、风险分级、提示词和知识库版本、人工复核记录、供应商变更通知、用户告知文本及事故响应记录,都可能成为证明各方是否履行注意义务的材料。
这些记录不能当然免除机构责任,但有助于说明系统的使用范围、风险控制安排和具体责任人员。对企业法务和律师事务所而言,人工智能治理的重点正在由原则性制度转向可核验的流程和证据留存。UKJT的声明也显示,在现有法律框架下,责任可能沿产品采购、系统部署、输出复核和业务执行等环节分别认定,而不会仅集中于模型开发者。