《人工智能生成合成内容标识办法》自2025年9月1日起施行。它把深度合成和生成式人工智能监管中的“标识义务”进一步细化为可执行规则:什么是显式标识、什么是隐式标识,生成服务如何标,传播平台如何识别,用户发布时如何声明,应用商店如何审核,以及任何组织和个人不得删除、篡改、伪造、隐匿标识。对律师而言,这部办法是 AI 内容合规、平台责任和电子证据可信度的重要连接点。
律师先看三点
- 第一,标识不只是“在图片上加水印”,还包括文件元数据、数字水印、平台传播链路信息和用户声明机制。
- 第二,义务主体不只包括生成服务提供者,也包括网络信息内容传播服务提供者、应用商店、用户和工具服务商。
- 第三,不标、误标、删标、伪造标识都可能引发行政责任、侵权责任和证据真实性争议。
逐条解读
第一条:立法目的和依据
条文原文:
第一条 为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章,制定本办法。
律师解读:本条说明标识办法是对算法推荐、深度合成、生成式 AI 规则的细化。律师应把它放在 AI 内容治理体系中理解,而不是孤立看成水印规范。
第二条:适用主体
条文原文:
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称“服务提供者”)开展人工智能生成合成内容标识活动,适用本办法。
律师解读:符合算法推荐、深度合成和生成式 AI 相关规定情形的网络信息服务提供者开展标识活动,适用本办法。生成服务、传播平台、内容社区、短视频平台、AIGC 工具都可能被纳入。
第三条:概念和标识类型
条文原文:
第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
人工智能生成合成内容标识包括显式标识和隐式标识。
显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
律师解读:人工智能生成合成内容包括文本、图片、音频、视频、虚拟场景等。标识分为显式标识和隐式标识:前者让用户明显感知,后者嵌入文件数据用于追溯和机器识别。
第四条:显式标识要求
条文原文:
第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识:
(一)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;
(二)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;
(三)在图片的适当位置添加显著的提示标识;
(四)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;
(五)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;
(六)其他生成合成服务场景根据自身应用特点添加显著的提示标识。
服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。
律师解读:不同媒介有不同显式标识方式:文本可加文字或符号提示,音频可加语音或节奏提示,图片和视频应在适当位置提示,虚拟场景也要在起始或持续服务中提示。提供下载、复制、导出时也要确保文件含有满足要求的显式标识。
第五条:隐式标识要求
条文原文:
第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。
律师解读:服务提供者应在文件元数据中添加隐式标识,包括生成合成内容属性、服务提供者名称或编码、内容编号等制作要素。数字水印被鼓励采用。企业要关注导出、压缩、转码后隐式标识是否丢失。
第六条:传播服务提供者义务
条文原文:
第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施,规范生成合成内容传播活动:
(一)核验文件元数据中是否含有隐式标识,文件元数据明确标明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,明确提醒公众该内容属于生成合成内容;
(二)文件元数据中未核验到隐式标识,但用户声明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容可能为生成合成内容;
(三)文件元数据中未核验到隐式标识,用户也未声明为生成合成内容,但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的,识别为疑似生成合成内容,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容疑似生成合成内容;
(四)提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。
有前款第一项至第三项情形的,应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。
律师解读:传播平台要核验元数据,按是否含隐式标识、用户是否声明、是否检测到生成痕迹分别添加提示。对确认或疑似生成合成内容,还要在元数据中添加传播平台名称或编码、内容编号等传播要素信息。
第七条:应用商店审核
条文原文:
第七条 互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。
律师解读:应用商店在上架或上线审核时,应要求应用说明是否提供 AI 生成合成服务;提供该服务的,应核验其标识相关材料。分发平台不能只审隐私政策,还要审 AI 标识能力。
第八条:用户协议说明
条文原文:
第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。
律师解读:服务提供者应在用户协议中说明标识方法、样式等规范,并提示用户理解标识管理要求。律师起草协议时,应把标识义务、禁止删改、违规后果和平台处置权写清楚。
第九条:无显式标识内容的例外
条文原文:
第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。
律师解读:用户申请生成无显式标识内容时,服务提供者可在协议明确用户标识义务和使用责任后提供,但要依法留存提供对象信息等日志不少于六个月。该例外不等于可以取消隐式标识或逃避追责。
第十条:用户发布声明和禁止删改
条文原文:
第十条 用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
律师解读:用户使用传播服务发布生成合成内容,应主动声明并使用平台标识功能。任何组织和个人不得恶意删除、篡改、伪造、隐匿标识,也不得提供相关工具或服务。
第十一条:与强制性标准衔接
条文原文:
第十一条 服务提供者开展标识活动的,还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。
律师解读:标识活动还应符合相关法律、部门规章和强制性国家标准。企业需要跟踪配套国家标准和技术规范,把法务要求转化为产品和工程验收指标。
第十二条:备案和安全评估材料
条文原文:
第十二条 服务提供者在履行算法备案、安全评估等手续时,应当按照本办法提供生成合成内容标识相关材料,并加强标识信息共享,为防范打击相关违法犯罪活动提供支持和帮助。
律师解读:服务提供者履行算法备案、安全评估等手续时,应提交标识相关材料,并加强标识信息共享。换言之,标识能力会成为备案和安全评估的重要审查内容。
第十三条:法律责任
条文原文:
第十三条 违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。
律师解读:违反本办法,由网信、电信、公安、广播电视等部门依据职责处理。具体责任可能与网络安全、个人信息保护、深度合成、生成式 AI、治安管理甚至刑事责任衔接。
第十四条:施行日期
条文原文:
第十四条 本办法自2025年9月1日起施行。
律师解读:本办法自2025年9月1日起施行。企业应在施行前完成技术改造、协议更新、应用商店材料准备、平台识别逻辑和用户声明功能上线。
合规落地清单
- 为文本、音频、图片、视频、虚拟场景分别设计显式标识方案。
- 在导出、下载、复制场景中保留显式标识,并在文件元数据中添加隐式标识。
- 传播平台建立元数据核验、用户声明、疑似检测、提示标识和传播要素写入机制。
- 应用商店上架审核时核验应用是否提供 AI 生成合成服务及标识材料。
- 用户协议中说明标识方法、样式、用户声明义务和违规责任。
- 禁止提供去标识、删水印、伪造标识等工具或服务。
参考来源
本文为一般性法规解读,不替代针对具体产品、业务模式或执法风险的专项法律意见。
