首页 / 合规与实务风险

AI生成合成内容标识新规9月施行:水印、元数据与平台责任明确

AI生成合成内容标识新规9月施行:水印、元数据与平台责任明确

《人工智能生成合成内容标识办法》将于2025年9月1日起施行。办法将人工智能生成合成内容的标识要求落实到内容生成、文件导出、平台传播、应用上架和用户发布等环节,并禁止任何组织和个人恶意删除、篡改、伪造或者隐匿相关标识。

按照办法,监管对象涉及生成式人工智能和深度合成服务提供者、网络信息内容传播平台、应用程序分发平台、内容发布用户以及提供去标识工具或服务的主体。对相关企业而言,合规工作已从页面提示延伸至文件元数据、内容识别系统、用户协议和日志管理。

标识分为显式和隐式两类

办法第一条列明,其制定依据包括《中华人民共和国网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等。第二条进一步明确,符合上述规定适用情形的网络信息服务提供者,开展人工智能生成合成内容标识活动,应当遵守本办法。

第三条将人工智能生成合成内容界定为利用人工智能技术生成、合成的文本、图片、音频、视频和虚拟场景等信息,并将标识分为显式标识和隐式标识。

显式标识是用户能够明显感知的文字、声音或图形提示,可以直接添加在生成内容中,也可以设置在交互界面。隐式标识则通过技术措施写入文件数据,通常不易被用户直接察觉,主要用于机器识别和来源追溯。

这一分类表明,通常所称的AI内容水印只是标识制度的一部分。除图片或视频上的可见提示外,文件元数据、数字水印以及平台写入的传播信息也被纳入监管。

不同内容对应不同提示方式

办法第四条按照媒介类型规定显式标识要求。文本可以在起始、末尾或中间适当位置添加文字、通用符号等提示,也可以在交互界面或文字周边设置显著标识;音频可以加入语音或节奏提示,或者在播放界面显示标识。

图片应在适当位置添加显著提示。视频应在起始画面和播放区域周边的适当位置添加标识,并可在视频中间或末尾增加提示。虚拟场景应在起始画面标识,也可在持续服务过程中设置提示。其他生成合成服务则需结合具体应用方式设计标识。

服务提供者开放下载、复制或者导出功能时,输出文件仍须保留符合要求的显式标识。企业因此需要检查内容经过下载、截图之外的复制、转码和导出流程后,相关提示能否继续留存。

第五条规定,服务提供者应在生成合成内容的文件元数据中加入隐式标识,信息包括生成合成内容属性、服务提供者名称或者编码、内容编号等制作要素。办法同时鼓励采用数字水印等其他隐式标识技术。

办法所称文件元数据,是按照特定编码格式嵌入文件头部、用于记录文件来源、属性和用途等内容的描述性信息。实践中,图片压缩、视频转码、格式转换以及第三方平台再处理均可能导致元数据丢失,相关技术链路需要纳入测试和验收。

传播平台承担核验和提示责任

第六条对网络信息内容传播服务提供者规定了分层处理机制。平台首先应核验文件元数据是否含有隐式标识。元数据明确标明内容由人工智能生成合成的,平台应在发布内容周边添加显著提示,告知公众其生成合成属性。

如果平台未在元数据中核验到隐式标识,但用户主动声明内容由人工智能生成合成,平台仍应添加提示,提醒公众该内容可能属于生成合成内容。

在元数据没有标识、用户也没有声明的情况下,平台如检测到显式标识或其他生成合成痕迹,应将其识别为疑似生成合成内容,并在内容周边作出相应提示。平台还须向用户提供必要的标识功能,提醒用户在发布时主动声明内容是否包含人工智能生成合成部分。

对于确认或疑似生成合成的内容,平台还应在文件元数据中加入生成合成内容属性、传播平台名称或者编码、内容编号等传播要素。这项要求使平台的责任覆盖上传审核、前端展示和文件数据处理等多个环节。

应用上架增加标识材料审核

第七条将应用程序分发平台纳入责任范围。应用上架或者上线审核时,分发平台应要求应用服务提供者说明是否提供人工智能生成合成服务。相关应用提供此类服务的,分发平台应核验其生成合成内容标识材料。

应用商店的审核范围由此增加了AI标识能力。开发者可能需要提交标识样式、元数据写入方式、导出文件效果和用户声明机制等材料;分发平台则需形成相应的材料核验和记录流程。

第八条要求服务提供者在用户服务协议中明确说明标识的方法、样式等规范内容,并提示用户阅读和理解相关管理要求。协议条款除介绍标识方式外,还应与用户声明义务、禁止删改标识、违规处置和责任承担等内容衔接。

无显式标识设有条件限制

第九条允许用户申请获取没有显式标识的生成合成内容,但服务提供者须先通过用户协议明确用户的标识义务和使用责任,并依法留存提供对象信息等相关日志,保存期限不少于六个月。

该条仅针对显式标识设置有条件的例外,并未免除隐式标识和其他法定义务。服务提供者需要保留申请、审核、输出对象和使用责任约定等记录,以备争议处理或者监管核查。

第十条同时对内容发布用户作出要求。用户通过网络信息内容传播服务发布生成合成内容时,应主动声明,并使用平台提供的标识功能进行标识。

任何组织和个人不得恶意删除、篡改、伪造或隐匿办法规定的标识,不得为他人实施上述行为提供工具或者服务,也不得利用不正当标识手段损害他人合法权益。提供去水印、批量清除元数据或伪造AI标识功能的工具服务商,可能据此面临合规审查。

标识能力纳入备案和安全评估

第十一条规定,服务提供者开展标识活动,还应符合相关法律、行政法规、部门规章和强制性国家标准。企业除调整产品界面外,还需跟踪配套国家标准和技术规范,并将标识位置、可识别性、元数据字段和内容导出效果转化为工程验收项目。

第十二条要求服务提供者在履行算法备案、安全评估等手续时,提交生成合成内容标识相关材料,并加强标识信息共享,为防范和打击相关违法犯罪活动提供支持。标识机制的设计、实施和留痕情况,将成为备案及安全评估材料的一部分。

第十三条明确,违反办法的,由网信、电信、公安和广播电视等主管部门依职责,按照相关法律、行政法规和部门规章处理。具体后果仍需结合违法行为、内容性质、传播后果以及主体身份判断,可能涉及行政监管、民事侵权和电子证据真实性等问题。

企业改造涉及产品和传播链路

办法施行前,生成服务提供者需要分别核对文本、音频、图片、视频和虚拟场景的显式标识方式,检查下载、复制和导出文件能否保留标识,并验证元数据在压缩、转码和跨平台传播后的完整性。

内容平台需建立元数据核验、用户声明、疑似内容检测、前端提示和传播要素写入机制。应用商店应调整上架审核材料和流程,用户协议则需补充标识方法、发布义务、禁止行为及平台处置规则。

标识也可能影响电子证据审查。显式标识、隐式标识、平台传播编号和服务日志可以辅助判断内容来源及处理过程,但单一标识通常不足以独立证明文件真实、完整。司法或争议处理场景中,仍需结合原始文件、生成记录、传播日志和其他证据综合判断。

资料来源

本文为一般性法规解读,不替代针对具体产品、业务模式或执法风险的专项法律意见。

从读到用

带走这份四步核对清单

  • 确认适用规则与生效时间
  • 回到原始证据核对事实
  • 明确责任人与复核节点
  • 保留版本、来源与操作记录