《互联网信息服务深度合成管理规定》自2023年1月10日起施行。它解决的不是单一“换脸”问题，而是文本、图像、音频、视频、虚拟场景等生成合成内容的全链条治理。对律师而言，本规定的重点是区分服务提供者、技术支持者和使用者的责任，并把实名、内容审核、训练数据、生物识别单独同意、显著标识、算法备案和安全评估纳入产品上线前的合规审查。
律师先看三点
- 第一，深度合成监管覆盖文本生成、语音合成、换脸、人脸操控、图像修复、虚拟场景等多种技术，不限于视频 Deepfake。
- 第二，人脸、人声等生物识别信息编辑是高风险场景，需要告知被编辑个人并取得单独同意。
- 第三，标识义务是核心制度：隐式技术标识、显著提示标识和不得删除篡改标识共同构成内容可识别机制。
逐条解读
第一条：立法目的
条文原文：
第一条 为了加强互联网信息服务深度合成管理，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。
律师解读：本条确立深度合成治理的基本目标：规范技术应用、维护公共利益、保护合法权益。律师在审查深度合成项目时，应同时关注内容安全、人格权益、个人信息保护、新闻真实性和公共秩序。
第二条：适用范围
条文原文：
第二条 在中华人民共和国境内应用深度合成技术提供互联网信息服务（以下简称深度合成服务），适用本规定。法律、行政法规另有规定的，依照其规定。
律师解读：在境内应用深度合成技术提供互联网信息服务，以及提供技术支持，均可能适用。模型供应商、API 服务商、App 运营者、插件开发者都应评估自身是否构成技术支持者或服务提供者。
第三条：监管分工
条文原文：
第三条 国家网信部门负责统筹协调全国深度合成服务的治理和相关监督管理工作。国务院电信主管部门、公安部门依据各自职责负责深度合成服务的监督管理工作。
地方网信部门负责统筹协调本行政区域内的深度合成服务的治理和相关监督管理工作。地方电信主管部门、公安部门依据各自职责负责本行政区域内的深度合成服务的监督管理工作。
律师解读：网信部门统筹，电信主管部门和公安部门按职责监管。涉及应用商店、通信网络、诈骗、身份冒用、违法内容传播时，可能出现多部门协同执法。
第四条：基本价值要求
条文原文：
第四条 提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。
律师解读：深度合成服务要遵守法律法规、公德和伦理，服务应向上向善。该条为监管解释提供原则性依据，尤其适用于新型合成场景尚未被具体规则完全覆盖时。
第五条：行业自律
条文原文：
第五条 鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导深度合成服务提供者和技术支持者制定完善业务规范、依法开展业务和接受社会监督。
律师解读：行业标准和自律规则有助于判断服务提供者是否尽到合理注意义务。企业参与标准制定、采用行业最佳实践，可以降低争议中的过错认定风险。
第六条：禁止违法信息和虚假新闻
条文原文：
第六条 任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。
律师解读：任何组织和个人不得利用深度合成制作传播违法信息，尤其不得制作传播虚假新闻。新闻类 AIGC、虚拟主播、自动剪辑和视频生成产品，应严格区分合法稿源、评论内容和虚假新闻风险。
第七条：信息安全主体责任
条文原文：
第七条 深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。
律师解读：服务提供者应建立用户注册、算法审核、科技伦理、发布审核、数据安全、个人信息保护、反诈和应急制度。律师应要求企业形成制度文本、技术措施和执行记录三类证据。
第八条：平台规则和服务协议
条文原文：
第八条 深度合成服务提供者应当制定和公开管理规则、平台公约，完善服务协议，依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。
律师解读：平台应公开管理规则、完善服务协议，并提示技术支持者和使用者承担信息安全义务。实务上，用户协议应明确禁止冒用他人身份、制作虚假信息、删除标识和侵害人格权益。
第九条：真实身份认证
条文原文：
第九条 深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。
律师解读：提供信息发布服务前，应依法进行真实身份认证。未实名用户不能获得发布服务。企业要把实名能力、账号体系、发布权限和日志留存打通。
第十条：输入和结果审核
条文原文：
第十条 深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。
深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。
深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。
律师解读：服务提供者应对输入数据和合成结果进行审核，建立违法和不良信息特征库并留存日志。律师应关注审核机制是否覆盖提示词、上传素材、生成结果和二次编辑。
第十一条：辟谣机制
条文原文：
第十一条 深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。
律师解读：发现利用深度合成制作传播虚假信息，应及时辟谣、保存记录并报告。对社交传播平台和视频平台而言，辟谣不是可选公关动作，而是法定义务的一部分。
第十二条：申诉和举报
条文原文：
第十二条 深度合成服务提供者应当设置便捷的用户申诉和公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理和反馈处理结果。
律师解读：平台应设置便捷投诉、举报入口并明确流程和时限。涉及肖像权、名誉权、隐私权、冒名诈骗的投诉，应有快速冻结、下架和证据保全机制。
第十三条：应用商店责任
条文原文：
第十三条 互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
律师解读：应用商店等分发平台要核验深度合成类应用的安全评估、备案等情况。渠道方不能只做流量入口，也要承担上架审核和日常管理责任。
第十四条：训练数据和生物识别信息
条文原文：
第十四条 深度合成服务提供者和技术支持者应当加强训练数据管理，采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定。
深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。
律师解读：训练数据安全和个人信息保护是底线。提供人脸、人声等生物识别信息编辑功能时，应提示用户告知被编辑个人并取得单独同意。换脸、仿声、数字人产品尤其需要留存授权证据。
第十五条：技术管理和安全评估
条文原文：
第十五条 深度合成服务提供者和技术支持者应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。
深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：
（一）生成或者编辑人脸、人声等生物识别信息的；
（二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。
律师解读：服务提供者和技术支持者应定期审核评估算法机制。提供人脸、人声编辑或涉及国家安全、公共利益特殊场景生成工具的，应开展安全评估。高风险功能上线前应有法律、伦理和安全联合评审。
第十六条：技术标识和日志
条文原文：
第十六条 深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。
律师解读：对生成或编辑的信息内容，应采取技术措施添加不影响使用的标识，并保存日志。该条构成深度合成内容可追溯的基础，企业应避免导出文件丢失元数据或标识。
第十七条：显著标识
条文原文：
第十七条 深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：
（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；
（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
（四）沉浸式拟真场景等生成或者编辑服务；
（五）其他具有生成或者显著改变信息内容功能的服务。
深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。
律师解读：可能导致公众混淆或误认的文本、语音、人脸、沉浸式场景等，应在合理位置显著标识。律师应审查标识是否足够明显、是否覆盖下载和分享后的展示场景。
第十八条：禁止删除篡改标识
条文原文：
第十八条 任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。
律师解读：任何组织和个人不得通过技术手段删除、篡改、隐匿深度合成标识。工具产品如果提供“去水印”“去标识”能力，可能直接触及本条风险。
第十九条：备案和公示
条文原文：
第十九条 具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。
深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。
完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
律师解读：具有舆论属性或社会动员能力的深度合成服务，应按算法推荐规定履行备案；技术支持者参照履行。完成备案后，还要在网站、App 显著位置标明备案编号并链接公示信息。
第二十条：新产品安全评估
条文原文：
第二十条 深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。
律师解读：开发上线具有舆论属性或社会动员能力的新产品、新应用、新功能，应开展安全评估。对大模型生成、虚拟主播、数字人直播等新功能，评估应早于上线。
第二十一条：监督检查和整改
条文原文：
第二十一条 网信部门和电信主管部门、公安部门依据职责对深度合成服务开展监督检查。深度合成服务提供者和技术支持者应当依法予以配合，并提供必要的技术、数据等支持和协助。
网信部门和有关主管部门发现深度合成服务存在较大信息安全风险的，可以按照职责依法要求深度合成服务提供者和技术支持者采取暂停信息更新、用户账号注册或者其他相关服务等措施。深度合成服务提供者和技术支持者应当按照要求采取措施，进行整改，消除隐患。
律师解读：监管部门可要求提供必要技术、数据支持；存在较大风险时，可要求暂停更新、注册或相关服务。企业应提前准备检查材料，并建立快速整改机制。
第二十二条：法律责任
条文原文：
第二十二条 深度合成服务提供者和技术支持者违反本规定的，依照有关法律、行政法规的规定处罚；造成严重后果的，依法从重处罚。
构成违反治安管理行为的，由公安机关依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
律师解读：违反规定将依照相关法律法规处罚，严重后果从重，构成治安违法或犯罪的依法追责。深度合成侵权还可能引发民事赔偿、平台连带或帮助侵权争议。
第二十三条：定义条款
条文原文：
第二十三条 本规定中下列用语的含义：
深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：
（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；
（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；
（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；
（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；
（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；
（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
深度合成服务提供者，是指提供深度合成服务的组织、个人。
深度合成服务技术支持者，是指为深度合成服务提供技术支持的组织、个人。
深度合成服务使用者，是指使用深度合成服务制作、复制、发布、传播信息的组织、个人。
训练数据，是指被用于训练机器学习模型的标注或者基准数据集。
沉浸式拟真场景，是指应用深度合成技术生成或者编辑的、可供参与者体验或者互动的、具有高度真实感的虚拟场景。
律师解读：本条对深度合成技术、提供者、技术支持者、使用者、训练数据等作定义。律师起草协议时，应按这些角色分配实名、审核、标识、日志、投诉和配合监管义务。
第二十四条：其他行业规定衔接
条文原文：
第二十四条 深度合成服务提供者和技术支持者从事网络出版服务、网络文化活动和网络视听节目服务的，应当同时符合新闻出版、文化和旅游、广播电视主管部门的规定。
律师解读：从事网络出版、网络文化活动、网络视听节目服务，还要同时符合新闻出版、文化和旅游、广播电视等规定。深度合成不是单一网信合规问题，可能叠加许可证和内容审查要求。
第二十五条：施行日期
条文原文：
第二十五条 本规定自2023年1月10日起施行。
律师解读：本规定自2023年1月10日起施行。存量深度合成产品也应完成实名、标识、备案、安全评估和协议整改，不能以产品上线时间早于规定为由忽略合规义务。
合规落地清单
- 梳理产品是否属于深度合成服务，区分服务提供者、技术支持者和使用者角色。
- 建立真实身份认证、服务协议、平台公约、内容审核、辟谣、投诉举报和日志留存机制。
- 涉及人脸、人声、特殊场景生成的，补充单独同意、安全评估和高风险功能审批。
- 为合成内容添加技术标识；对可能导致混淆或误认的场景添加显著标识。
- 判断是否具有舆论属性或者社会动员能力，必要时履行算法备案、安全评估和备案编号公示。
- 应用商店、渠道方应核验深度合成类应用的备案、安全评估和标识材料。
参考来源
本文为一般性法规解读，不替代针对具体产品、业务模式或执法风险的专项法律意见。
