《互联网信息服务深度合成管理规定》2023年1月10日起施行，共25条，把提供者、技术支持者和使用者分别放进责任体系。这篇文章按条文顺序拆解监管对象、部门分工、实名认证、输入与结果审核、人脸仿声单独同意、技术标识与显著提示、算法备案和安全评估，并说明风险较大时暂停更新或注册的适用条件。
这篇文章解决什么问题
《互联网信息服务深度合成管理规定》2023年1月10日起施行，共25条，把提供者、技术支持者和使用者分别放进责任体系。这篇文章按条文顺序拆解监管对象、部门分工、实名认证、输入与结果审核、人脸仿声单独同意、技术标识与显著提示、算法备案和安全评估，并说明风险较大时暂停更新或注册的适用条件。
2023年1月10日，《互联网信息服务深度合成管理规定》开始施行。规章由国家互联网信息办公室、工业和信息化部、公安部联合发布，文本生成、语音合成、人脸替换、图像修复、数字人物和虚拟场景等服务，都在它的监管范围内。
这份规章共25条，把深度合成服务提供者、技术支持者和使用者分别放进责任体系，对真实身份认证、输入与生成结果审核、训练数据安全、生物识别信息处理、内容标识、算法备案和安全评估都提出了要求。适用对象不只是常说的“换脸”或Deepfake产品，提供相关模型、接口、模板和技术支持的企业同样在内。
监管对象和部门分工
第一条讲立法依据和治理目标，涉及网络安全、数据安全、个人信息保护、公共利益，以及公民、法人和其他组织的合法权益。企业评估深度合成业务，光看内容安全不够，人格权、个人信息权益、新闻真实性和社会公共秩序也都在考察范围内。
第二条明确适用范围：在中国境内应用深度合成技术提供互联网信息服务，适用该规定。第二十三条给深度合成技术下了定义，指利用深度学习、虚拟现实等生成合成类算法制作或编辑网络信息，具体包括篇章生成、文本风格转换、问答对话、文本转语音、语音转换、音乐生成、场景声编辑、人脸生成与替换、人物属性和姿态操控、图像生成与修复、三维重建及数字仿真等。
规章把参与主体分成三类：直接提供深度合成服务的组织和个人是服务提供者；为相关服务提供技术支持的组织和个人是技术支持者；利用服务制作、复制、发布或传播信息的主体是使用者。模型供应商、API服务商、应用程序运营者和插件开发者，都要按实际控制能力和业务关系判断自己属于哪一类，合同上的名称并不能排除法定义务。
第三条划分了监管分工：国家网信部门统筹协调全国治理和监督管理，电信主管部门、公安部门按各自职责开展监管，地方层面配置相同。深度合成产品一旦牵涉应用分发、通信网络、身份冒用、电信网络诈骗或违法信息传播，就可能同时面对几个部门的监管。
第四条要求服务提供者遵守法律法规、社会公德和伦理道德，坚持相应的政治方向、舆论导向和价值取向。这是一条原则性规范，但新技术、新业务还没有具体规则可依时，监管往往就是拿它来判断业务风险。
第五条讲行业自律，鼓励行业组织建立行业标准、行业准则和自律管理制度。行业标准本身不等于法律义务，但在侵权纠纷或行政检查里，它常被用来判断企业有没有采取与业务风险相匹配的管理措施。
虚假新闻与违法内容的红线
第六条规定，任何组织和个人都不得利用深度合成服务制作、复制、发布和传播法律、行政法规禁止的信息，也不得借此危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济社会秩序或侵犯他人合法权益。
这一条还专门提了新闻信息的真实性：提供者和使用者不得制作、复制、发布或传播虚假新闻信息；转载以深度合成服务做出来的新闻信息，要依法转载互联网新闻信息稿源单位发布的内容。用生成式工具做新闻、虚拟主播节目、自动剪辑视频或资讯摘要的机构，得核验稿源资质，把事实报道、评论和合成演示分清楚，别让生成的内容被当成真新闻传出去。
第七条要求服务提供者落实信息安全主体责任，建立用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗和应急处置等制度，同时配好安全可控的技术保障措施。
这些要求不是写几份内部制度就算数。监管检查或纠纷处理时，还会看技术措施有没有真正启用、工作人员是不是按流程操作、异常情况有没有留下记录。所以制度版本、审核记录、风险评估报告和处置日志都得存好，用来证明机制确实在运转。
第八条要求服务提供者制定并公开管理规则、平台公约，完善服务协议，用显著方式提示技术支持者和使用者各自的信息安全义务。服务协议可以结合具体功能，写明禁止冒用身份、制造虚假信息、侵犯肖像和名誉权益，以及删除或篡改合成标识等行为。
实名认证和输入、结果双向审核
第九条要求服务提供者通过移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，核验使用者的真实身份信息。没完成认证的使用者，拿不到信息发布服务。
这涉及账号体系和发布权限怎么衔接。只在注册时收个电话号码，却让没核验身份的账号公开传合成内容，很可能达不到规定要求。企业处理认证信息也要依法，按个人信息保护规则控制收集范围、保存期限和访问权限。
第十条把内容审核同时延伸到使用者的输入数据和合成结果。提供者可以用技术或人工方式审核，还要建立识别违法和不良信息的特征库，完善入库标准、规则和程序，并记录、留存相关网络日志。
发现违法和不良信息后，提供者要依法处置、保存记录，并向网信部门和有关主管部门报告；对涉事使用者，可以依照法律和平台规则警示、限制功能、暂停服务或关闭账号。产品如果允许用户上传图片、声音和视频，审核范围通常还得覆盖上传素材、提示词、生成结果以及平台内的二次编辑环节。
第十一条要求平台建立辟谣机制。发现有人借深度合成服务制作、复制、发布或传播虚假信息，要及时辟谣，保存记录并向主管部门报告。对社交平台和视频平台来说，删掉内容不等于完成了辟谣义务；要不要发澄清、限制继续传播或提醒其他用户，得看虚假信息的传播范围和社会影响。
第十二条要求服务提供者设置方便的用户申诉和公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理并反馈。涉及肖像权、名誉权、隐私权、个人信息权益或冒名诈骗的投诉时效性很强，平台得配上快速冻结、下架、复核和证据保全的流程。
应用商店也要核验上架材料
第十三条把互联网应用商店等应用程序分发平台也纳入责任范围。分发平台要承担上架审核、日常管理和应急处置等安全管理责任，并核验深度合成类应用的安全评估、备案等情况。
对不合规的应用，分发平台要及时不予上架、警示、暂停服务或下架。这么一来，渠道方就不只是软件下载入口了。深度合成类产品申请上架，可能要交算法备案、安全评估、内容标识和投诉机制等材料；功能发生重大变化后，渠道方还可能要求重新审核。
人脸和仿声功能须单独同意
第十四条要求深度合成服务提供者和技术支持者加强训练数据管理，采取必要措施保障训练数据安全。训练数据里有个人信息的，还得遵守个人信息保护的相关规定。
规章对人脸、人声等生物识别信息编辑功能有专门安排：提供者和技术支持者要提示使用者依法告知被编辑的个人，并取得其单独同意。换脸、声音克隆和数字人产品不能只靠用户勾一条概括性条款，还得想清楚怎么确认授权主体、授权范围、使用期限和传播场景，并保存能证明单独同意的材料。
训练数据的风险不只在有没有姓名或联系方式。能识别到自然人的图像、声音和视频可能构成个人信息，其中人脸、人声等生物识别信息属于敏感个人信息。数据来源、授权基础、清洗规则、访问控制和退出机制，都要纳入项目审查。
第十五条要求服务提供者和技术支持者加强技术管理，定期审核、评估和验证生成合成类算法的机制机理。提供人脸、人声等生物识别信息生成或编辑功能，或者提供生成、编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体或场景的模型、模板等工具，要依法自行或委托专业机构开展安全评估。
安全评估得跟产品开发进度接上。高风险功能如果上线前没做完法律、技术、伦理和安全审查，后面的整改可能牵动模型、数据和产品交互的整体调整，不是改改用户协议就能了事。
合成内容要打技术标识和显著提示
第十六条要求服务提供者对用其服务生成或编辑的信息内容采取技术措施，加上不影响用户使用的标识，并依法保存日志。这类技术标识主要是给内容识别和来源追溯用的，得考虑内容被下载、转码、压缩和跨平台传播后还起不起作用。
第十七条进一步规定显著标识义务。服务可能导致公众混淆或误认时，要在生成或编辑内容的合理位置、区域做显著标识，提示公众这是深度合成。
要显著标识的情形包括：智能对话、智能写作等模拟自然人的文本生成或编辑；合成人声、仿声等语音生成，或显著改变个人身份特征的语音编辑；人脸生成、替换、操控和姿态操控等人物图像、视频处理；沉浸式拟真场景生成或编辑；以及其它具有生成或显著改变信息内容功能的服务。
上面这些情形以外的深度合成服务，提供者仍要提供显著标识功能，并提示使用者可以标注。企业判断是否必须显著标识，要看普通公众看到内容后的认知，不能只看产品内部怎么给功能分类。
第十八条禁止任何组织和个人用技术手段删除、篡改或隐匿第十六条、第十七条规定的深度合成标识。产品如果带“去水印”“清除元数据”这类功能，得确认它会不会把法定标识一并抹掉；明知功能被用来规避识别还继续提供，行政和侵权风险都会加大。
技术标识、显著提示和禁止删除篡改合起来构成内容识别机制。前两者一个偏机器识别和追溯，一个直接提示公众，不能互相顶替。
有舆论属性的服务要办算法备案
第十九条规定，具有舆论属性或社会动员能力的深度合成服务提供者，要按《互联网信息服务算法推荐管理规定》办理备案，以及变更、注销手续；深度合成服务技术支持者参照办理。
办完备案的服务提供者和技术支持者，还要在对外服务的网站、应用程序等显著位置标明备案编号，并提供公示信息链接。备案不是办一次就完事，算法机理、服务功能或运营主体变了，就得判断要不要办变更或注销。
第二十条要求服务提供者开发上线具有舆论属性或社会动员能力的新产品、新应用、新功能时，按国家有关规定开展安全评估。生成式模型、数字人直播、虚拟主播和面向公众的信息生成工具，都要结合服务对象、传播能力和内容影响，判断会不会触发这项要求。
算法备案和安全评估是两套程序。备案重在登记、公示算法基本情况和主体信息，安全评估重在产品上线或重大功能变化前识别和控制风险，企业不能拿已经备案当理由省掉安全评估。
风险较大时可被暂停更新和注册
第二十一条给了网信部门、电信主管部门和公安部门监督检查的职责。深度合成服务提供者和技术支持者要依法配合，提供必要的技术、数据等支持和协助。
主管部门发现服务存在较大信息安全风险时，可以依法要求企业暂停信息更新、用户账号注册或其他相关服务，企业要按要求整改、消除隐患。对用户规模大、传播能力强的平台，这类措施会直接影响运营，所以得提前备好监管检查材料目录、内部响应机制和整改责任分工。
第二十二条规定，服务提供者和技术支持者违反规定的，依照有关法律、行政法规处罚；造成严重后果的，依法从重处罚。行为构成违反治安管理的，由公安机关处罚；构成犯罪的，依法追究刑事责任。
除了行政和刑事风险，深度合成内容还可能惹上肖像权、名誉权、隐私权、个人信息权益和著作权纠纷。平台知不知道侵权、有没有控制能力、接到通知后是否及时处置，都会影响民事案件里的责任判断。
出版、视听业务还受行业规定约束
第二十三条除了界定深度合成技术和各类主体，还给训练数据和沉浸式拟真场景下了定义。训练数据是用于训练机器学习模型的标注或基准数据集；沉浸式拟真场景是靠深度合成技术生成或编辑、可供参与者体验或互动且真实感很高的虚拟场景。
这些定义会落到合同的责任分配上。模型供应、接口调用、内容生成、发布传播等环节分散在不同企业时，协议要写清谁负责实名认证、素材审核、生成结果审核、内容标识、日志保存、投诉处理和配合监管，别让法定义务悬空。
第二十四条规定，服务提供者和技术支持者从事网络出版服务、网络文化活动或网络视听节目服务的，还得同时符合新闻出版、文化和旅游、广播电视主管部门的规定。深度合成业务可能叠加许可证、内容审查和节目管理要求，网信领域的备案办完了，不等于拿到了其它行业的准入资格。
第二十五条明确施行日期为2023年1月10日。这份规则没有对施行前上线的存量产品一概豁免。存量服务仍要按实际功能，逐项检查实名认证、输入和结果审核、训练数据、标识、备案、安全评估及服务协议是否符合现行要求。
合规动作要落进产品流程
从责任结构看，深度合成合规贯穿产品设计、训练数据使用、账号注册、内容生成、公开发布和后续投诉处置。企业先要判断产品算不算深度合成服务，分清自己是提供者、技术支持者还是使用者，再按功能和传播能力配置控制措施。
对一般生成服务，基础动作有真实身份认证、平台规则、输入与结果审核、违法信息特征库、日志留存、辟谣、投诉举报和应急处置；这些检查项不少，站内合规类 Skills也整理了可复用的条目。涉及人脸、人声或特殊场景生成的，还要审查单独同意、安全评估和高风险功能审批。可能让公众混淆的内容，技术标识和面向公众的显著提示都得有。
具有舆论属性或社会动员能力的服务，还要进一步判断算法备案、新产品安全评估和备案编号公示义务。应用商店等分发平台也要核验相关材料，发现违规应用后拒绝上架、警示、暂停服务或下架。
这些义务最后都要在产品和运营环节留下能核验的记录。只有协议、没有审核和标识能力，或者装了技术措施却说不清运行情况，在监管检查和争议处理里都可能变成风险。
相关报道
本文为一般性法规解读，不替代针对具体产品、业务模式或执法风险出具的专项法律意见。
引用与继续阅读
深度合成规定逐条看：谁被管，实名、审核和标识怎么落地｜AIILAW.cn｜2026-06-29｜https://aiilaw.cn/deep-synthesis-regulation-lawyer-interpretation/