《生成式人工智能服务管理暂行办法》自2023年8月15日起施行，适用于面向境内公众提供生成内容的服务。办法对训练数据、个人信息、内容标识、违法信息处置、安全评估和算法备案等作出规定，并把API服务纳入提供者定义。
这篇文章解决什么问题
《生成式人工智能服务管理暂行办法》自2023年8月15日起施行，适用于面向境内公众提供生成内容的服务。办法对训练数据、个人信息、内容标识、违法信息处置、安全评估和算法备案等作出规定，并把API服务纳入提供者定义。
2023年8月15日，《生成式人工智能服务管理暂行办法》正式施行。办法由国家网信办等部门公布，适用于利用生成式人工智能技术，向中国境内公众提供文本、图片、音频、视频等生成内容的服务。训练数据来源、知识产权和个人信息保护、生成内容标识、违法信息处置、安全评估和算法备案，因此成了相关产品上线审查的主要事项。
办法共24条，立法依据包括网络安全法、数据安全法、个人信息保护法和科学技术进步法等。监管思路兼顾技术发展与安全治理，提出包容审慎、分类分级监管。对企业来说，合规判断的起点，在于服务对象、开放范围以及产品实际提供的功能，而不在模型规模或技术路线。
适用前提：向境内公众提供服务
办法第二条把适用范围限定为向境内公众提供生成式人工智能服务。行业组织、企业、教育和科研机构、公共文化机构及其他专业机构研发、应用相关技术，但没有向境内公众提供服务的，不适用本办法。新闻出版、影视制作、文艺创作等领域已有专门规定的，依照相应规定执行。
这条范围划分，对企业内部知识库、私有化部署和模型接口服务很关键。内部研发或仅供特定组织使用的系统，一般跟直接向公众开放的产品有区别，但不能只凭“内部使用”或“私有部署”这个名字就排除适用。审查时还要核对账号怎么开放、实际用户范围有多大、服务控制权在谁手里，以及能不能通过接口向不特定用户提供生成内容。
办法第二十二条明确，生成式人工智能服务提供者包括通过可编程接口等方式提供服务的组织和个人。所以，模型API、SDK、插件和其他嵌入式服务也可能进入监管范围。基础模型供应商、应用开发者、部署方和最终运营者之间的责任，要看各方对模型、数据、输出和用户关系控制到什么程度。
监管覆盖模型开发和服务运营
办法第三条提出发展和安全并重、促进创新和依法治理相结合，并实行分类分级监管。第五条、第六条鼓励生成式人工智能在各行业应用，支持算法、框架、芯片、软件平台、算力设施和公共训练数据资源建设，推动国际交流与合作。
合同审查、法律检索、案件材料整理和机构知识库，都是生成式人工智能可能用到的专业场景。相关产品除了守通用规则，还要处理客户资料保密、执业责任和专业输出准不准的问题。医疗、教育、金融、新闻出版、视听和法律服务等领域，还可能受行业准入和专门监管规则约束。
办法第四条集中规定提供者和使用者的基本义务：不得生成法律、行政法规禁止的内容，防止算法和模型输出在民族、信仰、国别、地域、性别、年龄、职业、健康等方面产生歧视；尊重知识产权、商业秘密和商业道德；不得侵害肖像权、名誉权、荣誉权、隐私权及个人信息权益；还要按服务类型提高透明度、准确性和可靠性。
这些要求贯穿算法设计、训练数据选择、模型优化和产品运营。企业一般要靠内容安全测试、偏见评估、权限控制、输出提示和人工复核来落实。法律、医疗这类专业产品如果向用户展示模型结论，还要讲清适用范围和局限，别把概率性的输出包装成有专业保证的意见。
训练数据要说明来源和处理依据
办法第七条要求提供者依法开展预训练和优化训练等数据处理活动，使用有合法来源的数据和基础模型。涉及知识产权的，不得侵害他人依法享有的权利；涉及个人信息的，要取得个人同意，或者具备法律、行政法规规定的其他处理依据。
提供者还应采取措施提高训练数据的真实性、准确性、客观性和多样性，并遵守网络安全、数据安全和个人信息保护等要求。只说数据来自“公开网络”，通常不足以证明它就能用于模型训练。数据怎么取得、许可条件如何、作品权利状态怎样、个人信息处理依据是什么，以及后续清洗过程，都可能被审查。
具体项目里，数据来源台账、授权文件、采购或许可协议、抓取规则、清洗和去重记录、个人信息处理依据、脱敏措施和质量评估报告，是比较关键的证据材料。采用第三方基础模型时，还要核查模型授权范围、训练和微调权限、输出内容责任，以及供应商给的合规说明。
第八条对数据标注提出专门要求。提供者要制定清晰、具体、可操作的标注规则，开展标注质量评估，抽样核验准确性，并对标注人员做必要培训。标注外包时，双方合同一般要覆盖保密、数据安全、个人信息处理、标注质量、违规责任和审计安排。
用户输入和使用记录受保护
按第九条，提供者依法承担网络信息内容生产者责任，并履行网络信息安全义务；处理个人信息时，还要承担个人信息处理者责任。提供者要和注册用户签服务协议，明确双方权利义务。
服务协议要写明用户输入和模型输出怎么处理、账号怎么管、日志保存多久、用户内容是否会用于模型训练或优化、违法使用怎么处置，以及投诉渠道。面向企业客户的产品，还要处理商业秘密、客户数据隔离、分包处理，以及服务终止后数据怎么返还或删除。
第十一条要求提供者保护用户输入信息和使用记录，不得收集非必要个人信息，不得非法留存能识别用户身份的输入和记录，也不得非法提供给他人。对个人提出的查阅、复制、更正、补充和删除请求，提供者要依法及时受理和处理。
这条直接管到产品日志、对话历史和训练数据复用。企业要说明日志保存的目的和期限，限制内部访问权限，并把安全审计、服务改进和模型训练等用途分开。对可能包含案件材料、合同文本、身份证明或商业秘密的法律人工智能产品，还要建脱敏、隔离、删除和导出机制。站内 AI Skill 与 MCP 库的个人信息分类里，也有相关工具。
产品说明、内容标识和稳定性
第十条要求提供者明确并公开服务的适用人群、场合和用途，引导用户科学、理性使用生成式人工智能，并采取措施防范未成年人过度依赖或沉迷。产品页面、用户协议和操作界面里的适用范围说明，不能只当概括性免责声明，还要和实际功能、营销表述、风险提示保持一致。
第十二条规定，图片、视频等生成内容要按《互联网信息服务深度合成管理规定》标识。企业设计生成、下载和传播功能时，要核查显式标识、技术性标识和平台识别机制是否符合规则，防止标识在导出、压缩或二次传播中丢失。
第十三条要求提供安全、稳定、持续的服务，保障用户正常使用。对企业级产品来说，这项义务一般会落成服务等级协议、系统备份、故障通知、数据恢复、模型降级和服务暂停安排。厂商给出的可用率、响应时间等承诺，要有监测方法和责任条款撑着。
违法内容处置要形成闭环
第十四条规定，提供者发现违法内容后，要及时停止生成、停止传输并消除相关内容，同时采取模型优化训练等措施整改，并向有关主管部门报告。发现用户利用服务从事违法活动的，要依法依约采取警示、限制功能、暂停或终止服务等措施，保存记录并报告。
这条要求涉及识别、处置、复核、留痕和报告等多个环节。企业要明确风险内容的分级标准、自动拦截和人工复核流程、用户申诉渠道、模型整改责任，以及向主管部门报告的触发条件。只删掉单条输出，不去追模型、数据或提示词层面的原因，可能整改不到位。
第十五条要求建立投诉举报机制，设置便捷入口，公布处理流程和反馈时限，并及时向公众反馈处理结果。涉及侵权、虚假信息、个人信息泄露、商业秘密或错误专业建议的投诉，一般要交给内容安全、法务、数据保护和产品团队一起处理。
第十八条进一步确认，用户发现服务不符合法律、行政法规和本办法规定时，有权向主管部门投诉、举报。产品运营方要保存投诉受理、调查、处理和反馈记录，并为错误输出、身份冒用和侵权内容提供纠正渠道。
安全评估和算法备案是上线重点
第十七条规定，提供具有舆论属性或社会动员能力的生成式人工智能服务，要按国家有关规定开展安全评估，并依照《互联网信息服务算法推荐管理规定》办理算法备案以及变更、注销备案手续。
聊天问答、内容生成、资讯摘要和面向公众的信息发布工具，有没有舆论属性或社会动员能力，要结合服务功能、用户规模、内容传播方式和社会影响来判断。企业不能只看产品名称就下结论，产品功能、模型用途或开放范围一变，也要重新评估备案和变更手续。
第十六条显示，生成式人工智能服务由网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门按职责管理。有关部门还可以针对技术特点及行业应用，制定分类分级监管规则或指引。所以，过了通用安全评估，并不当然替代特定行业的行政许可或合规审查。
第二十三条规定，法律、行政法规要求提供生成式人工智能服务取得行政许可的，提供者要依法取得许可；外商投资相关服务，还要符合外商投资法律和行政法规。涉及新闻出版、网络视听、医疗、教育和金融等业务时，产品上线前要同时核查牌照、外资准入和经营范围。
企业要备好监管说明材料
按第十九条，主管部门可以依法对生成式人工智能服务开展监督检查，提供者要配合，并按要求说明训练数据的来源、规模、类型、标注规则以及算法机制机理，提供必要的技术和数据支持。参与安全评估和监督检查的机构及人员，对履职中知悉的国家秘密、商业秘密、个人隐私和个人信息负有保密义务。
企业因此要在产品上线前备好可供说明的材料，包括数据来源和授权情况、模型结构和关键机制、训练与评测记录、标注规则、内容安全策略、用户管理流程和事件处置记录。技术复杂或涉及第三方模型时，还要在采购和合作协议里约定供应商配合监管问询、提供证明材料和处理安全事件的责任。
第二十条涉及境外服务。来源于境外、向境内提供的生成式人工智能服务如果不符合法律、行政法规和本办法规定，国家网信部门可以通知有关机构采取技术措施和其他必要措施。境外模型API或海外软件服务面向中国境内用户时，还是要评估服务对象、数据跨境、个人信息处理和内容安全责任。
违规可能被暂停服务
第二十一条规定，提供者违反本办法的，可依照网络安全法、数据安全法、个人信息保护法、科学技术进步法等法律法规处理。其他法律、行政法规没作规定的，主管部门可以给予警告、通报批评并责令限期改正；拒不改正或情节严重的，可以责令暂停提供相关服务。构成违反治安管理行为或犯罪的，还要承担相应责任。
相关风险不只在行政处罚。训练数据侵权、个人信息违法处理、商业秘密泄露或虚假宣传，还可能引来民事索赔、合同违约和声誉损失。企业审核供应商的合规材料，也替代不了自己作为服务运营者、数据处理者或内容生产者该负的责任。站内 AI Skill 与 MCP 库的合规分类里，还有配套的工具条目。
上线前要核对的几件事
- 核实产品有没有向境内公众提供文本、图片、音频、视频等生成内容，并记录判断依据。
- 建立训练数据和基础模型的来源台账，保存授权、清洗、标注、质量评估和个人信息处理记录。
- 完善用户协议、隐私规则、适用人群和用途说明，并设置未成年人保护措施。
- 明确用户输入、使用记录和对话内容的保存期限、访问权限、训练复用条件和删除机制。
- 建立违法内容停止生成、停止传输、消除、模型整改、用户处置、记录保存和监管报告的流程。
- 按深度合成等相关规定配置生成内容标识，并检查内容导出和传播环节。
- 评估服务有没有舆论属性或社会动员能力，依法办理安全评估、算法备案和变更手续。
- 核查专业行业许可、外商投资准入、第三方模型责任和境外服务涉及的数据合规问题。
相关报道
本文为一般性法规信息整理，不替代针对具体产品、业务模式或执法风险出具的专项法律意见。
引用与继续阅读
生成式AI服务上线前：先分清适用边界和担责主体｜AIILAW.cn｜2026-06-29｜https://aiilaw.cn/generative-ai-interim-measures-lawyer-interpretation/