首页 / 合规与实务风险

算法推荐管理规定逐条解读:平台责任覆盖内容、交易与劳动权益

算法推荐管理规定逐条解读:平台责任覆盖内容、交易与劳动权益

2022年3月1日,《互联网信息服务算法推荐管理规定》正式施行。该规定由国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布,将生成合成、个性化推送、排序精选、检索过滤和调度决策等技术纳入统一监管框架。

规定涉及的业务远超资讯和短视频推荐。电商商品排序、搜索结果展示、招聘匹配、外卖派单、网约车调度、动态定价等服务,只要通过相关算法向用户提供互联网信息,都可能落入适用范围。对企业而言,合规工作也不限于修改隐私政策,而是覆盖算法审核、内容安全、用户权益、备案、安全评估和监管协查等环节。

监管范围不止内容推荐

第一条列明立法依据和治理目标,包括维护国家安全和社会公共利益,保护公民、法人及其他组织的合法权益,促进互联网信息服务有序发展。其上位法依据包括网络安全法、数据安全法、个人信息保护法及互联网信息服务管理办法。

第二条规定,在中国境内应用算法推荐技术提供互联网信息服务,适用本规定。条文列举的算法包括生成合成类、个性化推送类、排序精选类、检索过滤类和调度决策类。由此看,企业是否自行生产内容并非判断适用与否的唯一标准,技术中台、搜索排序和平台调度也可能受到约束。

第三条确立多部门监管格局:国家网信部门负责统筹协调,电信、公安、市场监管等部门按照职责实施监督管理;地方层面采取相同分工。具体执法中,内容生态问题通常由网信部门牵头,价格差别待遇可能涉及市场监管部门,网络安全及违法犯罪线索则可能进入公安机关职责范围。

第四条要求算法推荐服务遵守法律法规和社会公德、伦理、商业道德及职业道德,并遵循公正公平、公开透明、科学合理和诚实信用原则。这些原则既是产品设计要求,也可能成为监管部门判断未被条文逐项列举行为的依据。

第五条鼓励行业组织制定行业标准、准则和自律制度。行业标准一般不直接替代法定义务,但在行政调查、民事争议或企业尽责判断中,可能成为衡量内部治理水平的参考。

平台须审查模型和分发机制

第六条要求服务提供者坚持主流价值导向,不得利用算法从事危害国家安全、社会公共利益,扰乱经济和社会秩序,或者侵犯他人合法权益的活动;不得传播法律、行政法规禁止的信息,并应防范和抵制不良信息。监管对象因此包括内容本身,也包括推荐模型、热榜规则及人工运营策略对传播效果的放大。

第七条列出算法安全主体责任。企业应建立算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测及安全事件应急处置等制度和技术措施,并公开相关服务规则,配置与业务规模相适应的人员和技术支撑。

在监管检查中,仅有制度文件通常不足以证明责任已经落实。企业还需保留审核流程、责任人员、模型测试、风险处置和整改记录,使制度、人员、技术措施与执行证据能够相互印证。

第八条要求定期审核、评估和验证算法机制机理、模型、数据及应用结果,禁止设置诱导用户沉迷、过度消费等违反法律法规或伦理道德的模型。评估材料宜载明频率、指标、测试样本、异常情况和整改结果,避免评估停留在原则性表述。

第九条要求建立识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息,应在标识后方可继续传输;发现违法信息,应立即停止传输,采取处置措施、防止扩散、保存记录,并向网信部门及有关部门报告。不良信息则依照网络信息内容生态治理规定处理。

第十条针对用户模型和标签作出限制。违法和不良信息关键词不得被记入用户兴趣点,也不得作为用户标签用于推送。广告、搜索及个性化推荐业务因此需要设置标签禁用规则、敏感标签审批、删除和复核机制,同时注意与个人信息保护要求衔接。

第十一条将首页首屏、热搜、精选、榜单和弹窗列为重点环节,要求平台完善人工干预和用户自主选择机制,并在这些位置呈现符合主流价值导向的信息。平台对重点页面的流量配置不能完全交由商业指标决定,人工调整的依据和过程也应适当留痕。

第十二条鼓励平台采用内容去重、打散干预等策略,并提高检索、排序、选择、推送和展示规则的透明度及可解释性,以减少对用户的不良影响和相关纠纷。条文虽使用“鼓励”表述,但在信息茧房、沉迷或歧视性推荐争议中,平台是否采取过相应措施,可能影响责任认定。

新闻、榜单和竞争秩序受到专门约束

第十三条规定,提供互联网新闻信息服务应依法取得许可,规范开展采编发布、转载和传播平台服务。算法不得生成合成虚假新闻,也不得传播非国家规定范围内单位发布的新闻信息。提供新闻摘要、热点生成或自动改写功能的生成式人工智能产品,需要结合实际服务形态判断是否涉及新闻信息服务许可和稿源管理要求。

第十四条禁止利用算法虚假注册或非法交易账号、操纵用户账号,以及制造虚假点赞、评论和转发;同时禁止通过屏蔽信息、过度推荐、操纵榜单或检索排序、控制热搜和精选等方式影响网络舆论或者规避监管。平台增长、运营和商业化团队实施的流量干预,即使以技术优化名义开展,也不能排除法律审查。

第十五条将算法治理与市场竞争秩序连接起来。平台不得利用算法对其他互联网信息服务提供者施加不合理限制,或者妨碍、破坏其服务正常运行。外链屏蔽、搜索降权、接口限制和差别化流量分配等措施,如缺少安全、质量或经营上的合理依据,可能同时涉及算法治理、反不正当竞争及反垄断问题。

用户有权关闭推荐和管理标签

第十六条要求平台以显著方式告知用户其正在提供算法推荐服务,并适当公示服务的基本原理、目的意图和主要运行机制。公示不要求披露源代码或商业秘密,但应让普通用户能够理解推荐依据和主要影响,不能以笼统技术术语替代告知。

第十七条要求平台提供不针对个人特征的选项,或者提供便捷的算法推荐关闭选项。用户关闭后,平台应立即停止相关服务;平台还应允许用户选择或删除用于推荐的个人标签。若算法对用户权益造成重大影响,服务提供者应依法说明并承担责任。

产品检查的重点包括关闭入口是否容易找到、关闭后是否立即生效,以及删除标签后推荐结果是否随之调整。若界面提供了选项,但后台仍按原有画像推送,仍可能被认定未履行义务。

四类群体设有专项保护条款

第十八条针对未成年人保护。平台应通过未成年人模式及适龄服务,便利未成年人获取有益身心健康的信息;不得推送可能引发不安全行为模仿、违反社会公德、诱导不良嗜好或影响身心健康的信息,也不得利用算法诱导未成年人沉迷网络。游戏、短视频、教育和社交产品通常需要设置推荐内容池、使用时长和审核规则。

第十九条要求平台保障老年人权益,考虑其在出行、就医、消费和办事等方面的需求,提供符合国家规定的适老化服务,并加强电信网络诈骗信息的监测、识别和处置。复杂操作、隐蔽收费或容易引发误解的推荐设计,可能加重平台风险。

第二十条涉及平台劳动者。使用算法提供工作调度服务的企业,应保护劳动者取得劳动报酬和休息休假等权益,并完善订单分配、报酬构成及支付、工作时间和奖惩等算法。外卖、网约车和即时配送平台需要能够说明派单、计价、超时判定和处罚规则,避免以不透明的模型将经营风险转嫁给劳动者。

第二十一条保护消费者公平交易权。平台不得根据消费者偏好、交易习惯等特征,在交易价格等条件上实施不合理差别待遇。动态定价和个性化优惠并非一概禁止,但价格差异应有正当依据,规则应保持一致,并避免利用信息不对称对特定用户加价。

第二十二条要求设置便捷有效的用户申诉和公众投诉、举报入口,明确处理流程和反馈时限,并及时告知处理结果。单纯公布电子邮箱而没有受理、复核、反馈和记录机制,难以满足条文要求。

具有舆论属性的服务须备案和评估

第二十三条提出算法分级分类管理制度。监管部门将综合考虑服务是否具有舆论属性或社会动员能力,以及内容类别、用户规模、所处理数据的重要程度和对用户行为的干预程度。企业在产品上线前有必要进行内部分类,确认其属于一般商业推荐,还是需要承担更高强度义务的服务。

第二十四条规定,具有舆论属性或者社会动员能力的算法推荐服务提供者,应当在提供服务之日起十个工作日内,通过互联网信息服务算法备案系统提交服务提供者名称、服务形式、应用领域、算法类型、算法自评估报告和拟公示内容等信息。备案信息发生变更的,应在变更之日起十个工作日内办理变更;终止服务的,应在终止之日起二十个工作日内办理注销并作出妥善安排。

第二十五条明确备案审查期限。国家和省级网信部门收到材料后,材料齐全的,应在三十个工作日内予以备案、发放备案编号并公示;材料不齐全的,不予备案,并应在同一期限内说明理由。算法类型、自评估报告和公示文本准备不足,可能影响产品上线或后续变更进度。

第二十六条要求完成备案的服务提供者在网站、应用程序等显著位置标明备案编号,并提供公示信息链接。企业还需核对公示主体、编号、算法名称和实际运行服务是否一致。

第二十七条要求具有舆论属性或者社会动员能力的算法推荐服务,按照国家有关规定开展安全评估。评估范围通常需要覆盖数据来源和处理、模型机制、内容安全、用户权益、舆情风险及应急处置,不能以备案代替安全评估。

日志和技术材料可能成为检查重点

第二十八条规定,网信部门会同电信、公安、市场监管等部门依法开展安全评估和监督检查,对发现的问题提出整改意见并限期整改。平台应依法留存网络日志,配合检查,并提供必要的技术、数据支持和协助。

除网络日志外,模型版本、推荐策略调整、人工干预、测试评估、投诉处理和整改记录,也可能成为核查算法运行情况的材料。企业需要兼顾证据留存与个人信息、商业秘密保护,避免无边界收集和保存。

第二十九条规定,参与安全评估和监督检查的机构及人员,对履职中知悉的个人隐私、个人信息和商业秘密负有保密义务。企业提交材料时仍可进行分级管理,标注商业秘密并保存交付清单和流转记录。

第三十条赋予任何组织和个人投诉、举报违法行为的权利,收到投诉举报的部门应及时依法处理。外部举报可能直接触发监管核查,平台内部宜建立举报核实、处置和复盘流程。

违法责任与其他法律衔接

第三十一条集中规定部分制度性违法行为的责任。违反算法安全制度、模型评估、生成合成信息标识、标签管理、禁止操纵、算法告知、关闭推荐、投诉处理、备案和编号公示等要求,其他法律、行政法规已有规定的,依其规定处理;没有规定的,由有关部门给予警告、通报批评并责令限期改正。拒不改正或者情节严重的,可责令暂停信息更新,并处一万元以上十万元以下罚款。构成违反治安管理行为或者犯罪的,另行依法追责。

第三十二条规定,涉及违法信息传播、重点页面生态、新闻信息服务、竞争秩序、未成年人和老年人保护、劳动者与消费者权益、安全评估及监管协查的违法行为,由有关部门按照相应法律、行政法规和部门规章处理。实践中,个人信息保护法、消费者权益保护法、反不正当竞争法、反垄断法及网络内容治理规则可能与本规定共同适用。

第三十三条针对备案真实性和持续管理作出规定。具有舆论属性或者社会动员能力的服务提供者通过隐瞒情况、提交虚假材料等方式取得备案的,网信部门可撤销备案,给予警告、通报批评;情节严重的,可责令暂停信息更新,并处一万元以上十万元以下罚款。服务终止后未按规定注销,或者因严重违法受到关闭网站、吊销许可证或营业执照等处罚的,备案可被注销。

第三十四条明确,本规定由国家互联网信息办公室会同工业和信息化部、公安部、国家市场监督管理总局负责解释。企业还应持续关注上述部门发布的公告、备案指引、执法案例和相关标准。

第三十五条确定施行日期为2022年3月1日。规定未对存量产品设置豁免,已经上线的算法服务同样需要补齐告知、用户选择、备案、评估和内部治理措施。

企业合规工作的主要落点

从条文结构看,算法合规涉及产品、技术、运营、法务和安全等多个部门。企业可先对推荐、排序、搜索、内容分发、工作调度和动态定价算法进行盘点,明确使用场景、数据来源、影响对象及责任部门。

  • 形成算法资产清单,记录模型用途、版本、训练或调用数据、输出场景及更新情况。
  • 评估服务是否具有舆论属性或者社会动员能力,按期完成备案、变更、注销和安全评估。
  • 建立算法机理审核、科技伦理审查、内容安全、个人信息保护、反诈和应急处置制度。
  • 检查算法告知、关闭个性化推荐及用户标签选择、删除功能是否真实有效。
  • 针对未成年人、老年人、平台劳动者和消费者设置专项规则,并测试实际运行结果。
  • 依法留存网络日志、评估报告、策略调整、人工干预、投诉处理和整改记录。

企业还需注意监管边界的交叉性。算法推荐可能同时涉及内容治理、个人信息处理、消费者权益、劳动用工和市场竞争。备案完成并不代表其他义务已经履行,产品设计与实际运行结果仍是监管判断的重要依据。

资料来源

本文为一般性法规解读,不替代针对具体产品、业务模式或执法风险的专项法律意见。

从读到用

带走这份四步核对清单

  • 确认适用规则与生效时间
  • 回到原始证据核对事实
  • 明确责任人与复核节点
  • 保留版本、来源与操作记录