算法，作为互联网运作的基础，是大数据、人工智能、区块链等技术的内部规则及核心要素。但长久以来，鉴于算法规则的隐蔽性，其诸多应用场景也成为合规重灾区。算法歧视、大数据杀熟、信息茧房等事件频频发生，也让人们对这项本应中立的技术进行反思。

2021年12月31日，我国第一部以算法推荐服务为规制对象的部门规章——《互联网信息服务算法推荐管理规定》（下称“《算法规定》”）正式出台，将于2022年3月1日起施行。同时，根据2022年2月28日国家互联网信息办公室发布的《关于互联网信息服务算法备案系统上线的通告》，3月1日起，互联网信息服务算法备案系统正式上线运行，官方网址为https://beian.cac.gov.cn。备案主体通过官网填报备案信息、查看备案状态，普通用户通过官网查询备案信息。互联网信息服务算法备案仅对备案主体所提供的算法推荐服务及服务中使用的算法推荐技术进行备案，信息由备案主体自行填报，该备案不代表对有关主体、算法、产品、服务等的认可，任何组织和个人不得将备案结果用于宣传和其他商业用途。

从2018年的《电子商务法》要求提供不针对个人特征的选项到2021年的《个人信息保护法》明确规范自动化决策，算法推荐服务的顶层设计逐渐完成。《算法规定》旨在规范通过算法技术向用户提供信息的行为，为算法推荐服务提供者划定明确的法律界限，在保护用户的知情权、选择权、拒绝权、救济权上提出明确要求，对保障未成年人、老年人、劳动者、消费者在互联网时代的权益具有重要作用。

下文将从《算法规定》的适用范围、算法规范、用户权益保护、特殊算法推荐服务提供者的合规义务及法律责任五个维度进行解读，旨在为企业探索算法监管下的合规之路提供一点思路。

一、适用范围

《算法规定》适用于在中国境内应用算法推荐技术提供互联网信息服务（下称“算法推荐服务”）的情形，算法推荐技服务主要包括如下五种类型：

可见，《算法规定》的适用范围非常广泛，算法推荐服务提供者需从规范信息服务，保护用户权益等方面落实算法合规义务。《算法规定》还对提供互联网新闻信息服务和具有舆论属性或者社会动员能力的算法推荐服务提供者提出了特殊要求。

二、规范信息服务

（一）完善制度设计和技术措施

《算法规定》提出多项管理制度和技术措施要求，要求算法推荐服务提供者落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则。

相较2021年8月公开征求意见的《互联网信息服务算法推荐管理规定（征求意见稿）》，《算法规定》新增了科技伦理审查和反电信网络诈骗的管理要求，进一步体现促进算法向上向善的价值导向。

此外，算法推荐服务提供者应当依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。

（二）完善向上向善的算法模型

在设计阶段，算法推荐服务提供者应以促进算法应用向上向善为导向加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。同时，算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

在算法模型运行期间，算法推荐服务提供者亦应定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

（三）加强信息安全管理

在优化算法推荐服务机制，积极传播正能量方面，《算法规定》要求算法推荐服务提供者加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。同时《算法规定》鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。

在违法信息管理方面，《算法规定》要求算法推荐服务提供者建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当在作出显著标识后再继续传输。发现违法信息的，算法推荐服务提供者应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。

（四）加强人机互补

践行社会主义核心价值观和实现算法应用向上向善离不开人的参与。《算法规定》描绘了一个算法推荐服务提供者、用户、监管部门等主体多方参与，多元共治的算法治理蓝图。

一方面，算法推荐服务提供者在建立健全算法安全管理制度和技术措施时，应配备与算法推荐服务规模相适应的专业人员和技术支撑，并建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息，以对抗虚假信息和加强信息管理。同时，算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

另一方面，《算法规定》要求网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。同时，网信部门将会同电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。任何组织和个人发现违反《算法规定》的行为，均有权向网信部门和有关部门投诉、举报。收到投诉、举报的部门应当及时依法处理。

三、保护用户权益

（一）增加算法透明度和可解释性

《算法规定》要求算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。算法推荐服务提供者可考虑在网络平台的显著位置通过隐私政策等方式告知用户算法推荐服务的相关情况。比如今日头条于2020年12月31日更新的《隐私政策》在“自主选择控制个性化推荐信息”一节中向用户告知如何管理个性化推荐信息：

此外，“滴滴出行”小程序公示的《派单规则》中图示加文字说明的方式亦可为算法推荐服务提供者提供参考。

（二）给与用户更具体细化的选择权和拒绝权

除了公示算法推荐服务的相关规则以保障用户知情权外，《算法规定》第十七条还要求算法推荐服务提供者保障用户的选择权及拒绝权。

算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者还应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。以淘宝为例，其区分了个性化内容推荐和个性化广告推荐，并在个性化广告中设置了详细的标签列表。用户可根据自己的实际情况选择是否一键关闭个性化推荐的选项或者在细化的标签中删除或增加用户标签，拥有了更为具体细化的选择权和拒绝权，这一做法可成为算法推荐服务提供者的参考。

（三）保障特殊信息主体权益

1. 保障未成年人权益

《算法规定》要求开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式。考虑到未成年的心智尚未成熟但模仿能力强等因素，应尽可能让未成年人获取有益身心健康的信息，因此《算法规定》禁止向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息。

2. 保障老年人权益

随着老年人用户群体规模的扩大，《算法规定》明确提出应当充分考虑老年人出行、就医、消费、办事等需求，提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务，结合《关于进一步抓好互联网应用适老化及无障碍改造专项行动实施工作的通知》《互联网网站适老化通用设计规范》和《移动互联网应用（APP）适老化通用设计规范》等一并完善适老化及无障碍改造。

3. 保障劳动者权益

《算法规定》要求算法推荐服务提供者建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，切实保护劳动者取得劳动报酬、休息休假等合法权益。

4. 保障消费者权益

《个人信息保护法》第二十四条要求个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。《算法规定》再次强调算法推荐服务提供者应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为，以回应广受关注的“大数据杀熟”难题。

四、履行特殊算法推荐服务提供者的合规义务

（一）提供互联网新闻信息服务的算法推荐服务提供者

《算法规定》要求提供互联网新闻信息服务的算法推荐服务提供者应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。同时，算法推荐服务提供者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息的，应当以明显方式标明“合成”字样等方式作出显著标识后方可进行传播。

（二）具有舆论属性或者社会动员能力的算法推荐服务提供者

根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，具有舆论属性或社会动员能力的互联网信息服务包括下列情形：

（1）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；

（2）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

《算法规定》对具有舆论属性或者社会动员能力的算法推荐服务提供者提出备案和开展安全评估的要求。

具有舆论属性或者社会动员能力的算法推荐服务提供者履行备案义务的要求如下：

此外，具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。结合《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第三条，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在具有下列情形之一时自行或委托第三方安全评估机构开展安全评估：

（1）具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能的；

（2）使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更，导致舆论属性或者社会动员能力发生重大变化的；

（3）用户规模显著增加，导致信息服务的舆论属性或者社会动员能力发生重大变化的；

（4）发生违法有害信息传播扩散，表明已有安全措施难以有效防控网络安全风险的；

（5）地市级以上网信部门或者公安机关书面通知需要进行安全评估的其他情形。

五、法律责任

相较《互联网信息服务算法推荐管理规定（征求意见稿）》，《算法规定》将罚款金额上限从3万元提高至10万元。但需注意，10万元并非处罚的上限，监管部门还可依据《网络安全法》《数据安全法》《个人信息保护法》等其他法律法规对提供算法推荐服务的违法行为进行处罚。

结 语”

算法歧视和信息茧房的本质在于个人信息的滥用，在《个人信息保护法》完善个人信息保护处理规则的基础上，《算法规定》进一步明确用户的知情权和选择权，强调保护未成年人，老年人，劳动者和消费者等相对弱势群体的权益，为我国数字经济发展增添了一抹以人为本，科技向善的鲜亮底色。

作者：

吴丹君律师，观韬中茂上海办公室合伙人，律商联讯LexisNexis网络安全合规专家、首席数据官联盟专家组成员及法律顾问、深圳市大数据研究与应用协会法律专家。主要执业领域为互联网|数据信息、兼并收购、外商直接投资、酒店等

张振君律师助理，法律硕士，现就职于北京观韬中茂（上海）律师事务所，专注于公司法、网络安全和数据合规领域，致力为客户提供咨询、全流程合规整改及争议解决服务

来源：微信公众号“大数据法律研究”