当前时间:

当前位置: 首页 > 网络安全 > 安全动态 >

《互联网信息服务算法推荐管理规定》系列专家解读(二)

发布时间:2022-01-06
将算法推荐关进法治的笼子里 持续推进完善我国算法治理体系

  作者:梁正 清华大学公共管理学院教授,人工智能国际治理研究院副院长

  在数字经济时代,算法是一种重要的生产工具。算法推荐技术被广泛应用于信息分发和媒体传播领域,带来“信息茧房”、“大数据杀熟”、“困在系统里”等社会隐忧,规范算法推荐活动迫在眉睫。习近平总书记在谈媒体融合发展时强调,用主流价值导向驾驭“算法”,全面提高舆论引导能力。近日,国家互联网信息办公室等四部门联合发布的《互联网信息服务算法推荐管理规定》(以下简称《规定》)正当其时,为规范算法推荐服务提出了科学化、系统化、精细化的合规要求,织密了我国算法治理的法治之网,是构建我国算法治理体系的重要一环。
  一、《规定》的重要内容和亮点
  (一)明确了算法治理的对象。《规定》对应用算法推荐技术进行了界定,即指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。《规定》针对算法调度场景、商品定价场景、个性化推荐场景等以负面清单的方式对算法推荐服务提供者提出了具体的合规要求,回应了“骑手困在系统里”、“大数据杀熟”、“网络沉迷”、“未成年人保护”等社会热点问题。
  (二)确立了算法治理的基本原则。在算法治理中坚持“硬法”和“软法”相结合是国际通行做法,一方面防范重大风险发生,另一方面激发市场主体主动合规的积极性。《规定》要求算法推荐服务提供者既应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,也应当遵循公正公平、公开透明、科学合理和诚实信用的原则。
  (三)重视自我合规,鼓励行业自律。《规定》鼓励相关行业组织加强行业自律,建立健全自律制度和行业准则,组织制定行业标准。通过行业自律和制定行业标准的方式可以将各个参与主体纳入其中,利于形成多元主体共治的格局,充分发挥社会公众的监督作用。
  (四)坚持社会主义价值观导向,促进算法应用向上向善。国际社会主张人工智能的“伦理设计”,即在人工智能设计研发阶段就导入伦理规则,实现全生命周期的治理。我国强调社会主义核心价值观,构建符合我国国情的伦理道德标准。《规定》要求算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。特别是在算法设计过程中,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷或者过度消费等违反法律法规或者违背伦理道德的算法模型。
  (五)突出体现以人为本,重视对特殊群体的权益保护。《规定》对用户权益保护进行了专章规定,要求算法推荐服务提供者向用户告知算法的基本原理、目的意图和主要运行机制等,以提高算法的透明度。同时,要求算法推荐服务提供者充分保障用户选择关闭和获得算法解释的权利。《规定》还重点强调算法推荐服务提供者应当向未成年人、老年人和劳动者履行特殊的保障义务,以确保各类社会主体均获得法律保护。
  二、《规定》明确了算法治理的主要制度工具
  (一)以提高算法透明度和可解释性为基本要求,增强算法可信。算法具有“黑箱”特征,自动化决策需要人工干预,避免因算法错误而导致决策错误。同时,为了增强人们对算法的信任度,应以相对简单、可理解的方式解释算法规则。为此,《规定》要求算法推荐服务提供者应该采取内容去重、打散干预等策略,优化检索、排序、选择、推送、展示等规则的透明度和可解释性。而且应以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。
  (二)确立分级分类安全管理制度,实现精准治理。《规定》指出应根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。
  (三)提出算法备案制度和安全评估制度,提高治理敏捷性。算法备案制度可以让监管机构及时了解算法推荐服务的内容,同时提高算法推荐服务提供者的责任意识和安全意识。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者履行备案手续,备案的内容包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。
  三、未来推进算法治理的几点思考
  (一)加快具体制度的落地实施,出台算法备案和算法安全评估实施细则。备案制度和安全评估制度是实现敏捷治理目标的很好的制度设计,但具体程序、具体要求和实施机制需要明确,相关义务主体的标准也需要进一步细化。
  (二)推动建立机制健全、体系完善、规则明晰的算法治理体系。此次《规定》是对算法推荐应用这一场景的治理尝试,也是算法治理的中国方案。考虑到算法逐渐被广泛应用于各类场景,未来应该为算法治理建立一套普遍适用的规则体系,从而切实有效规范各种应用场景下的算法。
  (三)完善多元主体协同共治的治理格局。算法治理是一项专业、复杂的长期工程,面临挑战和困境。算法治理应该充分发挥多元主体的作用,让各个主体参与其中,形成治理合力。
  总之,《规定》的颁布意味着我国算法治理工作进入新阶段。算法推荐服务提供者应该认真学习和理解《规定》,并严格落实主体责任。广大用户也应该积极提高算法素养,有效维护自身合法权益。
规范算法技术应用 构建算法治理规则

  作者:王立梅 中国政法大学数据法治研究院教授

  规范算法推荐技术应用并系统制定规则,是我国在数字经济快速发展、信息服务广泛拓展的进程中,为更好地贯彻习近平法治思想,建设中国特色社会主义法治体系,在互联网信息服务领域进行的一项重要制度设计。《互联网信息服务算法推荐管理规定》(以下简称《规定》)是我国互联网法治建设进程中的重要一步,体现了中国特色社会主义法治建设的正确价值导向、科技向善的伦理取向、协同共治的新型格局、全程监管的风控理念以及对特殊群体的人文关怀。
  首先,《规定》系统打造了互联网信息服务算法推荐治理方案,具有全球示范性和国际引领力。
  算法推荐活动,本质上是一项信息自动化筛选、个性化分发的行为,需要以信息采集及分析等处理为基础,其中既蕴含了隐私权、个人信息权益、企业利益保障等问题,又关系国民注意力治理等价值命题。将算法推荐技术应用到商业化信息服务中,能够有效提升用户偏好与推荐内容的匹配程度,也容易造成用户过度沉迷、认知窄化、过度消费以及产生新型歧视等问题。从全球立法实践来看,尚未有如此精细程度与关注广度的系统性规定。我国率先推出这部综合治理互联网信息服务算法推荐的管理规定,在全球范围内具有显著的示范效应,在算法监管领域也起到了以制定规则引导科技应用、以适度干预促进应用发展、以科学协调多方长远利益落实新发展理念的效果。
  其次,《规定》与《网络安全法》《数据安全法》《个人信息保护法》等相关立法紧密衔接,共同构建多层次的互联网信息服务算法推荐规范体系。
  作为一部由国家网信办、工业和信息化部、公安部、市场监管总局联合制定发布的部门规章,《规定》既承接多部上位法的管理要求,又体现出算法推荐根源于数据信息活动的特征,还成为了具有创新性和可操作性的行动指南。一是,在违法和不良信息监管方面,《网络安全法》第四十七条规定了网络运营者应当加强对违法信息的管理,《规定》第九条第二款承接细化,规定“发现违法信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门和有关部门报告”,并进一步要求“发现不良信息的,应当按照网络信息内容生态治理有关规定予以处置”。二是,对于《数据安全法》第二十七条规定的数据安全保护义务,在《规定》第七条集中得到了落实体现,明确了算法推荐服务提供者的算法安全主体责任,对建立健全数据安全和个人信息保护等的管理制度和技术措施、制定相关规则、配套相应人员和技术支撑等作出了要求。三是,在自动化决策方面,《规定》第十七条第一款承接《个人信息保护法》第二十四条第二款和《电子商务法》第十八条第一款,规定用户选择关闭算法推荐服务的,算法推荐服务提供者应当“立即停止”提供相关服务;《规定》第十七条第二款承接落实了《个人信息保护法》中个人信息主体所享有的选择、删除等权利,第三款明确提出了算法推荐服务提供者应用算法对用户权益造成重大影响的,应当依法予以说明并承担相应责任。四是,在特定领域的应用方面,按照《互联网新闻信息服务管理规定》第五条要求,《规定》第十三条明确要求“算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得互联网新闻信息服务许可”。五是,《未成年人保护法》第七十四条第一款规定网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务,《规定》第八条和第十八条作了进一步细化,提出了“不得设置诱导用户沉迷”的要求,并设置了保护未成年人的专门条款。
  最后,《规定》坚持问题导向,回应社会关切,在治理格局、价值导向、风险控制、权益保障等方面作出全面制度设计。
  一是,《规定》构建了协同共治的治理格局,明确了算法推荐服务提供者的算法安全主体责任。例如,第七条规定了算法推荐服务提供者要建立健全算法机制机理审核、科技伦理审查等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑,既赋予算法推荐服务提供者以能动发展的空间,同时也设定了相应的主体责任,有助于与监管部门形成良性协同的治理格局。二是,《规定》明确了算法推荐服务提供者应当坚持主流价值导向、促进算法应用向上向善的基本要求。例如第八条规定了算法推荐服务提供者不得设置诱导用户沉迷、过度消费等算法模型,这是将科技向善理念落实为具体业务要求的突出体现。三是,《规定》体现了对数字时代泛风险特征的控制,形成了集事前、事中与事后监管于一体的全流程监管机制。例如,第六条规定了算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益等行为的禁止性义务,第十四条规定了算法推荐服务提供者不得利用算法实施影响网络舆论或者规避监督管理等行为,第十五条规定了算法推荐服务提供者不得利用算法实施垄断和不正当竞争行为。四是,《规定》凸显了对特殊群体的人文关怀与权益保障,在互联网信息服务日益多元化、基础化、普及化的情况下,精细化、有侧重地满足不同群体的利益诉求。例如,第十八条规定了算法推荐服务提供者在向未成年人提供服务时,应当履行的网络保护义务,以及便利未成年人获取有益身心健康信息的企业责任,还提出了不得向其推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的禁止性义务;又如,第十九条关注了算法推荐服务的“适老化”问题,有针对性地提出了应充分考虑老年人出行、就医、消费、办事等需求,并依法开展涉电信网络诈骗信息监测、识别和处置这一老年人保护条款;再如,第二十条回应了算法调度在劳动用工领域产生的权益保障及激励问题,为此类算法推荐服务完善算法设计指明了调整方向。此外,第二十一条明确了算法推荐服务提供者不得滥用消费者的偏好、交易习惯等特征,利用算法在交易价格等条件上实施不合理的差别待遇等违法行为,这为制衡非对称信息关系、解决价格歧视等问题,提供了算法治理这一新型路径。
  总体来看,《规定》针对在我国境内应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法推荐技术提供互联网信息服务的行为提出了系统治理方案,与《网络安全法》等相关法律法规共同构成了我国开展新技术、新应用治理的规则体系,是数字时代提升治理能力的重要制度探索。对落实习近平总书记提出的“依法治网、依法办网、依法上网,让互联网在法治轨道上健康运行”要求,打造清朗网络空间,用主流价值导向“驾驭”算法,具有显著的推进效果,同时还发挥着在该领域制定规则的国际引领力。期待“算法之治”能够在持续保障广大人民群众“数字权益”、稳步推进数字经济健康发展的进程中,把握住信息化变革新机遇,走好中国特色的网络强国之路。
平台算法治理制度的中国方案——《互联网信息服务算法推荐管理规定》解读

  作者:张凌寒 北京科技大学副教授

2021年12月,国家互联网信息办公室联合工业和信息化部、公安部、市场监管总局发布《互联网信息服务算法推荐管理规定》(下文简称《规定》),并将于2022年3月1日起施行。这是我国第一部以算法作为专门规制对象的部门规章,具有重要时代意义。《规定》调整的生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法,被各大平台广泛应用,已经成为平台收集和处理数据、推送信息、调配资源的核心力量。平台运行的技术逻辑是算法,平台商业价值和竞争优势的基础是算法,同时,给国家利益、社会公共利益和公民合法权益带来风险的可能是算法。《规定》立足中国数字经济实践与产业特色,向世界提供了平台算法治理的中国方案,建构了具有中国特色的平台算法治理制度。《规定》为平台应用算法划定明确的法律界限,对保障信息内容安全、维护市场竞争秩序、保护公民权益等具有至关重要的作用。

算法安全理念:明晰平台算法治理的价值取向

《规定》所秉持和贯彻的算法安全理念与我国《网络安全法》《数据安全法》和《个人信息保护法》等上位法一脉相承。算法安全理念,要求算法导向正确、正能量充沛,算法应用公平公正、公开透明,算法发展安全可控、自主创新,有效防范算法滥用带来的风险隐患。

《规定》要求平台作为算法推荐服务提供者坚持主流价值导向,重视算法安全,积极传播正能量,不得操纵舆论。《规定》相关条款对未成年人身心健康、老年人合法权益、劳动者基本保障给予重点关注,充分体现了以人民为中心的发展思想。与此同时,《规定》引导算法推荐服务提供者促进算法应用向上向善,保护消费者权益,保证算法决策公平透明,这也与世界范围内已有的算法治理实践不谋而合。

算法安全理念内涵丰富,这与平台算法应用涉及的社会领域广泛性相适应。《规定》贯彻的算法安全理念既涵盖了我国一贯重视的信息内容安全,也包含着对市场竞争秩序的规范,更体现了对普通用户和未成年人、老年人、劳动者、消费者等特定群体的用户权益保护。

健全多元共治:深入平台内部的算法技术监管

《规定》创新性地构建了算法安全风险监测、算法安全评估、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。这标志着我国的平台治理直接深入到了平台的底层技术逻辑——算法。

人工智能时代的平台监管,既应符合平台底层的技术逻辑,也应符合主客观相一致、责罚相适应的法律原则。《规定》建立的算法技术监管体系穿透了平台运行的“算法技术面纱”,将平台监管的触角和追责视角直接指向背后的算法责任。技术的应用是包含主观意图的,平台在算法设计、部署、运行中包含的主观意图与平台是否尽到合理的注意义务,是平台算法追责的根本指向。

作为算法推荐服务提供者的平台企业要强化责任意识,对算法应用产生的结果承担起算法安全的主体责任。《规定》要求平台企业应建立算法安全责任制度,设置平台内的算法安全管理组织机构,并配备与算法推荐服务规模相适应的专业人员和技术支撑。平台要对算法的数据使用、应用场景、影响效果等开展日常监测工作,感知算法应用带来的网络传播趋势、市场规则变化、用户行为等信息,预警算法应用可能产生的不规范、不公平、不公正等安全问题。《规定》要求平台企业等算法推荐服务提供者建立算法安全责任制度,与网络服务提供者的网络安全运营制度、数据处理者的数据安全保障制度和个人信息处理者的个人信息保护制度一起,共同构成了我国平台企业需建立完善的安全责任制度体系。

《规定》还勾勒出了我国平台算法多元共治的治理体系蓝图。在平台算法治理中,要求算法推荐服务提供者依靠自评估、第三方评估等,深入分析算法机制机理、模型、数据和应用结果等,评估算法设计、部署和使用等应用环节的缺陷和漏洞,避免算法应用产生的社会公平、道德伦理、内容管理等安全问题,共同形成了治理结构高效运行,有法可依、多元协同、多方参与的治理机制。

主体权责明确:构建平台算法责任的问责机制

当技术造成了损害后果时,如果不能穿透技术面纱,由明确的主体来承担责任,就会存在潜在的责任缺口。如果不能解决“谁负责”的问题,放任平台以“技术中立”和“算法黑箱”为由继续逃避法律责任,那么所有的治理努力最终都将失之空泛。

《规定》构建了平台算法全生命周期问责机制。我国创新性地在世界范围内率先设立了算法备案制度,要求具有舆论属性和社会动员能力的算法推荐服务提供者在提供服务之日起十个工作日内履行备案手续。算法备案制度的设立,是因为合理的平台算法问责有赖于清晰的主观过错认定,需通过算法备案对平台事前和运行中的问责点进行固定,以有效判断平台是否可以评估、控制、纠正算法带来的危害。算法备案是一种存档备查的行为,目的在于获取平台设计部署的具有潜在危害和风险的算法系统的相关信息,为今后追责提供信息。备案本身即存在着监督效应,算法备案制度的信息披露模式、内容、范围的设置体现了对于监管与自律、商业秘密与算法透明、源头治理与事后追责等利益的衡量。

《规定》第五章“法律责任”则明确规定了算法推荐服务提供者如违反相关规定,需承担的法律责任,责任形式包括警告、通报批评、罚款等,必要时还将给予治安管理处罚和追究刑事责任。主体权责明确的平台算法问责体系,必将为实现我国算法治理安全目标起到关键作用。

算法规制与平台治理是人工智能时代世界各国面临的重要议题。《规定》的出台不仅直接将算法作为规制对象,更使得平台治理的层次与方式迈上了新的台阶。《规定》作为我国算法综合治理体系的重要组成部分,势必在提升算法创新能力,促进平台算法应用安全,增强我国平台企业核心竞争力等方面发挥重要作用。

相关链接

互联网信息服务算法推荐管理规定

《互联网信息服务算法推荐管理规定》系列专家解读(一)


转载请注明来源:“网信中国”微信公众号


中共河南省委网络安全和信息化委员会办公室 河南省互联网信息办公室  版权所有     联系我们
      邮编:450008   豫ICP备17047339号  技术支持:大河数字
  • 二维码手机站
  • 二维码微信公众号