美国算法治理分析及思考_司伟攀.pdf

34 摘 要：在算法风险现实发生和算法治理进入全球化时代的背景下，美国构建了以政府、企业行业、研究院所/机构为参与主体的多元共治模式，采用基于风险的重点领域治理、公共和私营部门兼治、打造算法治理逻辑闭环的治理策略，形成了以算法影响评估、算法披露、算法问责为框架的治理制度。美国算法治理经验，可为我国在算法治理模式完善、治理策略选择和治理制度构建方面提供有益的思考。关键词：美国；算法风险；算法影响评估；算法披露中图分类号：G32；D97 文献标识码：A DOI：10.3772/j.issn.1009-8623.2022.11.006美国算法治理分析及思考司伟攀，刘鑫怡（中国科学技术信息研究所，北京100038）算法治理是当今全球的一项重要议题，国际社会竞相开展相关研究与实践。2022 年 2 月，美国民主党参议员提出2022 算法问责法案，成为美国关于算法治理专门立法的最新探索。无独有偶，我国第一部以算法推荐服务为规制对象的部门规章互联网信息服务算法推荐管理规定也于 2022 年 3 月正式实施。本文以美国算法治理立法为主线，梳理与分析其算法治理背景、模式、策略与制度，以期助力我国相关工作的深化推进。1美国开展算法治理的重要背景随着算法技术与社会生活融合程度的日益加深，其产生的影响也愈加深刻。同时，在第四次工业革命浪潮下，国家未来发展前景与对新兴技术的掌握息息相关。这两方面的原因构成了美国开展算法治理的重要背景。1.1算法影响的正反二重性本质上，算法是一套包含一系列数学运算（如方程式、代数、微积分、逻辑学等）并将其转换为计算机代码的完整指令1。其作为现代科学技术重要成果之一，不仅为机器创造现代奇迹提供了重要动力，更已深刻嵌入社会发展结构的肌理，重塑了社会传统决策机制由机器替代人做出部分决策，涉及交通、金融、住房、医疗、销售、教育、就业等诸多领域。如智能出行 App，可以直接为用户规划最佳出行路线，实现交易成本的降低。同时，算法也因在公共部门的扩展应用而逐渐参与到社会治理中来。公共部门已经习惯（甚至依赖）通过算法模型参与社会日常治理，以缓解日益增长的治理压力与相对有限的治理资源之间的紧张关系2。研究还发现，通过算法模型观察离散事件的时间和空间坐标，甚至可提前一周预测两个街区内的犯罪，且在美国 8 个城市的试验准确率高达 90%3。应认为，算法在公私领域的应用，为社会治理与公众生活提供了高效、便捷的服务。但与此同时，算法也展现出了益处与风险并存的“正反二重性”。按照风险社会理论，工业化发展在给人类社会带来益处的同时，也会产生“现代性风险”，引发新的危险和不安。文明的进步并不总能消解人类对风险的担忧，特别是在技术学科等作者简介：司伟攀（1991），男，博士，助理研究员，主要研究方向为国际刑法学、人工智能伦理治理。项目来源：科技创新 2030“新一代人工智能”重大项目“重点领域人工智能伦理风险及对策研究”（2020AAA0105301）；中国科学 技术信息研究所创新研究基金青年项目“算法自动化决策视角下个人信息保护研究”（QN2022-20）。收稿日期：2022-08-24第 37 卷 第 11 期2022 年 11 月全球科技经济瞭望Global Science,Technology and Economy OutlookVol.37 No.11Nov.2022 35 现代化发展的核心领域，风险正披着数字和方程的外衣，悄无声息地潜入生活之中4。算法风险的产生与其运行机制密不可分，算法运行需要以数据为支撑，输入带有偏见的数据则输出不公正的决策结果，即“偏见入，偏见出”。密歇根州的算法自动化审核失业补贴申请者系统就曾导致 4 万人受害5；一些高校也因利用算法决策学生招录和奖学金的分配，导致了可能有损学生利益和加剧教育危机的质疑6；一份关于美国刑事司法系统利用算法的报告也指出，智能量刑工具的使用面临有效性、准确性和偏见等担忧，应停止使用或改进此类智能工具7。在这些事例中，算法充当了看不见的“裁决者”，算法黑箱的存在使得外界无法清晰了解算法决策的过程。有学者甚至将有害的算法模型描述为具有“不透明、规模化和毁灭性”特征，并造成“数字难民”的“数学杀伤性武器”（Weapons of Math Destruction）8。在这种情况下，有关算法歧视、算法操纵、算法茧房、算法权力等的争议不绝于耳，引发了强化算法治理的时代诉求。1.2算法治理进入全球化时代面对算法现实风险及技术发展需要，以联合国、欧盟、英国、加拿大等为代表的国际组织、国家开始探索算法治理方案，反映出算法治理进入全球化时代。2021 年 11 月，联合国颁布人工智能伦理问题建议书，阐明人工智能算法可能复制和加深现有的偏见，产生新的伦理挑战，并在算法研发、可解释性、透明度、隐私影响评估等方面提出了治理要求9。该建议书由联合国的 193 个成员国共同签署，对国际社会的算法治理具有重要指导意义。欧盟算法治理规范建设已取得了较为丰硕的成果。2016 年 4 月通过通用数据保护条例，赋予个人关于算法自动化决策的事前拒绝权和事后获得人工干预和表达观点、提出异议权，以增强个人在自动化决策中的数据权益保护10。2019 年 4 月发布算法问责及透明度监管框架，建立“算法影响评估”机制11。2021年4月出台 人工智能法，设计“人为监督”制度，强化对高风险人工智能，尤其是为人的决策提供信息或建议的高风险人工智能系统的监督12。英国是世界上最早在国家层面制定算法透明度标准的国家之一。2021 年 11 月发布了一项开创性标准，旨在为政府和公共服务部门提供有关利用算法工具进行自动化决策的具体指导（尤其是对个人可能产生法律或经济影响时），包括透明度数据标准、透明度模板和行动指南等重要内容13。加拿大在认识算法自动化决策功能的基础上，为降低公共部门采用该决策方式的风险，于2019年2 月出台了自动化决策指令，就算法影响评估、算法决策透明度和质量保证、算法决策的救济和责任承担等，提出了一系列要求14。基于算法现实风险及其治理的全球化，美国也在不断探索治理方案，并形成了颇具自身特点的“多元共治”模式。2美国算法多元共治模式与特点多元共治意味着多方主体的共同参与，这是美国算法治理模式所体现的鲜明特点。联邦政府、州和地方政府、相关行业、私营部门等主体都参与到了治理行列之中，但这些主体并非一定采用统一的规范行事，而是呈现出去中心化和动态发展的治理特征15。在此基础上，形成了以州和地方政府率先立法、联邦政府持续推进、企业行业自治自律、研究院所/机构积极参与为主要特点的治理模式。2.1州和地方政府率先立法美国州和地方政府是推动算法治理的先行者、主力军，涌现出了多个“第一”。2018 年 1 月，纽约市议会正式通过美国第一部算法问责法案1696 法案，开创了美国算法立法治理的先河。本法旨在对政府使用的各种算法进行监管，以促进自动化决策的公平性、推动政府决策算法开源和建立问责制，增强公众对算法的信任。但由于市政府和企业基于隐私安全、政府网络安全和商业秘密等理由，反对立法公开算法设计、使用情况，同时立法也未清晰界定执法范围，导致本法存在先天不足，实施效果大打折扣。尽管如此，1696 法案仍具有里程碑意义。之后的 4 年里，为规范政府机构等对算法决策系统的使用，美国各地的立法者提出了近 40 项法案16。如 2018 年 5 月，佛蒙特州通过了全美第一部针对数据代理商的法律第 171 号法案，要求在本州注册的数据代理商告知消费者个人信息收集方研究与探讨 36 式、是否有权退出及退出机制等。2018 年 6 月，加州颁布了美国第一部全面的隐私法美国“史上最严”的加州消费者隐私法（CCPA），并于 2020 年 11 月在其基础上通过了新的加州隐私权法（CPRA），对以自动化方式处理个人信息的活动进行了更为细致、全面的规定。2019年8月，伊利诺伊州颁布了美国第一部规范以人脸识别方式视频面试的法案人工智能视频面试法，适用于所有通过人工智能视频面试方式申请该州工作职位的应聘者。2.2联邦政府持续推进美国联邦政府也在积极推进相关立法，但与州和地方政府颇有成效的立法进展不同，联邦政府诸多提案仍处在审议程序中，至今尚未正式颁布专门立法。2019 年 4 月，参议员伊薇特克拉克（Yvette Clarke）等提出2019 算法问责法案，围绕个人信息保护和隐私安全问题，要求大型科技公司评估和消除其“自动决策系统”有关风险，并对监管规则的适用主体、责任承担等进行了较为体系化的设置17。2019 年 10 月，参议员约翰图恩（John Thune）提出过滤气泡透明度法案，要求大型平台向用户提供关闭个性化推荐的选项，提升算法排序结果的透明度18。2020 年 6 月，参议员谢罗德布朗（Sherrod Brown）提出数据问责和透明度法案，赋予消费者对数据收集提出质疑、要求人工审查和解释自动化决策的权利19。2020 年 10 月，众议员汤姆马林诺夫斯基（Tom Malinowski）等提出保护美国人免受危险算法侵害法案，要求拥有 1 000 万以上用户的大型平台对有损人生命和福祉的算法负责20。2021 年 5 月，参议员爱德华马基（Edward J.Markey）提出算法正义与互联网平台透明度法案，设置在线平台义务、提出算法使用的有效性和安全性标准、赋予用户权利、成立算法专项监管小组等，以提升算法透明度和防止平台利用算法歧视性地处理个人信息21。2021 年 10 月，民主党议员提出2021 对抗恶意算法的正义法案，以规制算法个性化推荐22。2022年2月，伊薇特克拉克等又在 2019算法问责法案 的基础上提出 2022算法问责法案，聚焦算法自动化决策问题，力图构建一个更为安全和公平的算法使用环境23，这也是美国算法治理专门立法的最新尝试。除推动立法之外，联邦政府还发布了多项行政措施。在奥巴马、特朗普政府时期，政府均通过制定计划和指导性文件支持开展人工智能治理机制的研究和实践24。拜登政府同样重视算法治理，如住房和城市发展部拟推翻一项既有规则，允许人们对与住房分配有关的算法决策不公提起歧视诉讼和索赔25。在专门立法之外，美国一些其他既有立法，如公平信用报告法公平住房法平等信贷机会法等，因遵循“技术中立”理念而不区分决策是否由人做出，也发挥着相应的治理功能。2.3企业行业自治自律企业行业作为算法技术的直接研发、应用主体，面对算法风险，社会要求其积极履行有关治理责任。尤其是 2018 年发生的“剑桥分析事件”，更是掀起了反思与批评大型在线平台侵犯用户隐私、权力过大、逃避社会责任的“抨击科技潮”（Techlash）26。在这种趋势下，企业行业开始以各种方式探索与构建算法治理机制。如 Twitter 公司成立了由工程师、研究人员和数据科学家组成的专业治理机构，评估其所使用的算法可能产生的风险，并通过举办“算法赏金挑战赛”这种创新方式，邀请有关开发人员发现和帮助解决相关问题。在行业方面，亚马逊、谷歌、Facebook、IBM 和微软共同成立一家以向公众科普人工智能知识、提供人工智能研究范例和参与讨论渠道为目标的非营利组织人工智能合作组织，为算法技术的合规应用提出了相应行业要求。2.4研究院所/机构积极参与除政府、企业行业外，研究院所/机构也从第三方的角度参与算法治理，并主要存在两种途径：一是与政府等其他机构合作。如哈佛大学与旧金山政府共同设计了一个主要由“评估”和“管理”算法风险两部分组成的伦理和算法工具包，围绕公共部门如何更加透明和负责地使用算法这一问题，阐明算法潜在风险，提高对算法影响的认识和确定减轻风险的方法。二是研究院所/机构单独提出治理建议。如 2017 年 1 月，美国计算机协会从责任制、对算法决策提出质疑并获得救济、可解释性、可审查性等角度发布了 7 条关于算法透明和可责性的原 司伟攀，刘鑫怡：美国算法治理分析及思考 37 则，以应对算法歧视问题。研究院所/机构的参与，为美国算法治理提供了新视角与智力支持。整体而言，美国各级政府和企