算法治理的实践发展与体系构建_曲世闻.pdf

108 学学术前沿术前沿 2023.02 上学术大视野学术大视野THE SCHOLARLY VIEWTHE SCHOLARLY VIEW作为数字经济时代的生产力要素，算法早已被嵌入社会运行的诸多层面。党的二十大报告指出，要“推进国家治理体系和治理能力现代化”。在这一背景下，如何规范算法应用，实现算法精准、高效治理，已成为国家治理现代化和智能社会秩序构建中的主要问题。我国算法治理的实践发展算法指的是由计算机执行的一系列程序化的运算规则1。它是数字科技时代的关键信息技术，是人工智能社会的核心生产要素，在每一项人工智能科技背后都会有一套相应的计算机算法作为支撑。当前，随着我国数字经济规模的不断增长，算法早已被普遍应用于包括电子商务、智能诊断、无人驾驶等在内的互联网商业场景以及交通安全、城市管理、司法判决等电子政务公共服务领域。虽然算法的普遍应用能够赋能社会发展，但对其的滥用，也导致了算法霸权、算法歧视、信息茧房等问题的出现。因此，必须加强对网络算法的治理。近年来，我国根据互联网和人工智能技术发展形势，以及现阶段频现的算法滥用等问题，制定了一系列算法治理规范性文件和法律法规。2020年12月，中共中央印发的法治社会建设实施纲要（20202025年）指出，应“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。2021年9月1日，中华人民共和国数据安全法正式实施，该法将网络算法运用过程中的数据安全与主体权益保障作为监管重点。2021年9月17日，国家互联网信息办公室等九部门联合发布的关于加强互联网信息服务算法综合治理的指导意见明确指出，要“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”。2021年12月31日，国家互联网信息办公室等四部门联算法治理的实践发展与体系构建黑龙江大学哲学学院 曲世闻 张本祥【摘要】算法是数字科技时代的关键信息技术，是人工智能社会的核心生产要素，在每一项人工智能科技背后都会有一套相应的计算机算法作为支撑。现阶段，虽然我国已构建了较为完善的算法治理法律体系，但仍存在算法追责难题制约治理实效、主体合力不足加深治理难度、依赖硬性治理忽视柔性治理等现实问题。因此，需夯实算法治理法律制度基础、构建多元主体参与治理范式、发挥柔性规范手段激励作用，从而构建多元共治的算法治理体系。【关键词】算法治理 数字经济 多元共治【中图分类号】D912.1 【文献标识码】A【DOI】10.16619/ki.rmltxsqy.2023.03.014FEB 2023 FRONTIERS 109合发布互联网信息服务算法推荐管理规定，对算法推荐活动中信息服务规范、用户权益保护、监督管理、法律责任等方面进行了规范。这是我国首部聚焦于算法治理的部门规章。2022年3月1日，互联网信息服务算法推荐管理规定正式施行。2022年12月12日，国务院印发的“十四五”数字经济发展规划明确指出，要“着力强化数字经济安全体系”。其中，作为整个数字经济整体治理与系统治理的关键环节，算法治理不仅涉及市场治理，还涉及社会治理与国家总体安全。总之，近年来国家有关部门陆续出台的一系列涉及算法治理的规范性文件和法律法规，正是我国算法治理的重要实践成果，意味着现阶段我国针对网络空间、互联网经济和电子政务公共服务等领域的算法治理法治化水平有所提高，尤其是互联网信息服务算法推荐管理规定的出台，标志着我国进入算法系统性治理阶段。我国算法治理面临的问题挑战现阶段，虽然我国构建起了较为完善的涉及算法治理的法律体系，但大多属于规范性文件和指导性意见，欠缺强制执行力，再加之算法本身就容易遭遇技术性困境。因此，在算法治理过程中，算法滥用导致的诸多问题仍未得到解决，与此同时，还出现了一些新的情况。算法追责难题制约治理实效。数字经济的快速发展使算法在公共事务治理领域得到了广泛应用，通过融入算法技术，公共治理模式得到有效优化。但由于算法追责机制尚不健全，加大了国家及公民权益维护的难度。首先，存在程序性治理困境。比如，在招聘员工等相关的算法设计中，部分算法会侵害员工的正当权益，但由于权利救济缺位，员工无法找到可以依照的法定程序来维权。其次，一些企业凭借算法技术优势远端监控劳动者的劳动行为，这不仅使劳动者承受较大的工作压力，而且在实质上侵犯了其合法权益，也增加了算法治理工作的难度。例如，外卖骑手在劳动过程中的行为受算法控制、网约车司机在算法监控下进行经营活动等都是典型案例2。最后，算法在智能医疗、辅助量刑等情境中得到广泛应用，但在此过程中人身财产损害时有发生，对于因算法技术困境所带来的损害，有必要进行责任划分。当前，有关算法设计者、经营平台、用户个体分别该承担怎样的责任以及责任权重如何确定，尚未有明确的规定，从而加大了治理实践难度。主体合力不足加深治理难度。算法治理作为一项复杂的系统工程，需要政府机构、相关企业、行业组织等各主体的密切配合，然而目前各治理主体缺乏成熟的治理经验及技术，这造成彼此之间无法形成治理合力。首先，政府机构内部往往存在“监管竞争”，部门之间容易立足自身职能出台有关算法治理的法律文件，执行职权范围内的算法治理措施。例如，有些较为关注金融领域的算法治理，而有些更关注数字劳动问题的算法治理等。鉴于各个部门职能不同，算法治理工作较为分散，这种多头治理的模式往往会造成算法治理重叠或真空问题的出现，不利于提升治理实效。其次，作为算法应用的重要主体，互联网企业在利用算法开展业务方面具有十足优势，但一些企业存在算法滥用等不合规行为，据此必须要强化企业自查自纠，加大算法治理力度。最后，行业组织是算法治理的重要主体，对于规避因“黑箱化”所导致的算法风险具有重要作用，但目前我国互联网行业的相关组织尚未针对算法治理形成统一标准、算法备案制度不健全、行业黑名单制度存在短板，这些问题加大了算法治理实践工作的难度。在这方面，德国已经成立由专业媒体人士和技术专家组成的非营利性组织，用以对算法运用全过程进行动态监测和评估，并借力第三方独立组织的力量来强化算法治理效果，为我国行业组织参与算法治理提供了借鉴。依赖硬性治理忽视柔性治理。当前，我国在算法治理方面过于依赖法治手段和行政手段，而对市场调节、技术支持等柔性手段的补充价值重视不足，即算法治理停留于事后治理上，缺少对日常算法隐患的监管和排查，这势必会加大事后算法治理的难度。在这方面，欧美等国家已经取得了宝贵经验，例如，美国算法治理十分强调市场调节的作用，其利用动态敏捷的监管原则和技术加持，极大提升了算法治理实效性。又如，欧盟的算法治理十110 学学术前沿术前沿 2023.02 上学术大视野学术大视野THE SCHOLARLY VIEWTHE SCHOLARLY VIEW分强调公民个人的权利运用，数字保护机构作为算法治理的核心主体，通过制定系列“数据规则”来实现对算法行为的全过程管理，从而有效满足了公民个人诉求，体现出极强的人文精神和技术理性。我国算法治理的体系构建夯实算法治理法律制度基础。由于相关机制的不健全，算法治理实践过程中会暴露诸多问题，因此，需提高算法治理法治化水平，不断健全算法治理法律体系。应基于算法治理的内在需求构建完善的监管体系，对算法备案及系统性审查、按照不同级别和类型确定治理方案等事宜进行管理，形成常态化机制，使“算法法治”产生强劲的内生动力。一是重视算法备案工作，通过建立相关制度来完善算法登记备案系统。算法备案基于服务入口开展，要对算法系统中的重要信息内容进行登记，以备损害发生时监督机构能进行精准的故障溯源。算法备案制度可提高风险防范和管控能力，使算法监管形成高效的态势和格局，实现对算法运行的即时观测与处理分析。相关法律法规明确了算法备案的定位属性，促成算法备案系统落地实施，但实践中算法有着多元的形态和类型，要求算法备案系统持续扩大覆盖范围，秉持程序合法化原则确定规范性的实施程序，针对多元备案主体，应明晰权责边界，从而使各主体有的放矢地开展相关工作。二是算法治理不可“一刀切”，需体现差异化的治理特点。当前，我国已针对数据安全建立了分类分级保护制度，算法治理也可借鉴这一模式，实现对检索过滤类、个性化推送等算法推荐技术的差异化管理。不同算法推荐服务由于社会动员能力、舆论引领能力、关涉数据重要性的不同，可能对用户行为造成不同影响。因此，一方面，应采取差异化的措施进行算法治理；另一方面，要出台系列规章制度，明晰风险级别，确定操作性较强的标准体系，结合企业实际制定分级分类算法管理策略。三是开展算法审查工作，拓展监管的深度和广度，以制度化的形式促进算法审查有序开展。针对算法审查建立专门化的组织机构，实现定期与随机审查相结合，通过系统审验来揭示并防范潜在的算法风险。算法审查应覆盖全过程、全环节，形成闭环式的审查样态，审查工作不仅包括数据输入审查、算法设计审查，且应涵盖算法运行及结果影响的审查，通过全方位审查监督有效降低算法风险的发生几率。此外，审查监督还应重视对数据偏见的审查及对算法模型设计的审验，减少算法决策的技术性偏差所带来的负性效应。构建多元主体参与治理范式。首先，政府部门的引导。政府是算法治理的重要力量。网信部门应做好牵头工作，与教育、工信、市场监管等部门加强合作，形成联动协作工作机制，共同打造算法安全治理体系，以促进算法治理工作的常态化、高效化。不同部门和机构需明晰自身职责，根据工作要求全方位开展监管工作，积极发挥主体功能，构建系统化的算法标准体系，持续提高普法、执法力度，促进算法治理形成良好态势。其次，相关企业的执行。互联网企业在算法设计、算法使用等方面具有优势，应成为最富活力的行动者。旗舰型的互联网企业不仅拥有前沿算法技术，且人才、资金方面的资源充沛，其在参与算法治理标准体系构建、规则制定等事宜上更具优势。对于算法霸权、算法歧视等所造成的负面影响，相关企业应积极践行社会主义核心价值观，加大对算法伦理等社会普遍关注问题的研究力度，使科学技术的正性功能得到有效发挥。再次，行业组织的融入。人工智能企业发展联盟等行业组织应在算法治理中发挥积极的能动性作用，这些组织的社会功能具有多元性、多样化等特点。它们既可提供高品质的服务，亦可起到沟通协调作用，在行业标准制定等方面拥有较大的优势。因此，在现阶段算法治理过程中，建议行业组织立足行业发展需求加强相关学术及技术研究，促进产学研用一体化格局的形成，推动算法技术快速发展。最后，社会大众的参与。社会大众是算法相关产品的使用者，算法应用基于公众需求而开展，因而，公众也应担当起算法治理的主体职责。算法治理应面向公众开放更多参与渠道，及时吸纳公众的反馈意见，促进公众与政府、平台等其他治理主体的相互沟通。发挥柔性规范手段激励作用。作为信息时代FEB 2023 FRONTIERS 111的特殊风险，算法风险不仅普遍存在，且表现形式复杂多元，依托法律手段进行治理只能在一定程度上取得成效。因此，应在当前算法治理法律法规的指导下，积极运用技术治理、算法评估等更具柔性特点的治理手段，补齐法律治理的短板，防止企业因法律的强制性管控而丧失创新活力。第一，风险防范应与算法评估相结合。作为内外部监督一体化的治理模式，算法评估有助于大幅提高监督效能，在实践过程中专门机构应对设计好的算法模型进行全方位评估，以规避歧视等情况的发生。应针对性构建算法安全检查评估制度，督促企业进行内部评估，相关部门也须审验算法推荐服务的合规性，当发现问题时及时作出提示并提出整改意见。第二，针对日常隐患监测进行技术治理。运用算法安全监管体系对数据使用、影响效果等进行全面监测，藉此预判信息内容的传播态势、网民的反应与行为方式等。当前，一些算法企业为了防止用户隐私泄露、规避算法偏见，已在相关产品中融入了算法伦理原则，在数据筛选、模型优化等方面加强了技术支持，促进了算法风险的预防与化解。为了进一步提高算法治理效能，应重视算法全生命周期安全监测等技术的开发设计，同时推进第三方监测工作开展，从而加快算法标准化研究的成果转化。第三，构建完善的行业标准。行业标准既是对企业