论算法治理视域下的未成年人网络保护_杨秀.pdf

年 月重庆邮电大学学报（社会科学版）第 卷第 期 （）：引用格式：杨秀，李芬论算法治理视域下的未成年人网络保护重庆邮电大学学报（社会科学版），（）：论算法治理视域下的未成年人网络保护杨 秀，李 芬（重庆大学 新闻学院，重庆）摘 要：算法已然成为当前社会运转的一个重要技术元素，而伴随着媒介成长起来、被称为“数字原住民”的未成年群体，在享受技术红利的同时，也不可避免地面临着诸如成人化、信息茧房、全景监视、娱乐模仿以及阶层分化等算法风险。我国日渐成型的算法规制体系在制度供给、司法执行以及业界实践过程中给予了未成年人特殊的关照与保护，但仍然在监管条件、配套规则、对象界定、技术实践以及家庭教育等方面存在缺陷。这需要多主体在多环节协作配合，通过相关立法的完善、监管框架的优化、标准文件的出台、阶段保护的落实以及算法问责的强化，来妥善回应算法滥用及异化带给未成年群体的挑战，帮助未成年人构建友好型网络生态，推动我国网络强国的建设。关键词：算法；未成年人；网络保护；法律中图分类号：文献标识码：文章编号：（）技术的发展必然会对社会运行模式施加影响。作为大数据技术在信息传播中的应用，算法推荐服务将人们从海量信息中解救出来，实现了信息与人之间的高效匹配，大幅提升了信息传播的效率。学界关于算法的相关研究最早可追溯到 世纪，但是它成为新闻业的传播方式则是发生在近十年，并且发展势头迅猛。算法与媒体的正式结合源于 年 月推出的谷歌新闻；而在我国，自 年“今日头条”开启算法分发的尝试以来，不仅新闻资讯类平台，而且类似于抖音、快手的视频类平台，包括微博、微信在内的社交平台以及淘宝、京东类的交易平台，都开始运用算法推荐机制来进行信息分发并影响人们的决策。年 月 日，国家互联网信息办公室审议通过了我国第一部以算法作为专门规制对象的部门规章 互联网信息服务算法推荐管理规定（以下简称规定），其中指出算法推荐技术包括生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五大类别。各类型算法推荐服务在人们的不同生活场景中发挥着作收稿日期：基金项目：重庆市社科规划项目：民法典实施与新闻传播法治建设的关系研究（）作者简介：杨秀，副教授，博士，博士生导师，主要从事新闻传播法学、策略传播等研究，：；李芬，硕士研究生，主要从事新闻传播法学研究，：。用。作为计算机程序实现数据分析、面向特定目标的一套指令，算法逐渐成为媒介化社会中的基础性技术元素，改变了信息传播逻辑的同时，还促进了经济运行与国家管理方式的变革，并对当代未成年人的生活与成长环境产生了深刻影响。当前社会中的未成年群体多为伴随互联网成长起来的“数字原住民”，他们在算法作用机制下获取信息、了解世界、构建认知、作出决策，也在更大程度上面临着算法诱发的风险挑战。我国现有的算法规制体系能否给予未成年人足够的关照？当下社会应当如何帮助未成年人在算法推荐服务普遍运用的环境下实现“安全”与“发展”的双轨成长？这些都是值得探讨的问题。一、未成年人面临的算法风险审视近年来未成年网民规模持续增大，触网低龄化趋势也愈加明显。截至 年 月，我国网民规模为 亿，岁以下网民占全国网民人数的。算法技术越早入驻未成年人的生活，也就将其越早地暴露在技术应用的风险中。基于未成年群体特殊的心理机制与行为模式，他们在享受算法推荐服务带来的好处时，也正在被植入的算法逻辑渲染上数字色彩，从认知到行为，都被埋下了受技术殖民的隐患。具体来说，算法推荐服务带给未成年人的风险主要包括五个方面。（一）倍速中成长媒介文化研究者尼尔波兹曼曾提出，童年并非是由生物学决定的概念，而是一个社会学概念；书籍和阅读往往限定了相应的门槛要求从而实现了儿童与成年人的区分，因此书籍和阅读的普及创造了童年。但是，电视影像时代不设界限的传播方式却导致了童年的消逝，“新媒介的自由化视像语法摧毁了成人与儿童之间由读写能力孕育的文化分野，成人化的儿童与成人一起，在简单化的观看之中，漂浮在娱乐消费的文化表象之上”。现代社会已然是一个“算法时代”，由于媒介设备的易得性、算法应用的普遍性以及把关人的缺失，未成年人被偏重“工程传播逻辑”的算法削弱了群体特殊性，成年与未成年的分野因技术手段而变得模糊。一方面，一些网络服务平台在用户注册信息时并未强制要求实名认证，这便给予了未成年人在入池阶段隐瞒自己真实年龄的机会，错误的用户标签使得他们接触的信息超出其本应置身的未成年内容池，而开始延伸至更大范围的成年人可读内容。另一方面，基于现实社交关系的精准分发以及流量池叠加推荐等操作，都无疑会使得成人世界的“秘密”不再被遮蔽，而成为繁杂信息中推向大众的沧海一粟，从而致使具有较强好奇心以及较低辨别能力的未成年人在潜移默化中被催熟，并开启倍速成长模式，渐趋“成人化”。（二）茧房中生存“信息茧房”这一概念最早由美国学者凯斯桑斯坦在信息乌托邦中提出，他认为用户在接触互联网信息时，往往只会选择自己感兴趣的内容，而刻意无视并排斥其他内容，长此以往就形成了“信息茧房”。算法技术本身是基于信息爆炸的现实图景应运而生，甚至可以被解释为是人们在信息过剩时代的某种自我保护，是现代人以个体为基础信息消费的必然结果；它将人们从海量信息带来的迷茫、焦虑与压力困境中解救出来，放纵用户的独异性需求，降低信息检索成本，帮助受众更快定位自己所需要的资源。理想状态下，未成年人本应借由强大的信息技术接受多元信息并全面了解世界，在观点的碰撞之下形成自己的价值观，不断进行自我提升，现却因为对算法的不当应用而使自己无休止地被同质化内容饲养，导致视野的偏狭和观念的固化。对未成年人而言，算法推荐服务能把他们与拥有相同兴趣、关注共同话题的人集聚起来，从而让自己迅速获得群体归属感与满足感。但是，这也使其只接触并关注自己认同的信息，而下意识屏蔽、排斥其他观点和内容，从而造成了信息茧房的固化。而且，未成年人往往在自主意识方面难以摆脱算法的“知心”服务，于是在媒介使用方面难以自控，由此患上媒介依赖症。算法对于用户兴趣的精准掌控，无疑会加深这种依赖，如此循环之下，便会使未成年人深陷技术漩涡与信息茧房之中。（三）监视中“裸奔”人工智能算法的实质是算法系统处理和利用用户存在于网络之中的个人信息，因此算法推荐机制得以运行的基础在于对个人信息数据的获取与处理；用户在平台上停留的时间越长、暴露的数据越多，算法为用户所刻画的画像就会更精确。边沁曾提出圆形监狱理论，指出由外围环形建筑和中心瞭望塔两部分组成的建筑结构能令处于中心瞭望塔的狱警完全监视到犯人们的一举一动，使其毫无隐私可言。而在当前的媒介环境中，算法技术对于用户信息的获取在某种程度上也产生了一种隐性的监视机制。技术的背后往往附带相应的利益诉求和价值观念。不具备专业技术知识的普通用户对于自己同意被采用的数据，除了了解其将被作为信息分发的依据之外，对于其是否被作为他用以及数据存储机构能否保证数据库安全不受侵犯，往往没有进行全面的了解。特别是处于技术黑箱中的未成年人，对平台背后的工程逻辑了解较浅，在自身隐私信息保护方面警觉性也相对较低，因而很少刻意采取相应的措施来规避算法监视。在此意义上，由于现在的未成年人触网年龄越来越小，其数字生命相较于成年人而言会更长；随着时间的累积，他们被获取的数据会更多，卷入隐私风险的可能性也越大。（四）娱乐中模仿新媒体时代的技术赋权，完成了传播流程的去中心化，任何个体都可能成为传播中心。算法的推送机制更是解构了传统社会中的权力结构，那些带有娱乐性质的传播内容往往能够获得更多的浏览与点击率，并在下一个流量池中“俘获”系统的自动加权，实现更大范围内的内容分发与传播。基于未成年人的心理机制，带有强烈趣味性、偏向娱乐化的信息对其更加具有吸引力。而未成年人长期浏览娱乐化内容，使得算法在持续的自我驯化过程中为其建立相应的标签，并在之后的服务实践中继续加大娱乐内容的传播比重。由于当前的娱乐化信息中不乏低级低俗、价值观扭曲的内容，且具有人文关怀的把关人在算法推荐过程中缺席，而以工具理性为导向的算法又不具备分辨内容价值的能力，因此，仅以未成年人自身兴趣为推送衡量标准往往会造成不良信息以畸形的“合理性”乘虚而入，在导致未成年人沉迷网络的同时，也在其建立价值观的重要阶段产生误导。此外，出生于数字时代的未成年群体有其特定的娱乐需求与社交需求，在接受算法推荐的过程中，也在扮演传播角色。可变现的流量与被关注的渴望，驱使许多孩子孵化网红理想，而模仿行为则会是大部分未成年人“打拼事业”的第一步。但是，处于认知建构环节的未成年人，会疏于对其所模仿的内容进行甄别，而对包含暴力、性暗示、畸形审美等高风险、恶趣味、错误价值导向的行为进行模仿，这无疑会阻碍未成年人健康成长。（五）偏见中分层算法技术的数据模型以及运行标准是人为设定的，设计者个人的道德观念以及利益集团的资本追逐诉求，都会在某种程度上影响受众的信息获取，并在更长远范围内影响其社会认知。算法广告中的种族歧视、性别歧视以及“大数据杀熟”背后的价格歧视，是生活中常见的几种算法偏见。这些社会歧视反映在算法推荐环节中，会使得处于成长过程中的未成年人延续既有的社会偏见，加深刻板印象。并且，同质产品与服务的长期投放，使得用户难以接触多元观点，在窄化其认知的同时，也致使其失去获得新资源的机会，从而阻碍了社会阶层的流动，这无疑扼杀了未成年群体成长发展的更多可能性。此外，基于现实社会客观存在的阶层分级，未成年群体对媒介信息的接触与使用会因为环境条件的不同而呈现出差异，这种差异多由家庭、教育等因素决定。在接受算法推荐服务时，未成年群体在获得来自父母、长辈、老师甚至是同龄人的引导方面，经济条件富裕的会比经济条件贫瘠的更好，从而能够有效实现算法这项新技术在开拓新知、资源整合以及行为决策方面的正面效应。诸如留守儿童等群体却往往面临着更大的算法风险，他们因技术使用缺乏家长引导与监督而更加追逐新技术的娱乐功能、忽视其发展功能，长此以往就逐渐成为“数字鸿沟”下知识贫瘠的一端。二、算法治理中对未成年人的多维关照随着算法技术背后的风险渐渐引起社会各界的重视，我国开始引导算法向善，深入探索算法治理路径，并在这个过程中不断体现出关照未成年人的取向，以促使技术增进人类福祉。当前，我国在算法治理过程中对于未成年的关照主要体现在以下三个方面。（一）制度关照“制度供给是通过法定程序设立和创新行为规则的过程，其本质就是明确经济社会运行规则；要针对经济社会生活中出现的新情况新要求，增强制度供给的及时性。”为了规制算法推荐技术应用可能存在的潜在风险，我国致力于为算法治理提供制度支撑。规定作为我国首个针对算法推荐服务制定的专门法律文件，标志着我国算法治理事业初步迈入体系化轨道。继未成年人保护法儿童个人信息网络保护规定等法律文件之后，规定的出台和实施为我国未成年人网络保护制度增设了重要内容，且在算法治理领域对未成年群体表现出明确的制度关照。作为未成年的权益保护专条，规定第 条提出了算法推荐服务提供者在未成年人网络保护方面应当履行的责任义务，明确要求他们通过开发未成年人模式、提供适合未成年人的特定服务等方式履行积极义务，并界定了算法推荐服务提供者在把控甄别不良信息、预防未成年人网络沉迷等方面的消极义务，以此在算法领域提供了未成年人网络保护和发展并行的中国智慧。（二）司法关照个人信息的收集与处理是算法执行逻辑的前提，因而算法技术的不当运用会造成未成年人个人信息的滥用。在此过程中，鉴于算法技术隐蔽而复杂的“黑箱机制”，算法推荐服务的潜在风险不易被未成年人及其监护人察觉；即便有所察觉，由于算法服务提供者与使用者之间对于专业技术知识的掌握存在明显参差，个人维权面临着成本过高、流程冗长等问题，这都会使得普通大众让渡自己的权益诉求以获取生活便利。因此，为了更好地维护公民利益，我国在司法执行层面规定可由相应的国家机关提出公益诉讼，拓宽救济范围，遵循儿童利益最大化原则，并促进互联网行业健康发展。年新修订的未成年人保护法在其第 条中规定：“未成年人合法权益受到侵犯，相关组织和个人未代为提起诉讼的，人民检察院可以督促、支持其提起诉讼；涉及公共利益的，人民检察院有