人工智能赋能教育的伦理省思_王晓敏.pdf

江苏社会科学2023年第 2 期以深度学习为代表的人工智能技术在迅速发展的同时，也被广泛应用于各领域。具有自动写作功能的语言优化模型ChatGPT惊艳出场，联结了现实空间与虚拟空间的“元宇宙”数字生活空间横空出世，成长于数字化环境中的数字土著成为新一代的教育主体。面对这样的现实，人们不得不重新审视教育与技术之间的关系。在实践中，人工智能在教育领域的应用越来越广泛，包括各教育利益相关者及教育管理部门对教育大数据的收集和使用，智能技术在学生的自主学习、教师的线上授课以及智慧课堂的行为识别中起到的辅助作用，等等。从理论上来说，人工智能赋能教育，其本质就是提倡利用网络技术、信息技术以及智能技术等改善现有教育中技术利用不足的问题。学者们逐渐重视“教育中的人工智能”（artificial intelligence in education,AIED）的研究。这一研究领域，主要是指人工智能与人工智能赋能教育的伦理省思王晓敏刘婵娟内容提要人工智能赋能教育是技术发展的时代必然，但在智能技术与教育的融合过程中，教育技术、师生关系以及教育环境等方面也会产生新的伦理风险。从理论上说，教育技术运用方面的伦理风险，主要根源于由认知受限而导致的算法黑箱、由文化偏见而引致的算法歧视、由智能技术法制缺位而引发的伦理治理受阻；师生关系方面的伦理风险，主要根源于教师、学生以及师生等伦理关系的错位；教育环境方面的伦理风险，主要根源于由价值歧视导致的社会公平正义缺失，从而引发更深层次的教育不公平。因而，在人工智能赋能教育过程中，一方面要理性看待已经出现或可能会出现的伦理困境，另一方面要在倡导智能技术和教育融合共生的基础上，从加强技术支撑和伦理规范建设、构建新型师生伦理空间、明晰智能教育伦理责任和提升师生智能素养等四个方面，构建人工智能教育伦理治理新范式，以防患于未然。关键词人工智能技术赋能教育伦理师生关系王晓敏，温州医科大学外国语学院讲师刘婵娟（通信作者），温州医科大学健康与生命伦理研究中心教授本文为国家社会科学基金重点项目“医学伦理委员会及其伦理审查能力建设研究”（19AZX014）的阶段性成果。68DOI:10.13858/32-1312/c.20230328.003人工智能赋能教育的伦理省思教育科学融合所形成的专项领域，其研究目的在于利用人工智能技术揭示学习发生机制、促发高效学习以及促进教育改革发展1。这一应用及其过程，被通俗地简称为人工智能技术赋能教育。在人工智能技术赋能教育的过程中，由于教育教学方式技术化的变革创新，师生关系与教育环境也一定会发生潜移默化的改变，并带来人工智能技术环境下新的教育伦理问题。那么，人工智能赋能教育将可能产生哪些伦理风险呢？本文旨在通过探讨这一问题构建智慧教育伦理治理新范式，以做到未雨绸缪，防患于未然。一、人工智能赋能教育的伦理风险教育领域的技术赋能或将对教育决策、教学应用及教育环境等方面产生影响，从而催生教育变革。人工智能技术在解构现有教育教学生态的同时，也在建构人工智能教育教学技术化的新生态。在技术化的教育新生态中，由于人工智能扮演类人的角色，所以它不仅改变了传统教育生态中的人际关系，而且也促使教育伦理中关于道德行为的价值判断标准发生变化。然而，即使作为技术伦理和教育伦理的结合体，人工智能教育伦理仍然应该以“人”为研究的出发点，规约人在人工智能应用过程中的行为2，这是因为教育的对象仍然是活生生的人，而不是“技术”，更不能为了运用技术而改变“人之为人”的本性。由此，以“教育是培养人之为人的教育活动”作为考察和运思的标准及出发点，人工智能赋能教育将可能在教育技术、师生关系以及教育生态等方面产生伦理风险。1.关于教育技术的伦理风险人工智能时代最让人焦虑的技术问题，就是算法黑箱问题和数据安全问题。先就算法黑箱问题对教育伦理的影响加以考察。众所周知，现实世界为大量数据所重建，界面、数据、模型是智能算法黑箱的三大形成要素，而对于交互界面内部数据的运作逻辑算法，人们却无从知晓，这种算法的不公开不透明就是所谓的黑箱问题3。在教育领域中，算法黑箱可能会引发各种算法伦理风险，主要体现在：算法不公开引致教育主体对智能技术缺乏信任。当教育者和学习者对智能教学系统的分数计算规则、评价理由和预测的依据未知时，他们会质疑智能教学系统的可信度与有效性，这种信任缺失会妨碍教育者、学习者与智能教学系统之间的交互。算法歧视遮蔽教育的公平性。算法的设计会不可避免地受到算法程序员的主观影响，其背后是程序开发商等诸多教育利益相关者的观点制衡，因此受主观意识左右的算法设计存在“算法歧视”的风险，遮蔽了教育的公平性。算法设计过滤教育中富含人文价值的因素。算法的设计一般遵循固有的公式，因此在算法运行过程中，很多教育中富含人文价值的因素是无法被精准计算衡量的，这也在一定程度上造成了算法的偏差和偏见，引发新的教育不公平问题。人工智能赋能教育的技术伦理风险还体现在数据伦理风险方面。数据智能本是智能教学系统得以顺利运行的基础。然而旨在优化教学的智能辅助数据技术却变成了教学管理者对教育主体的监控工具，其结果是教学世界变得冰冷，失去了教学生活的真实感。智能教学系统所记录的有关教育者和学习者的各种数据信息，大部分是隐私信息，但是此类数据信息一旦保存或者运用不当，就可能产生以下伦理问题：教育数据安全危机四伏。智能系统的使用者很容易遭遇数据泄露、数据篡改等各种数据安全问题，但是由于作为数据主体的师生对于自身数据的收集和使用缺乏知情权，一旦数据被泄露或未经授权而被修改，就会对数据主体即师生产生不可预测的伤害；数据管理人员的数据伦理意1蒋鑫、朱红艳、洪明：美国“教育中的人工智能”研究:回溯与评析，中国远程教育 2020年第2期。2李晓岩、张家年、王丹：人工智能教育应用伦理研究论纲，开放教育研究 2021年第3期。3衣俊霖：数字孪生时代的法律与问责通过技术标准透视算法黑箱，东方法学 2021年第4期。69江苏社会科学2023年第 2 期识薄弱。即使数据管理人员具备基本的数据伦理意识，但是我们并不能排除他们为了牟利而跨越伦理红线并泄露数据主体个人信息的可能；智能技术对教学行为的过度量化。如果人工智能技术过度侵蚀教育的人性化生态，那么师生的一切教学行为和学习工作状态都将会被量化，其导致的结果必然是教育的人性与灵性的丧失。上述两个方面技术伦理风险的存在，导致人工智能时代教育领域中伦理追责的困境，主要体现在：一是人工智能的道德主体界定的不确定性。目前，学界对于因模仿人的思维和行为而问世的人工智能在教育活动中是否应该承担道德主体责任看法不一。在现实教育教学实践中，当智能教育应用出现问题的时候，教育利益相关者会推诿责任，真正可追责的责任主体却是模糊不清的。二是由智能教育学习系统创建成员构成的复杂性而导致伦理责任不清晰。一般而言，智能教育学习系统创建者包括程序设计员和系统设计师等，但有关各成员伦理责任并没有得到明晰的界定。因系统开发过程中每一个环节都存在着各种利害抉择，而这些选择都不可避免地会受到系统开发商商业理念的影响，所以一旦智能教育学习系统出了问题，具体的责任应该由谁承担就很难界定。三是除了智能产品的开发环节，其系统评估者、使用者和监督者的伦理责任也是不明确的。2.关于师生关系的伦理风险教育的本质是育人，人工智能的应用可能会在一定程度上妨碍教育育心、育德、育人本质的实现，进而使得教育失去灵魂而变得机械化。从教师角度来看，如果教师无法有效驾驭人工智能、无法实现人机和谐共处，那么就极有可能产生一系列新的伦理困境，主要体现在：一是教师对智能技术的疏离。由于教师在教学上过度依赖人工智能，大量授课和训练巩固环节都依赖智能平台去完成，且智慧教学容易遮蔽教师的个人教学魅力和智慧。长此以往，教师的教学能力会逐渐弱化，其在教学中举足轻重的主导地位将不复存在。这一角色变化降低了教师的身份认同，从而引发教师对智能技术的非教育性疏离感1。二是部分教师的教学行为失范问题。某些教师由于人工智能素养未能在短期内得到极大提升，往往对智能技术在教学中的应用有抵触情绪，导致无法有效地利用智能教学平台对学生的综合能力做出正确的评估、分析和决策，从而造成教师角色行为失德失范问题2。三是教师对人性化教育的观照不足。人工智能的优势在于其强大的计算能力和预测能力，但在培养学生创造性思维、批判性思维、道德情感和道德品质等方面则束手无策。因此，教师对智能技术的认知不足与主观依赖容易导致教师对学生人之为人特性的培养有所懈怠。从学生的角度来说，在教育智能化的过程中，作为教育主体之一的学生，其角色地位也会发生相应变化，从而引发一些新的伦理隐忧，主要表现在：一是学生的深层次学习实现受妨碍。智能技术或将使得学生的学习变得轻松愉快但却难以深入。2022 年底 ChatGPT 语言优化模型的问世让教育界如临大敌，因为倘若学生主体长期依赖ChatGPT 完成作业，其在写作时常需运用的谋篇布局、辩证分析以及决策创新等高阶思维能力将难以得到发展。人类一旦失去高阶思维能力，未来又将如何与日益智慧的人工智能抗衡？二是学生的专注时长与记忆模式受影响。学生每天忙于完成各智能平台的学习任务，分配给每个平台的时间非常有限。“慕课”的微视频使学生的注意力区间调适为515分钟，学生很难持续专注于一项学习任务。此外，永久可获取的在线信息改变了学生检索、存储、回忆甚至重现知识的方式，影响了学生的记忆过程和习惯，不利于学习者知识的积累和巩固。三是学生的自主选择能力被削弱。智能教学系统的一大优势就是，能够根据学习者日常学习1庞茗月、戚万学：智能技术引发的非教育性疏离感之伦理省思，现代教育技术 2021年第10期。2张国立、刘晓琳、常家硕：人工智能教育伦理问题及其规约，电化教育研究 2021年第8期。70人工智能赋能教育的伦理省思行为模式的历史数据推算出其学习需求和偏好，并自动推送为学生量身定制的学习资源。但是，这种推送方式很容易给学生的学习内容带来诸多限制，不利于其全面广泛地获取丰富的知识。同时，该方式也可能会使学生在自主选择信息方面产生思维上的惰性，自主意识弱化，并由此导致学习主体性逐渐被智能技术所消解。从师生互动关系的角度来说，人工智能应用于教育领域后，教学在一定程度上依赖智能机器，师生现实课堂的接触时间锐减，过去充满温情的教育环境逐渐失去温度，师生间的情感交流和道德教化失去伦理空间。教育和技术的伦理关系失衡必然会导致教育中最重要的师生关系发生变化。因此，人机该如何共存是不容忽视的伦理问题。一方面，智能技术的应用破坏了师生对话的伦理空间，师生关系逐渐变得淡漠，背离了技术优化教学的初衷。学生如果长期沉浸于虚拟的教育环境，将过分迷恋“投其所好”的智慧型教学系统，认为现实中的课堂教学无趣乏味从而不再主动参与现实的教育活动，缺乏师生积极互动的课堂将显得更为沉闷，师生间的有效沟通变得愈加困难。另一方面，人工智能技术赋能教育使得学生尊师重教的伦理观念逐渐淡化。在智能时代，教师的课堂讲授不再是学生知识获取的唯一渠道，因而在部分学生的认知中，教师已不具有不可替代性，不再具有举足轻重的地位。更甚者，从小和数字技术打交道的学生可以在技术操作方面对教师进行知识与技能的反授。因此，教师的教学主导作用将接受严峻的现实考验，传统的师生伦理观念将面临巨大的时代挑战。3.关于教育生态方面的伦理风险人工智能赋能教育的技术伦理风险也会涉及教育公平、教育的功利性倾向以及AI导致失业等问题。从教育公平角度来说，在人工智能实际应用的过程中，一方面不同地域不同学校教师的智能教育素养发展不同步，其资源整合和人机协同等素养的差异会直接影响智能技术对教学质量的优化程度，智能技术在实际教学应用中的不公平性便会由此凸显。此外，各地域信息化发展速度迥异使得各地学生对信息化教育的接触程度不一致，导致各地学生信息化素养参差不齐，自然对智能教育的适应性和接受度也不一致，最终使得学生的学习效果产生分化现象。教育者智能教育素养和学习者智能学习素养的差异性会引发新型教育不公平。另一方面，智能技术的设计、应用等各环节的筛选设定都暗藏着教育利益相关者