人工智能发展的社会风险问题研究.pdf

2023 年 5 月第 21 卷第 3 期总 81 期北京联合大学学报(人文社会科学版)Journal of Beijing Union University(Humanities and Social Sciences Edition)May.2023Vol.21 No.3 Sum No.81收稿日期 2022-09-06作者简介 宋阳(1981),男,辽宁喀左人,西安建筑科技大学马克思主义学院副教授;李慧(1996),女,陕西榆林人,西安建筑科技大学马克思主义学院硕士研究生。人工智能发展的社会风险问题研究宋 阳 李 慧(西安建筑科技大学 马克思主义学院,陕西 西安 710055)摘 要 随着第四次工业革命浪潮的到来,云计算、深度学习、大数据等技术不断普及,人工智能已嵌入人们生活的方方面面,不仅影响科技领域的发展,同时也给政治、经济、社会、道德伦理等领域带来了风险与挑战。由此,应从社会、政府及人类自身三个层面积极探索应对策略,以期形成多方共同参与、相互联动的有效合力机制,实现对人工智能的合理控制,更好地应对人工智能可能带来的社会风险。探索人工智能未来的发展方向,推进“技术”与“社会”的良性互动。关键词 人工智能;社会风险;高质量发展;技术风险;伦理风险中图分类号 G641 文献标志码 A 文章编号 1672-4917(2023)03-0109-07 一、引言人工智能作为推动人类文明不断向智能化社会迈进的“催化剂”,深刻影响了社会生产结构和生活方式。作为第四次工业革命的最核心组成部分,人工智能正在成为全球科技竞争的制高点、经济发展的新引擎和产业变革的核心驱动力1。为了快速寻找在第四次工业革命中的出路,我国十分重视人工智能的发展。国务院于 2017 年发布的新一代人工智能发展规划对人工智能的发展起着建设性的作用,强调“把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量,努力实现高质量发展”2。近年来,政府工作报告多次提到将加强人工智能的发展规划作为新的工作重点,从国家宏观层面来治理引导人工智能的发展。当前我国已成功进入创新型国家行列,聚焦人工智能的创新性发展已成为时代命题。随着国际国内大环境的变化,人工智能等前沿问题更是充满复杂性和不确定性,技术风险与社会风险事件时有发生,多方面因素触发的伦理问题也引发人们的深刻反思,因此,我们应当客观冷静地分析人工智能的发展前景,审慎对待人工智能这一先进的技术科学。党的十九届四中全会以来,国家高度重视社会治理工作并创新社会治理模式,提升社会治理智能化水平。中华人民共和国国民经济和社会发展第十四个五年规划和 2035 年远景目标纲要明确指出,“坚持科技赋能,推进社会治理现代化”3。习近平总书记指出,“要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控”4。然而,人工智能是一种尚处于探索阶段的革命性、颠覆性技术,在推动人类社会快速发展的同时,又深刻地改变了人类生产生活方式与社会形态结构,进而衍生出一系列的社会风险5。有学者指出,人工智能形成的“智能技术范式”容易侵蚀人的自主权,人或将沦为技术的“附庸”6。也有学者认为,人工智能在帮助重塑政府科层组织之间及政府与社会的关系的同时,会对组织的地位和边界带来重大挑战7。任剑涛提出人工智能技术失控容易造成社会冲突问题。人工智能时代背景下,探讨人工智能应用的社会风险成为亟须深入研究的现实问题8。何哲将人工智能给人类社会带来的核心风险分为隐私泄露、劳动竞争、主体多元、边界模糊、能力溢出、惩罚无效、伦理冲突、暴力扩张、种群替代和文明异化十个方面,并提出了相应的应对措施9。张成岗从技术自主性与人工智能的失控风险、新技术决定论形态中的算法及数据挑战、人工智能发展中的伦理风险及其规约、人工智能对就业的冲击及其社会风险、人工智能时代整体图景缺失的挑战这五个方面对人工智能社会风险进行讨论10。周利敏等认为人工智能可能会促进社会风险治理模式创新,但逃脱人类控制的人工智能会造成更大的社会风险11。杨凯110 北京联合大学学报(人文社会科学版)2023 年 5 月结合人工智能与社会风险治理的新进展,阐述了基于人工智能的社会风险的治理模型12。王泗通则通过对人工智能在垃圾分类领域的应用分析,提出人工智能可能引发居民过度依赖智能化、基层自治空间不断压缩以及社会结构可能解组的社会风险13。二、人工智能发展潜在的社会风险随着我们进入人工智能时代,社会生产力大幅提高,人们的生活方式也变得更加便利,同时也导致了劳动岗位受到冲击、数据及隐私泄露及算法歧视等一系列的社会风险。(一)人工智能冲击劳动岗位的风险人工智能在极大地提高生产效率并改变传统的劳动形式的同时,替代了大量的劳动力,造成失业危机,这不仅给劳动就业市场带来巨大冲击,对一些弱势群体来说更是带来永久性的不可估量的危害。人工智能对劳动岗位造成的冲击主要表现在以下两方面:一方面,人工智能对生产效率要求高的制造业造成了很大的影响;另一方面,人工智能对于重复性的、程序化强的服务性工作和体力劳动冲击较大。在制造业中,人工智能的主要作用是使机器能够“匹配或超过人类技术人员”,提高生产操作的效率,降低成本。首先,在其他条件相同的情况下,高技能的机器在提高生产力方面显然比传统劳动力更有优势;其次,在制造业中,工人的生理和心理存在潜在的威胁,例如,单线操作很容易导致心理疾病,富士康甚至出现了员工跳楼的恶性事件。这些因素导致企业倾向于用机器取代劳动力,这增加了劳动力失业的风险。另一方面,劳动力成本的上升和人工智能的日益成熟,也增加了企业用机器替代劳动力的意愿。在服务行业,随着越来越多的人工智能机器的引入,机器正在逐渐取代一系列重复的、程序化强的机械性服务任务。中国建设银行在 2017 年引入了“智慧柜员机、外汇兑换机、理财服务机”,随后裁减了 1 万多名员工。据招商银行工作人员介绍,未来可能只留下一名柜台人员在银行网点处理交易,这意味着超过 50%的柜台人员将离开目前的工作岗位14。随着人工智能的发展,无人超市、无人酒店、无人健身房、无人银行等基于人工智能的新行业逐渐普及,这对传统行业的人力资本的影响也越来越大。在教育领域,人工智能的优势正在慢慢改变传统的教学模式。与人工智能相比,人类教师有一定的缺陷;人类教师在时间和精力方面处于明显的劣势15,其在知识存储和分析处理能力方面也远不如人工智能。此外,人工智能比以往任何时候都更具颠覆性,因此,许多以前认为不太可能被代替的职业,如律师、法官等,也逐渐面临被取代的风险。制造业和农业的人力资本将不可避免地流向服务业,服务业的工作岗位不足以及被替代行业人力资本的不断涌入,将进一步加剧就业问题。人工智能具有自我感知、自我模拟、自我调节等功能,能够对智能信息进行量化处理,可根据复杂多变的市场需求进行灵活的调整和改进,一切社会生产活动都由机器之间自行交流、自主完成,实现物质生产过程的无人化。深度学习等技术的快速发展给人工智能自我更新升级带来了新的契机,构建人工智能神经组织,会使劳动生产率出现“指数级”增长,与之相随的未来社会经济发展趋势也会发生巨大变化。深度学习技术的应用使人工智能开始扮演人类的大脑,取代传统的脑力劳动的工作,甚至对以往并未受到技术影响的职业和岗位也带来了影响。同时,未来人工智能与人类的关系目前也不清楚,人工智能未来有可能和现在一样对人类采取友好的态度,也有可能对人类产生敌意,而且超人工智能也有可能有自己的野心,从而反过来奴役人类成为社会的主宰16。库兹韦尔在奇点临近一书中预言,机器的智能将在 2045 年超过人类智能,而到 21 世纪末,人机智能将比人类智能强大数倍;并认为如果人工智能继续发展下去,非生物计算机将取代人类,人工智能主导的人机文明将取代人类文明17。(二)人工智能引发隐私泄露的风险现代社会是文明程度较高的人类社会形态,人们更加重视和维护自身的尊严。然而,随着信息技术的快速发展,所产生的一系列社会风险也随之而来,特别是个人隐私与信息共享之间的内在矛盾使人类自身的尊严与隐私遭到了时代性的挑战。大数据的快速发展,在催生个人有效信息收集手段的同时,也使人类个体的私人空间遭到侵犯,这就容易形成保护隐私和信息共享之间的二律背反,对人类个体的隐私造成严重的挑战。近年来,各种带有处理器和传感器的人工智能产品不断涌现,使人们的学习和生活更加便利,同时也提高了对物理空间的监控,进一步增加了用户第 21 卷第 3 期宋 阳等:人工智能发展的社会风险问题研究111 隐私被侵犯的风险。例如,苹果公司利用 Siri 软件,在未经用户同意的情况下,将用户与他人之间的对话通过其服务器传输给承包商进行分析;陌生人可以利用无人机监视普通公民18。在各种人工智能产品面前,普通公民就是一个“透明人”,没有任何隐私。除了私人领域缺乏隐私外,公共领域的监控摄像机,如街道上的监控摄像机,也可以利用图像识别技术在人群中自动识别人脸、找到目标,实时监控特定的对象。人工智能对个人隐私的侵犯越来越显著。当今时代,人们在互联网上的行为完全被互联网这个信息媒介所记录。互联网利用大数据技术收集、存储和分析这些信息,预测和分析用户的个人兴趣、爱好、习惯和行为模式,以提取未在互联网上“公开”的预测性信息,然后追求商业信息流。例如,剑桥分 析 公 司 不 正 当 使 用 收 集 到 的 八 千 多 万Facebook 用户数据,并参与到美国总统大选的事件中,违反数据的收集和保存的原则使数据泄露,严重侵犯了公民的隐私权。自新冠病毒疫情暴发以来,大多数医务人员在疫情防控领域开展医学研究,科技人员正确地运用人工智能技术开展疫情防控,取得了实实在在的效果,有效保障了我国人民的安全健康和社会的健康发展。然而,大数据在疫情防控中的广泛运用已经并将继续引发一些复杂的伦理问题,特别是隐私泄露问题。各级政府部门和地方组织拥有特定的合法权力,可以收集大量的个人隐私数据和信息,如姓名、身份证号码、个人通信信息、交通和旅行信息、在线支付信息等。然而,这个过程在人工智能和大数据的加持下,很容易导致个人权利和公共利益之间的冲突,并导致个人权利受到侵犯19。同时,人工智能的使用可能会增加医疗数据泄露的风险。一方面,这些数据被医院或人工智能产品公司所掌握,如果这些信息被传递给欺诈者或其他医疗机构,那么数据主体就有可能被欺诈或被推销医疗产品;另一方面,如果这些数据由于管理不善或系统漏洞而被泄露,可能对数据主体及其家人造成严重伤害20。大数据的发展使共享信息的范围不断扩大、程度不断加深,从而使个人信息的泄露更容易发生。互联网技术的发展,使得社交媒体及各种 APP 非常容易获取用户的私人信息,进而更全面地了解一个人的个人偏好、智力能力、心理状况等隐私。这表明,在大数据时代,人类隐私已经成为最脆弱的领域之一,迫切需要法律和伦理框架来保护,以维护人类尊严21。(三)算法歧视引起的隐患1.信息茧房社交媒体平台利用人工智能算法对用户的偏好进行精准识别和计算,进而提供差异化、个性化服务,以迎合用户需求从而吸引和维持用户流量。这一过程必然会加剧其对消费者选择性的信息传递,导致“信息茧房”问题,即个人沉浸在自己选择的以及令自己愉悦的信息中22。长此以往,将自身桎梏于所谓的“茧房”之中,进而降低个人自主提炼优质信息以及自主判断和决策的能力,不断扰乱其价值体系,造成认知固化甚至形成偏见。2.价格歧视企业利用人工智能算法来优化产品定价方案以获得更高的利润,通过算法进行用户数据画像以更精准地了解其支付意愿,进而对不同的消费者实行差异化定价策略,产生了大众熟知的“大数据杀熟”现象。同时,机器学习算法可独立于企业直接进行动态差别定价,甚至规避反垄断法的严格规制,实施隐蔽的价格合谋行为。这一过程严重侵害了消费者的合法权益,引发了竞争扭曲的垄断行为并极大地扰乱了相关市场的公平竞争秩序。在数字政府建设过程中,人工智能算法也成为辅助行政决策智能化的重要技术支撑。受制于算法研发的能力,政府购买技术服务的过程也增强了自身对技术开发者和控制者的技