“科技向善”的理论困境与解决思路.pdf

第第2525卷第卷第3 3期期20232023年年7 7月月VolVol.2525 No No.3 3JulJul.20232023南京航空航天大学学报南京航空航天大学学报（社会科学版社会科学版）Journal of Nanjing University of Aeronautics and Astronautics Journal of Nanjing University of Aeronautics and Astronautics(Social SciencesSocial Sciences)“科技向善”的理论困境与解决思路阮凡1，徐莅翔2（1.浙江工业大学 马克思主义学院,浙江 杭州 310023；2.浙江工业大学 土木工程学院,浙江 杭州 310023）摘 要：人工智能技术有可能挑战人类主体地位、威胁社会秩序，国际社会高度重视技术伦理的规范作用，企图通过“科技向善”的伦理和技术手段来应对这种挑战和威胁。“科技向善”作为“人文+技术”思维方式的产物，主要受法兰克福学派技术批判思想的影响，因而在理论和现实上容易陷入同样的空想。为确保人工智能伦理的实践价值，应该在“科技向善”中引用马克思的技术批判方法，即“价值引领+技术占有+驾驭资本”的整体性批判和建构，使“科技向善”真正得以实现。关键词：人工智能；科技向善；马克思主义；技术批判方法中图分类号：TP18;B0-0 文献标识码：A 文章编号：16712129(2023)03000905为人工智能技术设置伦理标准已经成为国际社会的共识，我国作为人工智能研发和应用大国，于2022年3月发布了 关于加强科技伦理治理的意见，以期实现“科技向善”1 的技术伦理目标。这种通过科技构建伦理社会的方法本质上是人文学者与技术学者跨学科交流的产物，是人文主义与技术主义相结合的典型代表。这种思维方式的形成与发展过程与法兰克福学派技术批判方法的思维方式具有高度的一致性，因而该学派的理论缺陷作为“前车之鉴”有可能会成为“科技向善”伦理规范的潜在困境。本文在分析“科技向善”伦理目标的形成过程和本质特征的基础上，参照法兰克福学派技术批判方法的理论缺陷提出“科技向善”的可能困境，最后借用马克思技术批判理论的方法指导提出可能的预防和解决路径。一、主体地位挑战和社会秩序冲击：“科技向善”拟解决的现实问题 人工智能的发展态势把技术的实体化威胁推到所有人的面前，使得哲学家、科学家、大众不得不去思考人工智能是否已经具备、未来能否具备以及何时能够具备独立意识和智能的问题。对这一问题的不同看法直接把学者们分为三派：悲观派、谨慎乐观派和乐观派。悲观派相信人工智能会发展出人类的自我意识，并且会演变成威胁人类主体地位的实体性存在。在技术层面上，他们相信通过脑科学和神经科学的研究，人工智能技术将会在功能上实现对人脑的复制和超越。这一技术革命的结果将会是人类主体地位的丧失、人类对自我本质的迷茫、人类社会基本伦理道德的冲击以及社会秩序的不确定。谨慎乐观派并不认为当前的技术能够使人工智能发展出等价于人类的自我意识，但是并不排除其发展成为某种极端的自我意识能力。2悲观派和谨慎乐观派的担忧实质上是从强人工智能的角度担忧人工智能获得独立自主权，成为控制和威胁人类主体地位的实体。乐观派认为人工智能技术并不会形成自我意识，不会威胁人类的主体地位，但是作为弱人工智能的技术工具将冲击和重组现有社会秩序。一方面，它有可能会进一步造成贫富差距和阶级矛盾。人工智能在替代人的体力劳动、智力劳动方面所展现出来的优势，已经在社会上引起了大面积的“机器换人”现象。更严重的是，此次人工智能给就业者造成的影响将会是极端的贫富分化：少数人通过掌握人工智能技术，使这种技术成为为自己牟利的私有生产资料而变得更加富裕，大多数人则在失业后更加贫穷，这种贫富分化甚至会使缓和的阶级矛盾再次走向尖锐。另一方面，它有可能会造成国际综合实力的悬殊，对国际关系进行颠覆性影响，进而影响国际政治DOI：10.16297/j.nuaass.202303001基金项目：浙江工业大学预研基金项目（SKY-ZX-20190221）；浙江工业大学特色培育项目（SKY-ZX-20200296、SKY-ZX-20210217）。收稿日期：2023-02-28作者简介：阮凡，女，讲师，主要研究方向为马克思技术哲学。第 25卷南京航空航天大学学报(社会科学版)http:/和我国的社会主义事业。人工智能技术作为第四次工业革命的关键技术，它将对各国经济社会产生系统性的变革，在一定程度上可以说，谁掌握了人工智能技术，谁就能获取第四次工业革命的胜利。针对人工智能技术潜在的实体性和工具性威胁，学界提出人文重构和技术建构3。学者们从人工智能技术与人的关系出发，重新思考人文主义的精神，并对未来人类的地位提出了两种设想。一派传统观点希望继续捍卫人类的崇高地位，认为接下来的任务是“研究人的性质及其变化，重新理解人及其演进的意义，认识并从而促进人类进入更新时代，并在这个时代确保人的崇高地位”4。另一派则认为应该改变人类中心主义的传统，走向后人类时代的后人文主义，他们认为“人主沉浮的局面已经成为过去，人可能在与非人、人机合体之人、法人等的竞争之中作为一种弱者出现”5，面对这一事实，人类应该学会与其他事物共享主体。我国国家机器人标准化总体组发布的 中国机器人伦理标准化前瞻（2019）从去人类中心主义的立场出发，提出人权、责任、透明度、防范滥用、共生繁荣的伦理目标，并提出中国优化共生框架。6无论是坚持人类中心立场还是去人类中心立场，在应对人工智能的实体化和工具化的挑战时，各国均从“善”的目标出发，提出一系列伦理准则。在落实这种“善”的伦理目标的路径上，学者们认识到科学家和工程师的重要性7，提出通过技术手段把人工智能限制在不威胁人类的安全范围内并实施伦理标准，于是“善”与“科技”相结合形成“科技向善”的共识。“科技向善”作为当前国际上应对人工智能挑战的主要共识，被学界寄予了厚望。但是现实中人工智能的伦理问题并没有发生真正有意义的改变，技术的安全性问题没有得到有效解决，且科技公司的道德监管委员会发挥的只是“道德洗白”（ethics-washing）的作用8。在理论层面上，“科技向善”作为“伦理+技术”的思维方式，与法兰克福学派“人文+技术”的批判方法具有高度相似性，在现实应用中存在同样的“乌托邦（无意义）”的困境。为克服“科技向善”的理论和现实困境，更好地发挥其应有的价值，我们需要从理论上探究问题所在，由此指导实践活动。二、人文复兴与技术建构：法兰克福学派技术批判方法的转向与局限 法兰克福学派是反思现代性问题的西方马克思主义主要理论流派之一，技术问题是该学派社会批判理论的核心。该学派历经三代，在对技术本质的认识不断深化的基础上，对技术统治的新形态进行及时有效地批判，并试图提出建构性的理论方案。在这一过程中，法兰克福学派逐渐完成了由技术的人文主义批判到技术建构主义建设的转向。霍克海默作为法兰克福学派第一代领导人物，他基于人性和社会的异化确立了对启蒙精神（科学技术的工具理性主义）及科学的意识形态性的批判。霍克海默的批判理论是基于人本主义的伦理批判，他批判理性的工具化使得理性不再关注诸如正义、平等、幸福、宽容等价值内容，成为纯粹的工具，同时批判技术的意识形态化使之成为资本主义统治的新手段。他希望用人本主义的复兴来对抗科学主义的异化，重构自由和平等的人道主义原则，但是这种批判表达的只是人道主义的谴责。马尔库塞继承了霍克海默的批判理论，以人本主义精神对发达工业社会技术的意识形态性进行了更为成熟的批判。马尔库塞认为，技术已经成为社会控制的新形式（即技术统治论），“社会控制的现行形式在新的意义上是技术的形式”9，这种新形式使得整个社会和人异化为肯定性的单向度的社会和个人。他寄希望于爱欲解放、艺术革命、培养具有“新感性的人”等手段来消解科学技术带来的种种异化问题，企图通过对技术理性的批判走向回归价值理性的“后技术理性”，实现“可替代的历史选择”的愿望。他的这种异化消解方法依然停留在理性批判阶段，缺乏有效的社会建构方案，使得他的技术批判理论在充满人本主义精神光芒的同时陷入抽象化的窘境。哈贝马斯对马尔库塞的观点进行了批判性研究，他认为“技术与科学作为新的合法性形式，它已经丧失了意识形态的旧形态，已经成了一种以科学为偶像的新型的意识形态，即技术统治论的意识”10。哈贝马斯在分析资本主义发展新特征的基础上进一步提出“科学技术是第一生产力”新型统治形式，并针对这种新形式提出实现“交往理性”这一观点。哈贝马斯以乐观的态度看待技术进步的正面影响，为资本主义制度提供辩护的同时把矛头指向科学技术本身，并对技术统治论提出了消极的看法11。芬伯格作为法兰克福学派第三代代表人物，主张以社会建构主义理论为指导在技术实践过程中实现民主价值观的落实。他提出了“技术代码”的概念，通过承载民主价值的技术的选择实现现代性方案的替换和民主社会的建构。芬伯格的技术政10第 3期阮凡,徐莅翔：“科技向善”的理论困境与解决思路治学观点以民主社会为目标，以技术为工具，通过民众的参与来确保技术和社会的民主化方向，为现代性批判和建构提供了一种较为具体的方案。总的来说，法兰克福学派的技术批判理论是以建构“自由”“民主”的社会为目标的政治批判，继承了马克思对资本主义现代性方案的批判。经历了从“人性”对抗“理性”的人文主义批判到以“技术设计”选择“现代性方案”的转向。前一种方案是对技术社会中人的生存状态的伦理思考，在批判现实社会的同时确立了理想社会应有的价值原则，但抽象的人性批判仅能为它描述世界，人文复兴并不能成为破旧立新的武器。后一种方案把公众的价值和参与权纳入它的解决方案。但它“技术可选择的有限性、工具性在某种意义上所引致的现代性走向并非必然交融于多元、和谐之中，反而可能面临无法替代的霸权控制”12。芬伯格仅在参与的意义上规定民众的权利，没有改变资本逻辑在技术设计、使用过程中的决定权，使得它的技术方案沦为既不能改变资本主义剥削现状又无法破解工具理性问题的乌托邦。理论上的这种局限性导致了法兰克福学派技术批判方法无法成为具有现实性和实践性的指导理论，而“科技向善”作为该理论方法在现实问题上的另一种表达不可避免地陷入同样的困境。三、“价值引领+技术占有+资本驾驭”：马克思技术批判方法的三重维度及对“科技向善”的启示 1.马克思技术批判的三重维度马克思技术批判思想从伦理、技术和资本三个维度对技术的社会问题进行批判，提出“人本主义价值观引领+技术占有+驾驭资本”的方案，该方案能够在理论上克服法兰克福学派技术批判方法的乌托邦困境。（1）马克思从工业异化的视角批判科学技术对劳动者造成的异化马克思对技术的人本主义批判是其技术批判的基础要义。马克思从技术（工业）异化的角度批判科学技术对人的本质力量的异化，他从人的类本质出发，认为工业活动作为劳动的特殊部分，是对人的类本质的异化，它“不得不直接地使非人化充分发展”13 193。马克思不仅在“普遍性的人”即大写的人的基础上来分析技术对人的类本质的异化，随着研究的深入，他还从“工厂里的人”的视角批判技术对人的身心的摧残。在工厂环境中，人的劳动环境和劳动方式极度恶化，已经到了不适宜人生存的地步。“自动工厂一出现就表现出一些绝非慈善的行为。儿童在皮鞭下面工作；他们成了买卖的对象。”14 739由于长时间地在条件极其恶劣的环境内连续工作，工人长期处于饥饿和不健康的状态，生命长度和生命质量受到严重侵害。马克思曾引用当时的伯明翰市长于 1875 年 1 月 14 日在伯明翰市卫生会议上的开幕词来证明大工业中的工人寿命最短：“曼彻斯特保健医官和医生证实，该市富裕阶级的平级寿命是 38 岁，而工人阶级的平均寿命只有 17 岁。在利物浦，前者是 35岁，后者是 15岁。”14 739（2）在批判资本与技术合谋的过程中提出驾驭资本的必要性在 哲学的贫困 资本论 等文本中，马克思在对资本的层层剖析中点明技术与资本的合谋，指出资本家通过不断增加技术的占比提高资本的有机构成，达到提