人工智能养老模式的法律风险.pdf

492023年第 2 期北京政法职业学院学报总第 122期中图分类号:D923 文献标识码:A 文章编号:16729285（2023）02004910人工智能养老模式的法律风险杨琴1早晨语2【摘 要】近些年逐渐兴起的人工智能养老模式在工作效率的提高和人力资源成本的节省上给养老服务企业和政府部门提供了积极的发展机遇，与此同时也对现行法律制度造成了震动。人工智能养老模式在现行条件下能否实现全面推广，需要根据各方面的数据反映对其发展潜力做出合理评估，然后才能去探究运用这一模式对现有法律主体资格、侵权责任承担和人类伦理等问题的挑战。在处理这种因嵌入人工智能新技术而带来的棘手问题时，也只能先使用现有的法律制则防备现阶段存在的法律风险，同时通过积极主动地研究和针对新型养老服务法律制度建设的新需要、并借鉴欧盟AI 法案经验等，逐步构建和完善我国人工智能养老服务的法律体系。【关键词】人工智能 养老模式 法律风险 Quite care 法律人格一、前言随着人工智能技术的突飞猛进，在面临老年人口比重不断上升和“养护比”逐渐失衡的双重困境下，养老服务产业开始向人工智能化转型，以期达到提高产业容纳率和“养护比”的合理平衡。但是，这一转型也带来诸多法律问题，并逐年呈上升趋势，其中最为普遍的便是以人工智能养老产品侵权案件为代表的侵权归责案由，这也给现行的法律制度带来严峻挑战。面对这一问题，国内外均有颇多观点。其中，最为代表的便是通过现有的法律规则予以规制，并随着人工智能的发展制定相对应的应变法规。3本文亦认为此方法具有合理性、明确性和阶段性，在人工智能养老模式的法律风险中，存在的问题主要是解决针对养老护理特定领域出现的疑难杂症。当然，在宏观方面，人工智能养老模式和人工智能法律在规范上应遵循同一体系理念，并在微观上有所细分，这也就是为什么在单独描写人工智能养老模式的同时却又难以脱离人工智能这一整体宏观概念的原因。人工智能养老服务法律体系的构建不仅要在法益上体现，更应在保障老年人的应得权益和服务提供方的权利义务上起到积极作用。现行法对此仍然具有重要的指导意义，因此更应将消极被动变为积极主动，努力探究其所孕1杨琴：广州商学院法学院教授、广州商学院外国法研究中心主任、法学博士。2早晨语：广州商学院法学院 2020 级在校生。3吴汉东：人工智能时代的制度安排与法律规制，社会科学文摘2017 年第 12 期，第 76-78 页；杨立新：用现行民法规则解决人工智能法律调整问题的尝试，中州学刊2018 年第 7 期，第 40-49 页。50育出的法律价值和法理追求。二、人工智能养老模式及运用（一）人工智能运用于养老医疗人工智能是随着“机器人”的出现而产生。“机器人”一词最早起源于捷克作家卡雷尔恰佩克(Karel Capek)的 Rossums Universal Robots1921 年首演的作品中，该作品所描述的机器人不是现代人们所认为的那种运用电脑做大脑、用金属及塑料等工业原料做身体、用电池驱动其行动的机器人，而是用仿人生物制作、强迫到工厂劳动的机器人。1941 年俄裔美籍作家艾萨克阿西莫夫（Isaac Asimov）在一本现代科幻短篇小说集 I,Robot 中创设了“机器人学三定律”。41950 年英国数学家艾伦图灵（Alan Turing）在他的论文 Computing Machinery and Intelligence 中描述了“图灵测试（The Turing test）”，将人工智能的研究推上一个新的高峰。1956 年美国计算机科学家约翰 麦卡锡（John Mc Carth）在 Dartmouth 会议上正式提出了“人工智能”（Artificial Intelligence，简称 AI）这个词，随后人工智能研究掀起了第一次热潮，5并随着科学技术的发展广泛运用于各行各业。作为养老模式的重中之重“医学”领域也随着人工智能如火如荼的发展快步迈入人工智能时代。医学中的人工智能可以根据其所展现的最终形态划分为两个分支：虚拟和物理。虚拟类涵盖从人工智能对信息管理的深度学习再到对人们健康管理系统的控制，以及在治疗过程中运用自身所载入的医学知识为医生出谋划策。人工智能在医学中的进一步虚拟应用是使用软机器人通过控制妄想幻觉来缓和人类的情绪，这项技术的初步成功表现在幻觉和声音威胁的程度较低，也许最有用的功能是照顾老年人。在那里，交流的频率、安心的天性和友善都是改善交流的重要因素。6人工智能在医学中的第二种应用形式更偏向于实体，包括各类医疗机器人，这些机器人为患者提供一些信息上的咨询和护理。7日本的 carebot 是这一技术的最先进形式。物理分支最能代表的是用于帮助老年患者或主治外科医生的机器人。这一分支还包括目标纳米机器人，是一种独特的新型药物输送系统，其中不乏有近年兴起的释放凝块纳米机器人（快速释放纤维创建凝块以止血，作用类似血小板）、专食细菌纳米机器人（采用“消化和释放”机制，更快、更有效的杀灭细菌或类似侵入物，作用类似白细胞和嗜中性粒细胞）、辅助呼吸纳米机器人（在血液中传播氧气，作用类似红细胞）、可操作 DNA 折纸机器人（修复 DNA、植入新基因）和治疗癌症纳米机器人（帮助人类识别并杀死癌细胞、清理动脉血管垃圾）。莱昂纳多达芬奇（Leonardo Da Vinci）创造了如今机器人辅助手术并在复杂的泌尿外科和妇科手术中迅速发展。美国直觉外科公司生产的一种手术系统也被命名为达芬奇，以弘扬他的贡献。（二）人工智能养老模式人工智能在医学领域的运用逐步渗透到以医养结合为主的养老模式中，随之而来的便是智慧型养老模式的全面构建。作为我国改革发展创新的桥头堡，上海市于 2022 年 9 月 22 日通过了上海市促进人工智能产业发展条例，作为自我国 2017 年 7 月 8 日颁布的新一代人工智能发展规划4 日 新保史生.法法領域別課題鳥瞰,情報法制研究,第 1 号（2017.5）5 美 罗德尼布鲁克斯(Rodney Brooks).人工智能的起源与发展 凡是过往,皆为序章.Rodney Brooks.今日制造与升级.2018(S1).6See Pouke M,Hkkil J.Elderly healthcare monitoring using an avatar-based 3D virtual environment.Int J Environ Res Public Health.2013;10(12):728398.7See Cornet G.Robot companions and ethics a pragmatic approach of ethical design.JInt Bioethique.2013;24(4):4958.杨 琴 早晨语：人工智能养老模式的法律风险512023年第 2 期北京政法职业学院学报总第 122期以来的第一部人工智能领域的省级地方法规，上海市促进人工智能产业发展条例（以下简称条例）对人工智能的规划、创新、发展、融合、赋能方面发挥着重要的积极作用，对人工智能产业的持续发展提供了高质量的政策支持。条例围绕着如何促进人工智能创新、促进资源共享、促进人工智能企业持续创新发展能力明确了具体规范。条例对目前人工智能产业发展现存主要问题与核心问题针对性极强，在人工智能大规模应用落地的制度保障方面进行了开创性的探索。人工智能养老服务指的便是通过机器或者智能手段模拟人类但远远超过人类的能力，满足老年人物质生活和精神生活的基本需求，并帮助他们解决各种各样的问题。8在养老领域，各种智能养老服务模式和智慧产品推而广之，各种各样的传感器和人工智能系统有效的完善和延伸了养老服务的功能。9对于人工智能养老模式的研究来说，可以大致分为以“互联网”和“人工智能”的两个主流“学派”，10但它们并不是互相对立，而是对于养老模式的侧重点有所不同。“互联网”多以养老模式的创新点为指引，通过对形式的改变再辅以信息化管理的手段去运行这一理念；11人工智能养老以技术水平为切入点，多以市场的反馈情况和当今科技水平为重要前提。12（三）人工智能养老软件及机器的运用就好比医学领域将人工智能分为虚拟化和物理化两大分支，养老服务领域也应通过人工智能的应用方式和技术条件对其进行划分，通过约翰罗杰斯希尔勒和库兹韦尔的“奇点理论”（Singularity），我们可以得出对人工智能的整体分类，即弱人工智能（是指不具备独立思维的人工智能）、强人工智能（是指具有独立思维的人工智能）和超级人工智能（是指远远超越人类的人工智能），这是对人工智能技术水平的整体归纳。当今面世的人工智能产品多以弱人工智能为主，例如扫地机器人；强人工智能则可类似于索菲亚 13、华智冰 14、AlphaGo 15等这些智能实体和虚拟程序；超级人工智能还处于理论研究阶段。相比较人工智能技术水平的整体归纳而言，其性质内容的分类也较为重要。笔者看来可大致分为实体和虚拟两类，实体可类似为强人工智能索菲亚的最终形态，是以实际存在物理外化的形式向世人所反映，可将其归为人工智能机器；虚拟可类似为华智冰的最终形态，是以虚拟存在通过电子设备为载体的形式向世人所反映，可将其归为人工智能软件。相较于养老模式而言，对其进行细分实属困难，养老服务并不是简单的实体虚拟，所服务的人工智能需要帮患者洗澡、换衣服、做饭、用药提醒、病例查询、深度情感交互等，并不是单一实体或是单一虚拟便能完成，单个机器人不仅在功能上难以满足家庭中老年人的需要，而且在价格和可靠性上也会给大规模的推广带来障碍。16这就需要实体和虚拟的高强度融合，类似于如今的智能8睢党臣、曹献雨：人工智能养老的内涵、现状与实现路径，新疆师范大学学报(哲学社会科学版)2019 年第 2 期，第 111-119 页。9钟义信：人工智能:“热闹”背后的“门道”，科技导报2016 年第 7 期，第 14-19 页。10张蕊：“互联网+”背景下城乡互助养老模式的构建评“互联网+”背景下智慧养老研究 ，中国科技论文2021 年第 1 期，第 129 页。11谭有模：“互联网+”背景下积分养老服务模式研究，中国卫生事业管理2021 年第 10 期，第 728-731 页。12徐兰、李亮：互联网+智慧养老：基于 O2O 理念下的社区居家养老服务模式，中国老年学杂志2021 年第 12 期，第 2675-2681 页。13索菲亚是由中国香港的汉森机器人技术公司（Hanson Robotics）开发的类人机器人，是历史上首个获得公民身份的一台机器人。索菲亚看起来就像人类女性，拥有橡胶皮肤，能够表现出超过 62 种面部表情。索菲亚“大脑”中的计算机算法能够识别面部，并与人进行眼神接触。14中国首个人工智能虚拟学生，由北京智源人工智能研究院、智谱 AI 团队、小冰公司联合研发。15一款围棋人工智能程序，由谷歌旗下公司戴密斯哈萨比斯领衔的团队开发，主要工作原理是“深度学习”。16赵雅婷等：养老服务机器人现状及其发展建议，机械工程学报2019 年第 23 期，第 13-24 页。52家居系统，通过一部手机或者电子设备实现“万物互联”。经过数十年不断的发展，人们将所探知到的人工智能在老年人中的护理分为三大类，分别为治疗、交流和娱乐。三大类中均运用了大量的机器辅助设施，如动物型机器人（作为动物辅助治疗的替代品，以避免动物感染疾病或身体受伤等不利因素）、17 对话机器人（用以改善老年人与认知功能受损相关的不良交流环境）18和玩具机器人（RAR）（提供老年人的娱乐方式）。19它们的出现极大的促进了老年人生活上的便利和照护上的升级，据定性报告，RAR 对老年痴呆症患者有积极救治影响。20在过去几年里，专做人工智能养老服务的公司比比皆是，它们着重关注认知功能衰退的老年人，提供相关的监测技术、智能检测技术和护理服务。这类公司提出的各种解决方案已渐渐渗入家庭护理、辅助看护领域，形成了以人工智能为核心的养老模式集群。1.人工智能养老软件的实际应用。Care innovations 作为全美最大的供应商之一，服务着分散在美国各地的 10