ChatGPT等生成式人工智能的刑事责任问题研究.pdf

ChatGPT 的法律回应文章编号:1001-2397(2023)04-0110-16收稿日期:2023-04-18基金项目:国家社会科学基金重大项目“网络时代的社会治理与刑法体系的理论创新”(20&ZD199)作者简介:刘宪权(1955),男,上海人,华东政法大学功勋教授,“经天学者”讲席教授,博士生导师。ChatGPT 等生成式人工智能的刑事责任问题研究刘宪权(华东政法大学,上海 200042)摘 要:ChatGPT 等生成式人工智能的出现意味着人工智能的“技术奇点”越来越近。GPT-4 及更进一步的生成式人工智能已经触及了强人工智能的边缘,使我们真真切切地感受到强人工智能时代“未来已来”。ChatGPT 等生成式人工智能具有一定的逻辑推理能力和创造能力,甚至还具有通过其自身独立进行编程的能力,从而拥有脱离人类的独立意识和自主意志的可能性。对 ChatGPT 等生成式人工智能进行刑法学研究刻不容缓。根据不同的标准,可以对 ChatGPT 等生成式人工智能可能引发的犯罪类型进行多种分类。以相关行为符合的罪名和行为类型为标准,ChatGPT 等生成式人工智能可能涉及的犯罪可分为煽动类犯罪,侵犯知识产权类犯罪,侵犯数据、信息、计算机信息系统类犯罪,侵犯公民人身权利类犯罪,以及传授犯罪方法、提供犯罪程序类犯罪等。比人脑更“聪明”且具有独立意识和自主意识的人工智能无疑会对现有刑法理论和刑罚体系造成巨大冲击。关键词:ChatGPT;生成式人工智能;犯罪类型;刑事责任;刑法应对 中图分类号:DF611 文献标志码:A DOI:10.3969/j.issn.1001-2397.2023.04.08 开放科学(资源服务)标识码(OSID):ChatGPT 等生成式人工智能的出现意味着人工智能的“技术奇点”越来越近,ChatGPT 已经触及了强人工智能的边缘,使我们真真切切地感受到了人工智能技术发展速度之迅猛及其功能之强大。在震撼之余,刑法学者当然不能等闲视之,更不能熟视无睹,而应该与时俱进,保持应有的法学学术研究的敏锐性。当下,我们应对 ChatGPT 等生成式人工智能可能构成的各种犯罪类型,以及可能对传统刑法理论的冲击,作出深度考量和前瞻性思考。从社会科学研究角度分析,任何时代或任何时期中的社会制度和法律制度都是在人类的智力能力范围内设计并构建出来的,当人们制造出0112023 年 7 月第 45 卷 第 4 期 Modern Law Science Jul.,2023Vol.45 No.4了比人类更智能、“聪明”的人工智能时,有关法律制度等顶层设计方案都会甚至应该因人工智能技术的迭代发展而不断优化。但是,我们在对涉及人工智能技术发展的法律制度等顶层设计方案进行优化时,首先应该对相关技术发展已经或有可能引发的法律风险展开全方位研究,然后才能有针对性地找到优化路径并提出和设计相关的优化方案。应该看到,ChatGPT 等生成式人工智能技术的迭代发展具有划时代意义,必将引发人类社会的一次重大革命,同时也会给人类社会的生产、生活等方方面面带来重大影响。ChatGPT 等生成式人工智能技术迭代发展成果的普遍应用,不可避免地会引发包括刑事风险在内的各类法律风险。例如,ChatGPT 可能引发各种新型的煽动类违法犯罪、侵犯知识产权类违法犯罪、诈骗类违法犯罪、侵害数据类违法犯罪、侵犯公民个人信息类违法犯罪,以及教唆用户实施各种传统犯罪等多种违法犯罪的法律风险。相较于人类,人工智能深度学习和自主学习的内容范围更广,所获取的信息更多,所以人工智能与人类之间的信息差(信息不对称)也就此产生。进言之,在 ChatGPT 等生成式人工智能技术面前,人类不再具有“智能”上的优势,反而可能处于被人工智能“欺骗”或“诱导”的劣势地位。就此而言,如果 ChatGPT 等生成式人工智能被滥用,或者人工智能本身产生了自主意识并实施了犯罪行为,那么,将引发一系列棘手的法律甚至刑法适用上的困惑。笔者认为,以 ChatGPT 为代表的生成式人工智能还会得到进一步的发展,不管公众的态度如何,ChatGPT 等生成式人工智能将掀起人工智能领域技术大爆发的浪潮。对于这一无法回避的客观事实,我们应当勇于开拓和面对,从刑法学的视域对 ChatGPT 等生成式人工智能进行研究,识别其可能引发的各类刑事风险并提出刑法规制方案。一、ChatGPT 的概念与刑法研究价值由于 ChatGPT 等生成式人工智能在本质上是一种新兴的人工智能技术,所以在研究 ChatGPT等生成式人工智能所引发的犯罪类型之前,我们必须对 ChatGPT 的具体含义及其所代表的核心技术原理有一定程度的了解。在此基础上,我们可以对利用 ChatGPT 实施的犯罪或 ChatGPT 等生成式人工智能本身可能涉及的犯罪进行解构,进而明确刑法研究 ChatGPT 等生成式人工智能的价值和必要性。(一)何谓 ChatGPT?ChatGPT 是目前世界范围内最先进的人工智能技术之一,同时也是迄今为止功能最强大的多模态预训练模型。经过长达 8 年的技术研发,OpenAI(美国顶级人工智能公司)在 2022 年 11 月正式发布 ChatGPT,并将其定义为人工智能聊天机器人。在短短两个月内,使用 ChatGPT 的用户数量已经过亿,一跃成为历史上用户增长最快的消费应用。除此之外,更加令人震惊的是,ChatGPT 在发布后的第 4 个月便完成了技术迭代,即完成了 GPT-3.5 到 GPT-4 的升级换代。在先前的相关预测中,上述技术迭代至少要在一年后才能实现,而 ChatGPT 利用其强大的深度学习和自我纠偏等能力大大缩短了技术迭代的时间。按照这一技术逻辑进行推理,ChatGPT 的发展和迭代速度将呈指数级111刘宪权:ChatGPT 等生成式人工智能的刑事责任问题研究提高,其智能程度将远超人们当前的所有想象,人类可能就此打开了一个充满无限可能并且极具颠覆性的“潘多拉魔盒”。根据 OpenAI 官网发布的信息,GPT-4 在本质上具有更接近人类的通用智能,具体包括像人一样输出创造协作的能力、像人一样处理分析视觉输入的能力、像人一样处理分析超长文本的能力等。ChatGPT 等生成式人工智能在真正意义上实现了“人工智能内容生成”(AIGC),如文本生成、代码生成、文本问答、论文写作、逻辑推理、情感分析、多语种翻译等功能。红杉资本在美国官网发布的一篇题为生成式 AI:一个创造性的新世界(Generative AI:A Creative New World)中提到,人类擅长分析事物,而机器在这方面甚至做得更好了。人工智能的快速发展可能使人们引以为傲的“智能优势”荡然无存。在 ChatGPT 面前,知识再渊博的人也可能显得十分“无知”,因为 ChatGPT 深度学习的内容是万亿级甚至百万亿级的参数量,这远远超出人类等碳基生物的学习能力和记忆能力。在此基础上,ChatGPT 具备了强大的内容生成能力,极有可能对法律、教育、医疗、金融、编程、咨询、数据处理、传统媒体等多个行业和领域造成巨大影响。事实上,除了 ChatGPT,还有多个国家和科技公司也早已投入到了生成式人工智能的研发工作之中,大有百舸争流之势。在美国的代表性科技公司中,谷歌研发了“Bard”、微软英伟达研发了“Megatron-Turing”、Meta 研发了“BlenderBot3”,以上三个通用大模型都具有千亿级的参数量。在我国的代表性科技公司和机构中,百度推出了“文心一言”、阿里推出了“通义M6”、腾讯推出了“混元”、中科院自动化研究所推出了“紫东太初”、华为推出了“盘古”等通用大模型,以上模型都具有千亿级或者万亿级的参数量。除此之外,英国、俄罗斯、韩国和以色列等国家也都在研发相关的生成式人工智能大模型。由此可见,在生成式人工智能的舞台上并非 ChatGPT 的一枝独秀,而是多个相关通用大模型的百花齐放,只是 ChatGPT 目前发展得最为成熟。ChatGPT 在本质上是基于 GPT 模型(Generative Pre-trained Transformer,生成式预训练转换器)的一种生成式人工智能聊天机器人。GPT 模型采用了名为“Transformer”的人工神经网络和大规模预训练技术,能够自主学习大量自然语言文本的结构和规律,从而实现文本生成、问答、翻译等多种自然语言处理任务。同时,ChatGPT 以大型语言模型(Large Language Model,简称 LLM)为底层技术依托。首先,通过使用者或专门技术人员给出的高质量回答,LLM 会创建各种人类偏好数据,并由此形成“人类表达任务结果”的标注数据。然后,技术人员会训练出一个反馈模型,让 LLM 的原始模型随机回答在第一步中已经具有高质量答案的问题,再由标注人员基于“人类偏好标准”对原始模型的答案进行打分和筛选。当原始模型输出的答案得分较低时,将被要求进行重新学习并再次回答直至分数达到合格标准。通过这种不断循环的深度学习,LLM 的原始模型实现了从无法理解人类表达到完全掌握“人类偏好”的质变,成为能和人类自由对话的大型语言模型,即 ChatGPT。目前,ChatGPT 已经更新到了 GPT-4 的版本,是人工智能发展史上的重大突破。GPT-4 可以输入各种文字和图片,输出自然语言、代码等文本,是一种多模态预训练大模型。但在 GPT-3.5 等211 现 代 法 学 2023 年第 4 期参见冯志伟等:从图灵测试到 ChatGPT 人机对话的里程碑及启示,载语言战略研究2023 年第 2 期,第 23 页。参见朱光辉、王喜文:ChatGPT 的运行模式、关键技术及未来图景,载新疆师范大学学报(哲学社会科学版)2023 年第 4 期,第 182 页。之前的版本中,ChatGPT 只能输入和输出文本,是一种被称为“通用大模型”的单模态预训练大模型。ChatGPT 在极短时间内便完成了由通用大模型向多模态预训练大模型的升级换代,展现出了人工智能的巨大发展潜力和迭代速度。同时,GPT-4 绝对不会是 ChatGPT 的终极版本,融合文本、图像、音频、视频等多模态的大模型是 ChatGPT 接下来发展的必然趋势。据 OpenAI 称,GPT-5 将在2023 年下半年上线。在功能上,ChatGPT 具有强大的自主学习、深度学习、内容生成、自我纠偏等能力。根据 OpenAI 官方发布的数据,ChatGPT 在通识性知识和专业性知识方面已经可以媲美甚至超越人类。但是,仅凭知识储备或者学习参数还不能完全体现 ChatGPT 的“智能”,是否具有推理能力或者创造能力也是判断 ChatGPT“智能”强弱的重要标准。换言之,如果 ChatGPT 能够根据已经深度学习的现有知识推导出具有创新性的新知识或观点,那么,就证明 ChatGPT 具有推理能力或者创造能力,进而可能产生辨认能力和控制能力。通过查找相关资料,笔者发现,ChatGPT 已经具有一定的逻辑推理能力和创造能力,甚至还拥有了一定的情感能力。首先,ChatGPT 在美国律师资格考试“Uniform Bar Exam”、美国法学院入学考试“LSAT”、美国高考“SAT”等大量专业性考试中均取得了十分优异的成绩,分数排名均在所有应试者的前 10%。这证明 ChatGPT 已经十分“聪明”,在某些方面已经基本具有甚至超越人类的智力水平。其次,ChatGPT 还可以理解并处理各种图像及“网络梗图”。例如,给 ChatGPT 输入一张小朋友拿着氢气球的照片并提问“把绳子割断会发生什么?”,ChatGPT 立刻回答“气球会飞走”。这无疑表明 ChatGPT 已经具备了一定的逻辑推理能力。再次,ChatGPT 还可以出色且高效地完成创作诗词、剧本、歌曲等一系列高难度的创造性工作。在这些被 ChatGPT 创作的作品背后,蕴藏着属于ChatGPT 自己的思想。换言之,从 ChatGPT 可以生成世上本没有的新观点或新思想。由此,我们不难得出 ChatGPT 已经具有一定创造能力的结论。