论生成式人工智能服务提供者...任——以ChatGPT为例_徐伟.pdf

文章编号：（）-（）收稿日期：基金项目：浙江省哲学社会科学规划课题（）“技术成果版权法保护研究”作者简介：徐伟，上海政法学院佘山特聘岗位教授，法学博士。指的是使用生成式人工智能（）技术生成的内容，而不是由人类作者创作的内容；它被认为是继专业生产内容、用户生产内容之后的新型内容创作方式，可以在创意、表现力、迭代、传播、个性化等方面，充分发挥技术优势。，（）：，-，：，：（），：最后访问日期：年 月 日。论生成式人工智能服务提供者的法律地位及其责任 以 为例徐伟（上海政法学院上海司法研究所，上海 ）摘要 生成式人工智能行为在技术上的特殊性，对侵权责任带来了一系列影响，包括行为主体的复杂化、加害行为的智能化、损害后果的不确定、因果关系的多元化和过错认定的新颖化。生成式人工智能服务提供者并非搜索链接服务提供者，也不宜被认定为网络内容服务提供者，而应是一种新型网络服务提供者。生成式人工智能服务提供者过错的认定需从生成维度的过错和移除维度的过错来分别加以判断。在生成维度，生成式人工智能服务提供者对自动生成的内容原则上不负有事前审查义务；在移除维度，应基于事实层面生成式人工智能服务提供者是否能以合理的成本和较高的准确度来避免侵权内容的再次生成来决定其是否负有移除义务。鉴于技术仍处于快速发展中，生成式人工智能服务提供者侵权责任的判断标准也需基于技术的发展而适时作出调整。关键词 生成式人工智能服务提供者；算法；通知移除 ：，-，-：，-：；中图分类号：文献标识码：前言 是一项引发社会普遍关注的人工智能应用技术。在技术领域，被视为人工智能发展历程中的一项里程碑式的突破，因为较之过往的人工智能应用，首次实现了语言智能的“智慧涌现”。目前 已开放应用程序编程接口（，），可预见的是，未来会有大量 中内嵌 ，人工智能生成内容（，）全面融入社会生活的时代即将到来，生成式人工智能服务提供者也将成为又一“关键信息基础设施”。尽管生成式人工智能为人 年第 期 法律科学（西北政法大学学报）DOI:10.16290/ki.1674-5205.2023.04.013类带来了诸多便利，但人工智能生成内容的显著特点之一是“一本正经地胡说八道”。当然，随着人工智能性能的提升和错误率的降低，用户会越来越习惯、依赖和信赖人工智能提供的回答。这意味着，一旦人工智能生成不当内容，其产生的负面后果不可估量，因此，法律上对生成式人工智能加以规范，便成为十分紧迫的事情。目前，国家互联网信息办公室也已发布 生成式人工智能服务管理办法（征求意见稿），旨在“促进生成式人工智能技术健康发展和规范应用”。本文拟探讨当人工智能生成内容侵害他人合法权益时，相关侵权责任如何认定的问题。具体而言，生成式人工智能服务提供者是否应为此承担侵权责任？在何种条件下需承担侵权责任？一、生成式人工智能行为的特殊性对生成式人工智能服务提供者侵权责任的分析，须建立在生成式人工智能行为特点的基础上，故有必要先说明该行为的技术原理及其对法律的影响。（一）特殊性的来源：生成式人工智能的技术原理本文所称“生成式人工智能”，是指基于算法、模型、规则等，在没有人为直接参与的情况下，自动生成文本、图片、视频等内容的技术。以 为例，其采用的是大规模语言模型预训练的技术方式来实现文字内容的自动生成。生成式人工智能的主要特点如下：第一，通过算法等自动生成内容，该内容不需要人工参与，可能因人而异、因时而异。人工智能具有自主、无法预测和不确定性等特点。这一特点加大了对人工智能生成内容进行控制的难度。但需注意的是，人工智能生成的内容并非完全无法控制，其内容仍存在价值取向，可通过多种方式来“教导”。比如，有用户让 -分别给特朗普（）和拜登（）写赞美诗，拒绝了给特朗普写诗，但为拜登写出了华丽的赞美诗。第二，影响人工智能生成内容的因素包括算法、算力、数据集、用户等。生成何种内容既可能源于算法设计者有意为之，比如通过人工标注来“教导”不得有种族歧视言论，也可能源于用于训练 的数据集的影响，比如政治立场“左派”的数据集会“教”出体现左派观点的内容，还可能源于与用户的互动而“习得”的内容。用户对生成内容所作的评价会影响 的后续回答。公司鼓励用户在发现 -生成的内容错误时，或生成内容与用户提问毫不相关时，通过“大拇指向下”按钮来提供反馈。第三，生成式人工智能有时会生成似是而非的不准确内容。公司在介绍 时已表示，-“有时会给出似是而非（）的不准确或者荒谬的回答”。这可能对他人权益造成损害。例如，在回答问题时，错误地将澳大利亚的一位地区市长布莱恩胡德（）列为一起海外贿赂丑闻中的犯罪方，并声称其在监狱服刑。受害人开始担心自己的声誉，并表示如果 不纠正 -论生成式人工智能服务提供者的法律地位及其责任 有研究表明，人的判断会受 回答的影响。参见 或将影响人类的道德判断，载澎湃网，：，年 月 日访问。写诗大赞拜登：是造福人类还是洗脑工具？，载南方周末网，：？，年 月 日访问。就目前而言，作出回答所依赖的数据集并不是实时出现在互联网上的内容，而是预先收录到数据集中的内容。（，），：，（，）生成式人工智能需要大量灵活分散流动的“劳动力”从网络边缘为模型训练做出贡献，从而形成网络效应；就此而言，每位用户都是生成式人工智能的“训练师”。参见胡凌：互联网的开放与封闭及其法律回应，交大法学 年第 期，第 页。根据 的隐私政策，用户与 间的对话会被用于提升系统性能。载 网，：-，年 月 日访问。，（，），：，（，）关于他曾因行贿入狱的虚假说法，他将起诉 。这可能成为世界上首例针对 内容的诽谤诉讼。第四，关于生成内容的权属。学界关于人工智能生成内容是否受著作权保护长期存在争议。但根据 使用协议，在法律允许的范围内，在用户遵守使用协议（）的前提下，公司赋予用户在内容方面 的所有权利和利益。可在必要的情况下使用内容来提供和维护服务、遵守法律和执行公司政策。用户对内容承担责任，包括确保内容不违反法律和本用户协议。同时，根据“内容政策和协议”（），用户拥有（）其与 互动产生的内容的权利，包括复制（）、销售（）和作为商品（）的权利。这与国内既有的案例并不相同。对于人工智能生成物，国内的服务提供者往往更希望将相关权利归于自己享有，而非归于用户。第五，生成式人工智能服务提供者在技术层面有能力对侵权内容采取删除等措施。根据 的使用协议：“如果你认为你的知识产权受到侵犯，请发送通知到如下地址。我们会删除或断开涉嫌侵权的内容，并会终止重复侵权者的账户。”公司提供的投诉邮箱是 ，且涉及版权侵权的投诉要求与美国 数字千年版权法（，）第 （）（）条的要求一致。可见，公司自认其受 调整，可适用避风港规则。（二）特殊性的影响：生成式人工智能对侵权法律带来的冲击以 为代表的生成式人工智能对侵权责任制度产生了广泛影响，具体如下：.行为主体的复杂化。传统的网络侵权往往存在两方主体（网络服务提供者和受害人）或三方主体（网络服务提供者、网络用户和受害人）。前者指网络服务提供者直接实施侵权行为的场合，后者指网络用户利用网络服务实施侵权行为的场合。在生成式人工智能场合，行为主体的复杂化主要表现在：（）生成式人工智能体是否具有法律上的主体资格，能否成为侵权责任承担者。关于人工智能体的主体资格，学界已有很多讨论，支持者和反对者皆有之。（）数据权利人、网络用户是否是侵权行为人。在传统网络侵权中，是网络服务提供者还是网络用户直接实施了侵权行为，一般不难判断。但在生成式人工智能场合，这一判断变得困难。人工智能生成内容是基于算法、算力、数据集、人机交互而生成的内容。由于算法的复杂化以及可解释性不足，这些因素对最终生成的内容发挥了怎样的作用“说不清道不明”。就事实层面而言，不仅算法设计者，而且数据集权利人、用户都可能与侵权内容的最终生成之间存在一定的原因力。.加害行为的智能化。传统网络侵权中的加害行为是人的行为。生成式人工智能中的加害行为，并非人的直接行为，而是人工智能体的“举动”，人并不直接参与内容的生成。尽管在根本意义上，人工智能体生成的侵权内容仍是作为算法设计者的人引发的结果，但它与传统侵权不同之处在于，设计者在设计算法程序时无法预见某一具体加害行为的出现，即设计者并不知晓人工智能会具体生成何种内容。对于此类“错误必然会发生，但无法预见何时何地会发生何种错误”的情形，是否要采用类似于产品责任、机动车交通事故责任等特殊 年第 期 法律科学（西北政法大学学报），（，），：，（，）根据使用协议，用户输入的内容和 输出的内容统称为“内容”。，（，），：，（，）智能画图工具 也有类似的条款。根据“服务协议”，在现行法律允许的范围内，用户在使用服务时所创建的所有图像归自己所有；但这不包括对他人图像进行处理的情况，这些图像仍归原创建者（）所有。，（，），：，（，）根据百度文心大模型文档“服务协议”，“百度公司保留对以下各项内容、信息完全的、不可分割的（包括但不限于）所有权、知识产权和 或其他合法权益：（）用户向文心大模型 服务平台提供的与该服务相关的任何信息及反馈。”载文心大模型网，：，年 月 日访问。支持者认为，“无论是弱人工智能或强人工智能，都具有某种程度或方面的法律主体资格，只有明确其法律主体资格，才能寻求其相关权利、义务和责任等问题的解决方案”。参见范进学：人工智能法律主体论：现在与未来，政法论丛 年第 期，第 页。反对者认为，“弱人工智能时代，为回应社会现实、助推司法实践，应将人工智能定位为法律客体”。参见马开轩、刘振轩：人工智能法律主体地位的法哲学反思，学习论坛 年第 期，第 页。侵权责任规则来归责，值得探讨。.损害后果的不确定。生成式人工智能因人而异、因时而异的特点决定了侵权内容出现的不确定性，在某一次对话中出现的侵权内容未必在其他对话中出现。这与传统侵权不同。传统网络侵权虽然也存在千人千面的个性化推送（如新闻推送），但推送所指向的具体内容本身（如某一新闻报道的具体内容）并不会变化。人工智能生成内容变动不居的特点导致侵权内容造成的损害后果难以判断。.因果关系的多元化。人工智能生成的侵权内容是算法、算力、数据集和人机交互等众多因素共同作用的结果。但因算法的复杂性，这些因素对侵权内容的生成发挥了多大的作用，在客观事实层面难以判断。虽然可以认为这些因素中只有算法是关键，数据集、人机交互只是被用于生成内容的“原材料”，无需对这些原材料在侵权法上作评价，但现实的复杂性在于，算法也可能被用户利用，即用户为了导致某个侵权结果而有意识地“教导”算法，最终导致算法生成了侵权内容。比如，一种“越狱”技巧允许用户通过创建一个名为 的 的另一个自我（）来规避算法伦理规则，该“自我”可以回答一些原来不被算法允许的问题，比如支持暴力和歧视。因此，算法黑箱带来了因果关系认定与解释的难题。.过错认定的新颖化。在传统网络侵权中，尽管有学者提出事前过滤义务，但主流意见是，网络服务提供者对用户发布的内容不负有一般性审查义务。因此，传统网络侵权中的过错认定，主要以网络服务提供者知道侵权内容而未采取措施为标准，辅之以侵权明显时网络服务提供者应当知道这一标准。在生成式人工智能场合，除非算法设计者有意期待某些侵权内容的生成，否则难以采“应当知道”来认定其过错。至于通知移除规则，虽然 公司自认在知识产权领域适用避风港规则，但从技术原理来看，算法设计者是否能在合理成本的前提下通过技术手段精准删除侵权内容似乎并不明朗。此外，由于生成内容侵权的不可避免性，算法设计者是否仍应适用过错责任原则，也存在讨论的空间。二、生成式人工智能服务提供者的法律地位鉴于我国现行法并未赋予人工智能体主体资格，本文以此为前提展开论证，即将责任主体聚焦于生成式人工智能服务提供者。为明确其侵权责任，首先需明确生成式人工智能服务提供者的法律地位。综合来看，我国现行法中规定的网络服务提供者类型包括自动接入传输服务提供者、自动存储服务提供者、搜索链接服务提供者、存储空间服务提供者、互联网信息服务提供者、电子商务平台经营者等。此处以 为例对生成式人工智能服务提供者的法律地位展开分析。（一）生成式人工智能服务提