平台化知识生产的逻辑偏误与AIGC下的建设进路_全燕.pdf

平台化知识生产的逻辑偏误与 下的建设进路全 燕 张入迁摘 要 历经数千年的人类知识生产活动，在转入平台化发展模式后走向了系统性变革，其生产主体、生产模式、生产倾向均发生嬗变，新近 的应用进一步为平台化知识生产提供了人工智能生成的可行方案。平台化运行和 的叠加使知识生产的不确定性增强、创新性减弱，对知识社会产生影响，也为知识生产实践带来众多问题：数据化逻辑使知识生产内容发生偏移，知识的本体变得不确定；商品化逻辑使知识生产呈现出货币化导向，屈服于商业利益；选择性逻辑使知识生产定制化，容易导致偏见甚至产生知识谬误。本文从智能主体规制与平台治理两个向度探讨 下平台化知识生产的多路径调适，包括提前制定智能主体的适应性法律框架，建立“知识守门人”制度，建构知识内容的“内容算法”综合审核体系。关键词 平台化知识生产；众包；算法；平台；中图分类号 文献标识码 文章编号（）：作者简介 全燕，广东外语外贸大学新闻与传播学院教授广州；张入迁，暨南大学新闻与传播学院博士生 广州 在过去的几个月里，只要你不是一直生活在网外世界，就有可能听过或看过由 生成的各种文本。是 推出的大型语言模型，它以聊天机器人回答用户问题的交互形式运行，除了能够生成令人信服的诗歌、散文、计算机代码，协助作者从论文中提取摘要外，其开源性还使其能够独立承担更高难度的专业性写作，或者高质量完成专业考试、课程作业等。年 月 日，宣布开放 的模型，与各大商业化平台对接，这标志着平台开始承载（），即人工智能生成内容。当泛内容被集束为专有或专业知识，更高阶的生成式知识在平台的出现也使平台化知识生产问题再度浮出水面。在平台化知识生产历程中，如果说维基百科是人机众包知识，搜索引擎是机器组织知识，那么 就是完全意义上的机器生产知识。随着智能主体的崛起，一部分知识生产活动逐渐脱离现实场景，转入平台化发展，一方面，普通人可以自由地生产知识；另一方面，平台能够通过智能主体控制知识的生产路径和内容。无论是专门型生产，还是社交主导型生产；是人机协作模式，还是纯智能生成模式，平台已经带来了知识生产的革命性转变，触发了知识社会的转型，同时也引起了一系列现实问题。深刻剖析平台化知识生产的特征与规律，发现潜在问题并积极探索建设进路，是 本文是国家社科基金重大项目“人类文明新形态建设中的算法文化引导机制研究”（）、国家社科基金一般项目“深度媒介化时代的算法依赖与风险防范研究”（）的阶段性成果。本文的逻辑脉络，也是研究归旨。一、平台化知识生产的形态演进 世纪之初，美国哈佛大学教授凯斯桑斯坦（）就 已 经 在 信 息 乌 托邦 众人如何生产知识一书中揭示了互联网知识生产的三种形态：一是维基百科，用户可以创建不同主题的条目，所有人都有权力对内容进行编辑、修改，内容质量的控制在初期由用户间的同行审查来实现；二是开放资源软件，个人或者团队承担起贡献者的角色，将自身的知识与想象带入平台，使分散的私人化知识与创造力得到聚集、使用与凸显；三是博客，博客主们可以通过自由的协商，实现知识的生产与共享。不过相比维基百科具备正式与非正式相结合的防范措施，开放资源软件带有过滤聚合机制，具有能够保障知识的质量等优势，博客则缺乏过滤机制，其知识内容会充满主张、观点甚至错误。在这三种形态中，知识生产均由平台中的“自生自发秩序”（）所引导，其有序性由复杂网络环境中用户的无意识协商所型构。随着社交媒体的兴起，平台在继承知识生产“自生自发秩序”的基础上，也在创造更多元的知识生产形态。、微博等的流行使用户可以根据时间线或者标签流的方式进行知识生产，等视频网站的崛起使知识生产拓展出视频化、社交化形态，知识问答分享平台也实现了知识的定制化生产。在社交化、网络化表达的影响下，知识的形态可以是一条、一条评论、一副图片或者一个短视频，更多普通用户参与的大众化知识生产崛起成为令人瞩目的文化现象。与此同时，一种新的“知识政治”悄然诞生，表现为平台利用特定的知识内容、表现形式和操纵知识的方式，试图建立知识主张的权威与合法性。通过引入价格机制，平台承担了知识市场的角色，以设定价格的方式将“隐藏”在用户中的有用知识进行综合，通过付费的方式赋予其权威性，从而操控知识的生产与流通。而当智能技术渗透到平台知识生产的各个环节之后，技术控制就成为重要的规范性手段。平台将可读写的网络升级为语义网，并利用算法机器人，以关键词为坐标生产相应的知识。维基百科中就存在大量算法机器人，能够根据词条的主题来进行知识生产。语义网也由此为平台提供了控制用户生产的手段，通过算法预测用户的喜好与行为，将用户从某个知识节点导航至其他节点，形成隐性控制。而 的横空出世使由数据驱动自动化、定制化的知识生产成为可能。它能够生成创造性知识，并随着使用场景的变换进行差异化的自动决策，例如根据上下文提供判断与建议，或根据用户的追问进行连续回答等。作为一种大型语言模型，需要接受足量的、来自不同语言的数据训练，才能避免在知识生产中出现虚假、错误或者偏见信息，因此在智能主体主导的知识生产中，数据的数量与质量成为主导性因素。与此同时，用户参与到平台的社会网络中，以协作方式创造知识，并从集体智慧中获益。一方面，社交媒体的使用让用户的知识生产同时带有个性化与社会化特征，用户根据自身喜好与认知使用标签标注的形式进行知识生产，随着带标签的开放知识数量增加，平台通过索引和聚类标签对知识进行再组织，从而实现了知识生产与共享的社会化；另一方面，智能技术将社会计算升级到语义社会计算的层面，将知识以语义的形式编码。如此一来，平台控制了知识来源与生产流程，在算法的驱动下，通过对群体智慧的利用降低数据收集和知识创造的成本。在这个过程中，知识生产由用户与智能主体共同承担，群体智慧不再是来自群体的共识决策，而是每个个体的思想和决策在语义和逻辑上的聚合。至此，历经数千年的人类知识生产活动在平台社会中延伸出新的机制，它是多元知识主体的平台生产实践，也是技术和商业双重影响下知识生产的社会化过程。二、平台化知识生产的结构性特征在传统认知中，知识生产活动一般存在于特定场所，通过具体情境里人与人之间的交流协作，或在人对客观世界的认知与改造中完成。平台的出现打破了这种格局，它并非是对已有知识生产平台化知识生产的逻辑偏误与 下的建设进路类型的平行迁移，而是使其发生了系统性变革，在知识生产主体、生产模式、价值呈现方面构成了新的结构形态。（一）知识生产主体的智能形态自 以来，算法驱动的智能主体开始嵌入到知识生产的权力框架中，而 的崛起使智能主体作为知识生产者的角色开始通过平台为用户所熟知。智能主体被定义为一种“存在于计算机操作系统、数据库和网络等具有现实意义的数字世界中，并代替人们完成指定任务的自治主体”?I1，它包含算法程序与机器人，具有自治性、智能性、反应性、预动性和社会性的特征。?I2智能主体的迭代升级使知识生产从人机协作、机器人相互协作发展到机器人开始独立承担一系列高难度任务。在人机协作模式中，维基百科等专业性平台很早就将算法纳入知识生产活动中，包括挖掘数据、自动导入内容、检查拼写、创造跨语言链接、识别与撤销故意破坏的行为、强制执行禁令，等等。进入 阶段，智能主体逐渐突破知识生产中人的垄断性地位，与用户共建人机交互平台。维基百科的建议型机器人 能够通过开放式的门户网站与人类进行互动并提供个性化建议?I3；顾问型机器人 能够收集互联网中的科学性信息，形成一个待完善的科学主题列表，用户可以根据其提供的列表进行词条撰写?I4；行政型机器人 会删除有害知识、恢复词条，当用户行为过于恶劣时，会对其进行封禁?I5，等等。用户可以在全程与上述算法机器人交流的情况下完成词条的编辑、修订。拥有自主学习能力的算法机器人会自动进行数据挖掘与信息收集，并对相应指标进行计算，从而发现数据背后的规律，进一步对相应的理论进行阐释，对待验证命题进行验证。?I6亚伯大学与剑桥大学合作开发的医学机器人科学家“夏娃”，就可以根据数据库中的化合物进行自动化筛选，并能自动提出、测试、修正假说，自主完成医学研究。?I7此外，算法机器人之间协作展开知识生产活动也很普遍。牛津大学互联网研究所米莱那茨维特科娃等专家通过对维基百科机器人的十年监测，发现了一个令人惊讶的现象：机器人之间关于词条修改的平均回复次数为 次，远远大于机器人回复用户的 次平均值。?I8研究发现，不同语言版本中的维基百科机器人协作频率不同，机器人在较小语言版本中活跃程度更高，协作更容易达成，冲突也更易发生。并且，机器人之间的协作与冲突也会发生在跨语言的平台中，例如在乌兹别克斯坦、爱沙尼亚、白俄罗斯、阿拉伯语等语言类别的维基平台中，一些引发争论的词条与文章就是由跨语言版本的机器人在互相协调的过程中完成。?I9在 中，机器人合作的生产模式有别于维基百科，更多是通过僵尸网络来进行协作，从而达到影响、控制公共话语的目的。?20智能主体进行知识生产的方式是将不同的机器学习模型应用于大数据，并将数据转化为有价值的知识，实现了知识创造的自主性和自动化。?21它能够通过模仿个人叙事的方式建立一定的人机关系，人们也倾向于把智能主体当成一种社会实体并建立社会关系，从而获得某种社交体验。一定程度上，智能主体在语言和表达方式上会表现得比人类更加灵活，这也使内容的深度伪造、对用户的欺骗与情感操纵成为可能。?22以 为例，它通过点对点聊天的模式为用户生产定制化、个性化知识，在这个过程中，还能够根据用户的要求以不同的角色进行交流，但其在内容真实度上存在着一定的偏差，虚假的内容通常以流畅但并不真实的文本出现。互联网巨头 推出的 模型正是因为所生成的知识存在太多虚假内容，导致其在 天内被下架。与人类生产者相比，智能主体所承担的角色较为单一，它被局限在特定的领域，例如特定的平台、功能、话题、标签中，按照固定的脚本进行知识生产，但在即时性、精确性、准确度等方面具有较大的优势。它们“通过严格而无情地执行算法，规范语言、文化、价值和习惯皆不相同的人类编辑行为”，?23在契合平台生产逻辑的情境下，与用户通过关系网络有机团结为“知识集群”（）?24，形成了与人类共同主导的知识生态系统。（二）知识生产的众包模式知识众包是平台化知识生产的另一革命性转 年第 期变，它是一种“新型知识创造模式，是利用分发众包的模式将知识的创建进行分化，加速知识裂变的过程”。?25该模式由发包方、中介、接包方三个要素构成，当平台为发包方时，将直接发起知识生产的任务，若发包方是专业众包平台，则作为中介承接公司或者个人雇主所委托的任务，并根据雇主需求进行任务分配。用户作为接包方，会根据自身的情况加入到特定的任务中。知识众包存在两种模式，一种是付费模式，公司、机构或者个人通过中介平台将任务分包给用户有偿完成。例如在亚马逊的土耳其机器人（）、美国科技研发网站 、国内的猪八戒网等众包平台上，用户可以通过做任务的形式提供知识并获得酬劳，随着完成的任务量逐渐增多，用户会被赋予更高的等级和权限。此外，用户也可以通过其他社会化平台提供的付费模式来接包，例如参与微博与百度的付费问答等。另一种是无偿模式，平台扮演发包方角色，将知识生产任务直接推送给用户。国内知名平台知乎虽定位为知识生产社区，但其本身并不承担知识生产的责任，而是将话题推送给用户。用户通过自发的互助协作进行知识生产，从点赞、转发和评论等积极性反馈中获得认同感与归属感。无偿模式中的知识生产者被隐藏在了平台算法程序之中，从中获益的雇主或消费者无法知道他们的存在。在专门的众包平台，知识生产活动由发包方任务驱动；在大众化平台，知识生产活动则是由用户需求来驱动。在后一种模式中，算法通过大数据分析用户讨论的话题获知需求，并将相应需求的标签进行推送。标签作为“数据流”和平台算法在屏幕前的“技术化身”，可以作为一个主题或者内容的“索引”装置。?26用户通过标签的关键词找到感兴趣的议题，跳转到对应的场域中进行协同生产，并集结为流动的“知识集群”。标签也成为连接平台各个场景的纽带，为平台架构起一个由社交与知识生产相互混合的数字实践空间。人们在标签所开辟的数字空间中形成知识生产