ChatGPT热潮中的冷思...：警惕信息工具用于认知对抗_许鑫.pdf

72|文化艺术研究2023 年第1 期ChatGPT 热潮中的冷思考：警惕信息工具用于认知对抗*许鑫刘伟超（华东师范大学经济与管理学部信息管理系，上海200433；中国人民武装警察部队海警学院情报侦察系，浙江宁波315000）摘要：ChatGPT 作为一款智能信息工具，不仅可以被用于处理客观信息，也隐藏着被用于实施主观认知对抗的相应可能。从技术逻辑、政治逻辑角度对 ChatGPT 被用于认知对抗的可能性进行初步分析，并对 ChatGPT 被用于认知对抗的潜在功能与结果进行思考，主要分为四个方面：基于“连接”功能，重构人机交互影响能力；基于“画像”功能，发挥目标用户分析能力；基于“挖掘”功能，提升对抗内容生成能力；基于“省力”功能，提升信息高效投送能力。关键词：ChatGPT；认知对抗；人工智能中图分类号：G201 文献标识码：A 文章编号：1674-3180（2023）01-0072-04作为一款强大而貌似中立的智能信息工具，ChatGPT 的技术属性与政治属性天然交织在一起，不仅可以被用于处理客观信息，也隐藏着被用于实施主观认知对抗的相应可能（参见图 1）。从技术逻辑而言，ChatGPT 对人类认知的关注显著增加，相较于其他人工智能模型的核心技术优势，提升了精准理解人类思维与认知的能力，具体体现为，把用户的认知结构理解为计算关系，将认知过程视为计算活动，从而将认知理解与数据计算深度融合1。ChatGPT 在知识体系上，继承了信息科学和认知科学的理论方法，也融合了计算科学、数据科学和基础数学等学科的研究成果；在技术支撑上，嵌入了人类反馈强化学习，因而具备了理解上下文等认知的先进特征。基于注意力机制的Transformer 模型也使得 ChatGPT 的训练质效更加优化；在人机关系上，改变了用户传统使用习惯，机器通过在交互中模拟人对信息的心理认知过程，一方面使用户主动参与到算法建构中，另一方面也使算法能以更人性、更自然、更个性化方式对用户认知施加影响。从政治逻辑而言，随着美国对华战略竞争与遏制日益升级，在意识形态布势、舆论宣传塑势等作者简介：许鑫，教授、博士生导师，主要从事信息分析、情报技术研究；刘伟超，副教授，主要从事情报对抗、认知情报研究。*基金项目：本文系国家社科基金军事学项目青年项目“面向智能化联合作战指挥的认知情报学研究”（项目编号：2021-SKJJ-C-045）的阶段性研究成果。ChatGPT 热潮中的冷思考：警惕信息工具用于认知对抗|73认知对抗领域愈发明显。从美国对外认知渗透的发展历程来看，依靠技术专家、资本家以及权力精英（政治精英和军方精英）的结盟运用新兴技术赋能认知攻防是其惯用手段。第二次世界大战期间，美军将传单和广播等信息手段引入心理战领域；越南战争期间，美军利用卫星电视这一新媒介，通过荧屏增加信息输出量以提升认知影响效果；以海湾战争为起点、伊拉克战争为发展，美军重视运用互联网为其战争宣传造势；随着社交媒体的全球化兴起，美军又巧妙运用 Facebook、Twitter 等传递信息，在世界各地推动“颜色革命”。2，3近年来，美军将“心理战”更名为“军事信息支援行动”，进而与注重技术的电子战、网络战等作战能力统一划归为信息作战，也反映其借助信息流量主导认知走向的变革，其目的就是使认知对抗更好地获得边际突破和技术牵引。这也是美军在“制信息权”后提出“制脑权”的重要原因。ChatGPT 作为美国研发的聊天机器人，不仅时常在对话中“站在美国立场”，甚至能把当前美国的“政治正确”玩得明明白白，这也被越来越多人所诟病。OpenAI 创始人兼 CEO 山姆阿尔特曼（Sam Altman）在 2022 年 12 月 5 日关于“该系统将确保符合民主价值观”的言论，也加深了业内人士关于其是否会成为宣扬美式价值观“利器”的担忧。就 ChatGPT 可能被用于认知对抗的潜在功能与结果而言，笔者认为，主要有四个方面。一、基于“连接”功能，重构人机交互影响能力ChatGPT 可被用于认知对抗的首个功能，是其提供的互动交流型、拟态环境型等人机“连接”，这将给运用信息工具对人类认知开展交互影响带来颠覆性重构。所谓互动交流型“连接”是指，ChatGPT的核心竞争力来自基于人类反馈的强化学习（reinforcement learning with human feedback,RLHF）,帮助其信息产出和人们的认知、常识、需求保持一致。这就使得 ChatGPT 的聊天体验跃升，从传统的“提问搜索”型关键词匹配逐渐过渡到语义匹配，人机连接更像一种跨物种的自然交流。虽然从传统的信息科学视角来看，ChatGPT 所提供的互动交流型“连接”，能够有效克服信息单向传输所造成的认知狭窄。但作为信息强势一方，ChatGPT 通过自身的互动机制，依旧可以基于目标用户的需求变化、态度反应、思想波动等，在快节奏、高效率的沟通中不断调整策略，深层干预目标用户的认知。图 1ChatGPT 的自我分析截图74|文化艺术研究2023 年第1 期由于上述超乎预期的交互体验，ChatGPT 超过 Instagram、TikTok，成为史上用户数增长最快的消费者应用，在 2023 年 1 月，其月活跃用户数已达 1 亿。此外，微软也在 2 月初推出由 ChatGPT 支持的最新版本必应搜索和 Edge 浏览器，同时宣称旗下的 Office、Azure 云服务等产品也将整合升级。考虑到用户增长趋势与微软产品的市场占有率，ChatGPT 及其迭代产品很有可能成为全民化、普及化的新一代操作系统平台及应用软件，也就具备了在人们大脑中建构起与现实世界相对应的认知镜像。正如微信为人们建构了基于但不同于现实社交关系的虚拟“朋友圈”，这个认知镜像就是传播学奠基人李普曼提出的“拟态环境”。在这个环境中，通过对核心算法、数据来源、信息本身、呈现方式、时间节点等进行有计划地筛选编辑，就可以营造出倾向性认知场景，进而对目标用户的认知与判断进行潜移默化的影响。换言之，ChatGPT 提供的拟态环境型“连接”，实际上就是为信息解读提供独有的解释框架，最终针对用户进行了“认知再编码”。二、基于“画像”功能，发挥目标用户分析能力ChatGPT 能够基于用户需求和上下文进行互动，依赖的一项重要功能是给用户“画像”：首先，搜集目标用户当前及历史使用所留下的数据痕迹，通过技术处理进行分析，可初步得出目标用户的特征。进而，将目标用户特征与后台用户标签比对，可洞察目标用户的兴趣爱好，将目标用户的“画像”渐渐地描绘清楚。最后，通过更加丰富的网络信息行为数据，包括网站监测和网络浏览的数据、社交数据和地理追踪数据等，绘制出更完整清晰的目标用户“画像”。目前，尚未有 OpenAI、微软运用 ChatGPT 进行用户画像的公开报道。但微软公司研究院曾和剑桥大学共同合作，对同样红极一时的 Facebook 用户数据痕迹进行分析。该研究证明，通过对个体网络空间留下的海量信息分析，能够精准预测用户在一定范围内的个人特性，包括年龄、性别、种族、性取向、智力水平、情感稳定性、宗教信仰、生活满意度和政治倾向等方面。由此推断，ChatGPT 通过精准、多元的数字画像功能，将极大提升对目标用户的分析能力和认知攻心能力。三、基于“挖掘”功能，提升对抗内容生成能力ChatGPT 作为人工智能生成内容技术（AI-Generated Content,AIGC）的最新研究成果，不仅可以编文案、写代码、创作诗歌，甚至还能撰写学术论文，预示其在文本创作乃至未来的影像编辑领域具有巨大的潜力，将极大提升认知对抗中的内容生成能力。ChatGPT 的内容生成能力来源于对海量数据的“挖掘”功能，其模型参数量在迭代中呈爆发式增长：2018 年发布的 GPT-1 的参数量有 1.17亿，2019 年发布的 GPT-2 的参数量就升至 15 亿，而 2020 年 5 月发布的 GPT-3 参数量更是达到 1750亿。结合自监督学习技术，ChatGPT 无需人工做数据标注，就可以对网络上的海量公开文本数据进行模型训练，从而高效地形成大量知识模型与内容。这种高效内容生成能力在认知对抗中的价值在于：一是通过算法操纵信息流量，在短时间内形成舆论热点、聚焦社会共识，推动形成“信息瀑布”，有利于拓展认知对抗的可及性与到达率，进而使目标用户的认知形成固化，最终实现多层次、多主题、全民化的社会认知对抗。二是通过利用 AI 技术对信息产品进行人为设计和投送，可以使认知攻防信息在很长一段时间内持续并隐蔽地发挥影响力。ChatGPT 热潮中的冷思考：警惕信息工具用于认知对抗|75四、基于“省力”功能，提升信息高效投送能力ChatGPT 凭借操作简单、即问即答、极高效率等优点，使用户在使用过程中大呼省力。而所谓“省力原则”，反映在传统情报学研究中就是著名的齐普夫定律，也就是指人类总想以最小的代价获得最大的收益，因此人类为了节约有限的认知资源，对信息并不总是进行理性的全面分析，反而常常采用简单有效的认知策略进行加工、判断与决策。对此，著名的计算机与信息学家、人工智能创始人之一、诺贝尔奖得主赫伯特A.西蒙（Herbert Alexander Simon）曾有过一句著名的论述：“信息并不匮乏，匮乏的是我们处理信息的能力。我们有限的认知力是组织活动的主要瓶颈。”4为避免认知资源耗尽，人们在情报认知中容易无意识地使用省力原则。在认知对抗中，省力原则的背后是 ChatGPT 所展现的直观信息，成为用户理解相关问题事件的解释框架，在认知中扮演“地基”“支架”“指示牌”等个性化角色。换言之，ChatGPT 基于省力原则，可改变用户信息检索乃至思考问题的方式，提升认知对抗中信息高效投送能力。这也与舆论媒介的议程设置功能不谋而合，即：在多数情况下，告诉受众该怎么想时，可能并不成功；但告诉受众该想些什么时，却会惊人地成功。小结2022 年 11 月 30 日正式发布的 ChatGPT，被微软、谷歌等互联网巨头视为新一代技术革命。然而从技术发展的历史角度来看，任何进步都隐藏着相应的代价。强大而貌似中立的 ChatGPT，究竟是智能社会之钥，还是潘多拉魔盒？也许都不对，也许兼而有之。正如兰登温纳所言，我们称之为“技术”的东西，在我们生存的世界中正在成为构建秩序的一种途径。很多技术设备和体系在日常生活中的重要性就在于它包含着使各种人类活动趋于秩序化的各种手段。5在 ChatGPT 的人机交互中，核心算法通过人类真实认知机理的训练，可对认知对抗效果进行即时评估：一是目标对象关于信息传播内容的认知和行为反应，二是目标对象更深层次信息需求的诉求。在业界普遍认为国外 ChatGPT 的领先优势有望在一段时间内延续时，警惕由数据、算法、算力等综合优势形成的智能霸权，思考以信息为表、认知为里的有机结合形成“控脑武器”，既是防止技术突袭与技术陷阱的学理思考，更是贯彻落实党的二十大报告中“牢牢掌握党对意识形态工作领导权，全面落实意识形态工作责任制，巩固壮大奋进新时代的主流思想舆论”的应有之义。参考文献：1刘伟超，周军.认知情报学研究进展J.情报资料工作，2020（6）.2金苗.国防部 2.0：美军社会化媒体对外传播路径J.对外传播，2010（10）.3严兴平,张喜燕.美军战略传播的新型手段：社交媒体J.军事记者，2012（2）.4Simon,H.A.Rationality as Process and as Product of ThoughtJ.American Economic Review,1978(2).5李志红.关于技术自主论思想的探讨：访兰登温纳教授J.哲学动态，2011（7）.（责任编辑：冯静芳）114|STUDIES OF CULTURE AND ARTbe called self-dimension reduction.In a sense,it is more important to examine and reflect on the cultural phenomenon of Remembr