被重塑的世界？ChatGP...下人工智能与国家安全新特征_黄日涵.pdf

2023 年第 4 期 82 被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征*黄日涵 姚浩龙 【内容提要】ChatGPT 作为人工智能发展新的里程碑，在语言表达、自我强化等方面表现突出，展现出生成式人工智能的广泛运用前景，在多领域引起广泛关注，以 ChatGPT 为代表的生成式人工智能将会可预期地改变国家安全态势。在意识形态安全层面，对生成式人工智能的恶意运用使渗透方式更加多元，渗透效能更加显著。在国际舆论层面，对生成式人工智能的大规模使用将进一步使舆论场复杂化。在国家实力发展层面，生成式人工智能将继续拉大国家实力差距，国内公共权力与权威进一步分散。在军事安全层面，生成式人工智能赋能战场信息收集和战场指挥，国家之间的认知战对抗能力重要性日益提升。在法律规范层面，当前生成式人工智能的责任主体不明晰，现有法律法规难以约束基于该技术开展的犯罪行为。在社会稳定方面，生成式人工智能冲击劳动力市场，重塑人才发展模式。面对新技术冲击下急剧变化的新安全态势，应建立更多元协同的创新和应用体系，在国际上共享发展成果，完善法律体系，推动该技术服务于国家利益发展与人类命运共同体的构建。【关键词】人工智能；国家安全；ChatGPT；生成式人工智能；技术革命【作者简介】黄日涵，中央民族大学新闻与传播学院教授、华侨大学国际关系学院教授（北京 邮编：100081）；姚浩龙，华侨大学国际关系学院硕士研究生（厦门 邮编：361021）。【DOI】10.14093/10-1132/d.2023.04.004【中图分类号】D815.5；TP18【文献标识码】A【文章编号】2095-574X（2023）04-0082-25 *本文系国家社会科学基金重点项目“基于一带一路理念传播视角下的新媒体时代增强中国国际话语权研究”（项目编号：21AGJ007）的阶段性成果、2019 年中宣部宣传思想文化青年英才项目的阶段性成果。作者感谢快手原 AI 技术副总裁郑文博士及国际安全研究三位匿名评审专家的专业意见，文责自负。2023 年第 4 期 83 引 言 科技竞争愈发成为大国战略竞争中的重要一环。新兴国家的技术进步会影响国际关系中的权力分配，其创新活动可能会对主导国家产生外部性影响，因而任何国家在科技竞争中的突破都将有助于该国在激烈的国家竞争中占得优势。人工智能作为近年来前沿科技的代表之一，其发展态势对国际社会的影响逐渐凸显：无论是美国对中国开展的一系列科技战，还是美日韩等国围绕限制中国科技发展而建立的技术同盟，都展现出科学技术竞赛的特征。特别是 2022 年年底现象级应用 ChatGPT的出现，再次彰显出科技竞争的紧迫性。作为由 OpenAI 公司推出的生成式人工智能（Generative AI），ChatGPT 具备“强交互”“强理解”“强生成”等特点，人们可以通过与 ChatGPT 对话进行快速检索信息、撰写论文摘要和编写计算机应用程序等多种操作。这些相较过往人工智能出现的突破性能力，让人们看到了研发通用型人工智能（Artificial General Intelligence）的曙光。该类人工智能是具有普适性、自主性、创造性和学习能力的人工智能系统，有望成为推动人类社会进步的重要驱动力。微软董事长兼首席执行官萨蒂亚纳德拉（Satya Nadella）惊叹，ChatGPT将是未来改变生产力和工作方式的杀手级应用。从国家安全治理来看，人工智能在认知域和物理域的应用的确能提升国家在安全领域的治理水平，但以 ChatGPT为代表的基于大数据模型下快速发展的人工智能，短时间内大幅扩展了其在国家安全领域涉及内容和领域的宽度和深度，对此类人工智能的广泛使用将深度改变国家面临的安全态势。近年来，国内外有关人工智能与国际关系发展的讨论逐渐增多，关注的具体议题逐步转向人工智能技术与国家权力之间关系等国际政治和国家安全方面的议题。从当前研究看，学者们围绕以 ChatGPT 为代表的人工智能开展政治类议题讨论主 孙海泳：特朗普政府对华科技战略及其影响与应对，国际展望2019 年第 3 期，第 79 页。金观平：营造通用人工智能发展创新生态，经济日报2023 年 5 月 9 日，第 1 版。“Satya Nadella on ChatGPT:Killer App Thatll Transform Productivity,Future of Work,”Fortune India,January 19,2023,https:/ 年第 1 期，第 5 页。被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征 84 要包括以下几种：一是人工智能技术发展与国家间权力变化间的关系。随着人工智能成为新一轮产业革命的核心力量，其被认为是未来创新范式的“技术基底”，人工智能研究成为各国争夺科技竞争权的抓手之一。因此，当前技术大国在人工智能研究方面的较量会导致国家间竞争态势愈发激烈，国家权力的组成发生变化并进一步打破原本稳定的权力均势结构，国家的战略行为发生改变，发达国家与发展中国家之间的差距将会逐步放大。二是人工智能与国家安全态势复杂化。部分研究认为，对人工智能的广泛运用会使国家面临的安全态势更加复杂，人工智能在军事装备上的应用部分改变了战争形态，美西方国家发动地区性战争的意愿更加强烈。三是研究 ChatGPT 本身带来的影响。目前，学界关注重点在 ChatGPT的出现对学术伦理带来的冲击与对社会发展的影响上，但是较少涉及 ChatGPT对当前国家安全形势的影响。上述研究主要从权力更迭、国际权力结构转变和大国竞争等角度，对于人工智 阙天舒：美国人工智能战略新动向及其全球影响，载外交评论（外交学院学报）2020 年第 3 期，第 122 页。王悠、陈定定：迈向进攻性现实主义世界？人工智能时代的国际关系，当代世界2018 年第 10 期。傅莹：人工智能对国际关系的影响初析，国际政治科学2019 年第 1 期；保健云：大数据、人工智能与超级博弈论新时代国际关系演变趋势分析，国家治理2019 年第11 期；Michael C.Horowitz,“Artificial Intelligence,International Competition,and the Balance of Power,”Texas National Security Review,Vol.1,No.3,2018。蔡翠红、戴丽婷：人工智能影响复合战略稳定的作用路径：基于模型的考察，国际安全研究2022 年第 3 期；封帅、周亦奇：人工智能时代国家战略行为的模式变迁走向数据与算法的竞争，国际展望2018 年第 4 期。高奇琦：人工智能时代发展中国家的“边缘化风险”与中国使命，国际观察2018年第 4 期；封帅：人工智能时代的国际关系：走向变革且不平等的世界，外交评论（外交学院学报）2018 年第 1 期。刘国柱：深度伪造与国家安全：基于总体国家安全观的视角，国际安全研究2022年第 3 期；阙天舒、张纪腾：人工智能时代背景下的国家安全治理：应用范式、风险识别与路径选择，国际安全研究 2020 年第 1 期；Daniel Hoadley and Nathan Lucas,“Artificial Intelligence and National Security,”Congressional Research Service,April 26,2018。徐能武、葛鸿昌：致命性自主武器系统及军控思考，现代国际关系2018 年第 7期；黄忠：人工智能与未来十年的国际关系，当代世界与社会主义2019 年第 6 期；Forrest E.Morgan et al.,“Military Applications of Artificial Intelligence:Ethical Concerns in an Uncertain World,”RAND,April 2020,https:/www.rand.org/pubs/research_reports/RR3139-1.html。令小雄、王鼎民、袁健：ChatGPT 爆火后关于科技伦理及学术伦理的冷思考，新疆师范大学学报（哲学社会科学版）2023 年第 4 期；郑世林、姚守宇、王春峰：ChatGPT 新一代人工智能技术发展的经济和社会影响，产业经济评论2023 年第 3 期；张夏恒：新一代人工智能技术（ChatGPT）可能引发的社会变革，产业经济评论2023 年第 3 期。2023 年第 4 期 85 能和国际关系发展之间的关系进行了比较全面的研究。但是当前研究聚焦于国家间权力相对发展与人工智能之间的关系，对以 ChatGPT 为代表的生成式人工智能发展对国家安全态势的影响研究相对较少。随着时代的发展和技术的进步，安全的内涵和权力的内涵都在发生变动，在非传统安全领域，权力体现在传统的技术层面以及国际制度和标准的博弈上，同时也反映在话语层面的主导权争夺上，其表现为技术性权力、制度性权力和话语性权力。尽管话语性权力相较其他两种权力不那么瞩目，但在某种意义上，只有国家在多个维度上的综合性权力提高了，国家在该领域内的权益才能得到保障。与以往任何一种技术进步不同的是，ChatGPT 的话语权塑造依托于技术，表现为人机交互。即谁能通过设定算法，影响机器的内容输入和输出偏好，谁就掌握了话语性权力。相比以往任何一种权力博弈，这种博弈所造成的意识形态渗透和安全风险都更为隐性。对算法的设定和对内容偏好的设定将是生产话语性权力的决定性因素。以 ChatGPT 为代表的生成式人工智能的出现与发展，将进一步提高国家在话语性权力方面的博弈强度，亦将重新丰富和书写安全的内涵。历史上每次技术革命在给经济社会带来巨大变化的同时，也给国家治理体系和治理能力带来新的挑战，提出新的要求。从维持国家权力与国家安全的角度出发，我们必须正视该技术带来的挑战与机遇。因此本文旨在解答以下问题：在各国有关人工智能领域主导权竞争愈发激烈的大背景下，ChatGPT 和生成式人工智能与以往的人工智能有何不同？此类人工智能会对现有国家安全的特征带来什么改变？我们应通过什么方式应对现实安全挑战的变化？对以上问题的回答有助于我们正视新技术对国家安全带来的挑战，为维护国家安全秩序、把握安全局势发展提供参考。一 人工智能技术发展与 ChatGPT 崛起 ChatGPT 及相关技术是人工智能快速发展技术路径上的最新数据点。要理解ChatGPT 对当前社会发展和国际安全态势的影响，首先要理解 ChatGPT 的运行机理及其对人工智能技术组合应用带来的变革及影响。任琳：多维度权力与网络安全治理，世界经济与政治2013 年第 10 期。阳军、樊鹏：新技术革命的风险、挑战与国家治理体系适应性变革，国外社会科学2020 年第 5 期，第 127 页。被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征 86 （一）人工智能技术发展与 ChatGPT 的能力特征 有关人工智能的研究起源于 1956 年约翰 麦卡锡（John McCarthy）和马文 明斯基（Marvin Lee Minsky）等科学家对有关如何用机器模拟人的智能的探讨。探讨中提出的“人工智能”（Artificial Intelligence）概念，打开了人工智能学科研究的大门。在历经数次技术升级后，人工智能的技术发展与应用不断取得突破，其所依据的技术本质从 1.0 时代的“逻辑推理”，逐步转向 2.0 时代的“知识工程”与 3.0时代的“机器学习”，人工智能能力快速提高，适用范围逐步扩大。在人工智能技术发展的第三次浪潮后，人工智能技术也跨越了产业化的门槛，逐步呈现出国际体系中系统性变量的特征。国家不断扩大人工智能技术在军事、经济等领域的应用范围与深度：无人机等智能武器与信息处理平台逐步改变了传统战争的面貌，人工智能对产业的赋能与革新大幅提高了生产与经济发展速率，被认为是新一轮科技革命的重要组成部分。早在 2016 年，已有分析者意识到人工智能技术的发展已经跨越了影响人类政