共同体会议报告精选（中）|人工智能与国际安全

　　导语：在大国战略竞争和军备竞赛升温的背景下，以自主武器为代表的人工智能赋能的武器备受推崇，人们的关注已从该技术在军事领域的发展机遇转向随之而来的严峻挑战， 以及以何种理念、方式、工具开展有效的安全治理。

　　“一带一路”数据库精选库内报告，助力用户把握人工智能给国际安全带来的挑战，了解人工智能全球安全治理进展和问题。

一、 人工智能对国际安全的挑战

1. 引发以人工智能技术为核心的军备竞赛

　　人工智能在国际关系的竞争与合作中的重要影响正日益凸显。对于美国而言，中国已成为其在人工智能领域的头号竞争对手。在军事方面，美国国防部首席信息官兼人工智能中心主任约翰·杰克·沙纳汉少将在2019年3月12日于军事委员会所举行的听证会上指出：“中国和俄罗斯等战略竞争对手，正在为军事目的对人工智能进行重大投资。这些投资可能侵蚀我们的技术和运营优势，破坏自由开放的国际秩序。国防部必须与我们的盟国和伙伴一道，将人工智能批准为战略目标，在未来的战场上取胜，并维护这一秩序。”

　　普京政府在人工智能的几个特定领域表现出积极的支持态度，即军事、安全和反监控领域。目前，俄罗斯的人工智能战略建立在2018年的《国家人工智能发展计划草案》10点计划上，该计划由俄罗斯研究院、俄罗斯科学院、国防部高级研究基金会共同制订。与2019年2月美国发布的人工智能发展战略一样，俄罗斯的计划草案呼吁进行与人工智能相关的研究和开发，支持制定人工智能行业标准，创造一个可靠的人力资源系统。然而，该计划草案的重心仍然主要为军方服务，“关注点主要集中于如飞机、导弹、电子战、雷达和无人系统的人工智能开发”。

　　选自清华大学战略与安全研究中心陈琪、肖源睿《国际人工智能战略之比较》，2020年2月出版。

　　人工智能已经引发了激烈的国际竞争，也有可能成为新型军事对抗的导火索。各国政府和产业界均将人工智能视为引领新一轮科技革命和产业变革的战略性技术，对于人工智能技术、产业链、人才、知识产权的争夺愈加突出。2018年11月，美国商务部工业和安全局出台14项涉及国家安全和前沿科技的出口管制清单，其中包括人工智能、芯片、量子计算、机器人、人脸识别和声纹识别技术等。美国外国投资委员会也将人工智能作为投资审查的重点，基本上禁止了美国竞争对手的相关投资和并购行为。由于在战场直接对抗上缺乏胜算，没有能力研发人工智能武器的国家、组织可能采取先发制人、恐怖袭击等非对称手段向军事装备人工智能化的国家发起攻击。这种新的情况使通过军事威慑降低战争风险的效率显著减弱。

　　选自中国现代国际关系研究院美国研究李峥《人工智能治理的国际经验与启示》，2020年7月出版。

2. 增加战略决策不确定性

　　利用人工智能技术推动建立和完善战略决策辅助系统，是弱人工智能时代技术变革对国际关系领域最直接的影响之一。从当前深度学习算法的特点来分析，人工智能战略决策辅助系统将增强战略决策的科学性、有效性与可靠性，推动战略博弈模式的深度变革。

　　当然，在现有算法条件下，人工智能技术在战略博弈活动中也存在一定的局限性。人工智能无法理解既有目标之外的“非意图性影响”，在现实政治活动中会遇到很多意外挑战。来自数据的偏见最终也将体现在战略博弈的策略中，会对决策的有效性产生干扰。

　　总的来说，以人工智能技术为基础的战略决策辅助系统在国际战略博弈的进程中将发挥重要作用，技术的完善将使国际行为体之间战略博弈能力的差距进一步拉大。如果战略博弈中的一方拥有人工智能技术，而另一方没有，那么这种战略博弈几乎就成为一场单向透明的对抗。缺少人工智能技术辅助的行为体将在风险判断、策略选择、决策确定与执行效率以及决策可靠性等多个方面处于绝对劣势，整个战略博弈结构将会完全失衡。

　　选自上海国际问题研究院国际战略研究所封帅《人工智能时代的国际关系：走向变革且不平等的世界》，2020年7月出版。

3. 人工智能竞争的意识形态化加剧国际体系的分裂

　　2023年3月欧盟委员会主席冯德莱恩在讲话中首次提出对华“去风险”的概念，并明确了欧盟经济“去风险”战略的四根支柱。在“去风险”原则的引导下，欧盟与欧洲主要国家相继推出涉华经济战略与政策。出于与欧洲加强对华经济政策协调的考虑，美国开始逐渐放弃“脱钩”的概念，转而对“去风险”的叙事加以呼应，并且在政策上加快了与欧洲和日韩对华政策的协同。美国对华“去风险”战略将加速中美战略竞争的向下螺旋态势。

　　美国对华“去风险”旨在减缓中国军事力量的发展。当前，美国仍是世界领先的军事强国，但中国的军事实力近年来发展较为迅速。“去风险”旨在阻止中国军队获取美国及其盟友的先进军事技术，例如可部署在导弹中的两用微芯片。2023年8月9日，拜登签署行政令，设立对外投资审查机制，限制美国主体投资中国半导体和微电子、量子信息技术和人工智能领域，希望通过限制中国获得可能增强其军事实力的尖端技术来保护美国国家安全。与此同时，为配合美国对华行动，荷兰政府宣布从2023年9月起对微芯片技术实施新的出口管制，限制荷兰制造商ASML向中国销售先进芯片光刻机，旨在阻止中国生产用于消费电子、计算和军事等领域的高端芯片所需的供应链关键部分。

　　选自中国社会科学院世界经济与政治研究所彭博、中国社会科学院国家全球战略智库赵海《美国对华经济政策转向“去风险”的进程、逻辑与影响》，2023年12月出版。

二、 人工智能全球安全治理

1. 自主武器军备控制：道德呼吁有力，难以触发集体行动

　　致命性自主武器之所以受到国际社会关注，在很大程度上来自其对国际规范的潜在冲击。事实上，对自主武器最为有力的批评意见几乎都集中在这一层面。具体来看，涉及自主武器伦理价值规范的讨论呈现出两种不同的逻辑。第一种逻辑遵循结果论的推断方式，关注的是行为的后果是否符合普遍的道德关切。另一种论证逻辑沿着义务论展开，其关注的是行为本身是否体现道义准则。

　　自主武器军备控制要获得进一步推进，不仅依赖于在道德层面汇聚更强烈的社会力量，而且要在安全议题上获得足够的动力。简单来说，自主武器军备控制要具备至少三项前提条件：一是伦理争议突出，特别是在自主武器能否真正实现绝对自主这一问题上达成明确共识；二是各主要国家均认为自主武器并非军事上必不可少；三是自主武器的安全风险能够真实呈现在国际社会面前。显然，后两项条件的实现极为困难，这意味着自主武器军备控制进程将继续呈现道德政治独角戏的局面，前景并不乐观。

　　选自国防科技大学文理学院刘杨钺《全球安全治理视域下的自主武器军备控制》，2020年7月出版。

2. 人工智能全球安全治理的路径与机制尚不明确

　　人工智能特别是以ChatGPT为代表的生成式人工智能取得重大突破，标志着人工智能技术从弱人工智能向强人工智能的飞跃，它所带来和即将带来的安全风险，也为全人类敲响了警钟。与其他通用技术一样，人工智能也面临着“科林格里奇困境”。技术狂奔的背后，与此相对应的政策法律难以在短期内落地实施，这种监管程度有限的发展将会带来投机风险，包括武器化竞赛、人类衰弱、认知侵蚀、价值锁定、欺骗和权力争夺等。

　　对人工智能全球治理的路径与机制的探索仍在起步阶段，尚有一定的局限性。一方面，关于全球治理的路径与机制还存在争论，特别是在管控致命性自主武器等议题上，还存在以中小国家为代表的“全面禁止”和以美国及其盟友为代表的“有限发展”的尖锐分歧。另一方面，当前人工智能全球治理正趋向西方主导的政治“中心化”，美欧利用其在国际社会中的话语权优势，打造所谓民主与威权集团相对抗的治理结构，实际上体现了西方国家联手控制人工智能领域国际话语权、主导权的战略企图。而由于全球范围内研发、制造人工智能的技术水平存在差异，治理知识供给不均衡、不充足，在治理进程中，中小国家往往面临被边缘化的处境，其安全与发展诉求难以被讨论重视，加剧了全球的不平等。

　　选自中国社会科学院世界经济与政治研究所郎平、中国社会科学院大学国际政治经济学院张梦惜《数字智能时代的大国博弈》，2023年12月出版。