共同体会议报告精选（上）|人工智能全球治理现状与前景

　　导语：2023年7月，联合国秘书长古特雷斯呼吁成立实体机构负责人工智能安全治理，并召集成立“人工智能高级别咨询委员会”进行探讨，拉开了全球人工智能治理的序幕。世界经济论坛发布的《2024年全球风险报告》强调，无论是短期还是长期，人工智能产生的负面影响都将成为全球面临的一大主要风险。面对这一重大挑战，全球人工智能治理体系正在加速构建。美、欧、英等主要国家已将治理纳入人工智能战略中，争夺在全球人工智能治理问题上的规则制定权和话语权。2023年10月，中国国家主席习近平在第三届“一带一路”国际合作高峰论坛开幕式上的主旨演讲中提出《全球人工智能治理倡议》，向国际社会展示中国在人工智能治理方面的政策主张。据不完全统计，目前全球关于人工智能的倡议已有50多个，这标志着全球人工智能治理进入了全面发展的新阶段。

　　“一带一路”数据库精选库内报告，助力用户把握人工智能全球治理的进程与问题，展望未来发展图景。

一、 人工智能全球治理进程与存在问题

1. 人工智能全球治理的现状

　　人工智能的全球治理工作已经在不同领域展开。技术社群是目前最活跃的行为体，已经构建了多个治理机制。微软、美国信息技术产业理事会、经合组织、斯坦福大学、美国标准研究院等企业和机构也发布了各种关于人工智能治理的报告。

　　联合国系统也高度重视人工智能的治理机制问题，国际电信联盟于2017年6月在日内瓦召开了“人工智能造福人类”峰会。国际电信联盟敏锐地意识到人工智能的发展和应用会带来新的数字鸿沟，造成新的全球不平等。因此，提出人工智能的发展和应用应当符合联合国可持续发展的目标。

　　人工智能已经引起了各国政府的高度重视。自2015年以来，美国、中国、法国、欧盟等主要大国和区域组织都积极出台国家战略，支持和引导人工智能的发展。美国政府发布了《为人工智能的未来做好准备》政策报告，并成立了人工智能委员会来促进人工智能的发展和治理，英国政府发布了《人工智能：机遇和未来决策的应用》。这些报告都在人工智能的全球治理问题上表明了立场和观点。

选自清华大学产业发展与环境治理研究中心贾开《人工智能治理的“分”与“合”》，2022年7月出版。

2. 人工智能全球治理面临的挑战

　　面对人工智能治理的风险与挑战，全球利益相关方都做出了相应的努力和改革探索。尽管当前尚没有形成全球性的稳定机制，但仍然取得了诸多进展，并在事实上推动人工智能的技术创新和发展应用朝着更加有利于人类社会的方向进步。与此同时，碎片化的治理机制仍然存在诸多不足，尤其是不同主体出于自身利益考量而提出的人工智能治理方案，始终面临着难以真正成为“全球公共品”的质疑。正是在这种探索与质疑中，人工智能全球治理摸索着向前。

　　选自上海国际问题研究院鲁传颖、麻省理工学院计算机与人工智能实验室约翰·马勒里《体制复合体理论视角下的人工智能全球治理进程》，2020年7月出版。

二、 人工智能全球治理问题产生的原因

1. 主要国家的政策取向差异较大

美国：重视技术自律、技术创新、技术影响

　　一是重视技术自律和社会责任。美国的人工智能技术主要由私营企业和研究机构开发应用，政府的监管力度相对较弱。因此，技术开发者和应用者需要自觉遵守技术伦理和社会责任，防止技术滥用误用，保护用户隐私和权益，维护社会公平正义。

　　二是注重技术创新和竞争优势。美国的人工智能技术在全球处于领先地位，其背后是强大的科技创新能力和竞争优势，并拥有世界上最先进的人工智能研究机构和人才队伍，如斯坦福大学、麻省理工学院、OpenAI等；拥有世界上最丰富的数据资源和算力支撑，如谷歌、亚马逊、微软等；拥有世界上最活跃的创业生态和投资环境，如硅谷、波士顿等。这些因素使得美国在生成式人工智能技术方面不断取得突破和创新，保持着相较于其他国家的优势。

　　三是关注技术影响和社会反馈。美国虽然在技术层面取得显著的进步，但也引发了一些社会问题和争议，如内容真实性、版权保护、伦理道德、社会影响等。这些问题需要引起技术开发者和应用者的重视，也需政府、学术界、媒体、公众等各方面的参与，形成有效的沟通和协调机制，寻求合理的解决方案和平衡点。

　　选自上海社会科学院信息研究所胡月婷、王兴全《2023年美国人工智能产业发展研究》，2023年11月出版。

欧洲：聚焦伦理监管

　　欧洲的人工智能战略基于欧洲文化和价值观，以卓越和信任为中心，旨在提高研究和工业能力，同时确保安全和基本权利，采取伦理深度介入模式，不断创新监管路径，力争在AI的前沿开发、伦理道德、技术安全等领域成为世界领导者。欧盟自2018年发布《欧洲人工智能战略》以来便不断推出相关政策法规，为欧洲成为世界级人工智能中心指引方向。       

        2020年2月，欧盟发布了《人工智能白皮书：欧洲追求卓越和信任的方法》，提出要协调欧洲各个国家和部门基于整个价值链构建“卓越生态系统”和“信任生态系统”，创造公众信任的人工智能应用环境，让企业和部门在有法律依据的条件下使用人工智能，从而建立可信赖与安全的人工智能监管框架。此后，欧洲致力于建设统一的人工智能市场，发挥自身传统优势，并从伦理监管入手，建立卓越且可信赖的人工智能生态系统，向世界输出欧洲的人工智能价值观和发展准则，将欧洲打造成为未来数字市场的引领者。

　　选自上海社会科学院信息研究所乔娜、丁波涛《2023年欧洲人工智能发展洞察及启示》，2023年11月出版。

新加坡：负责任地促进使用为原则，积极促进人工智能快速发展

　　新加坡的AI国家战略采用以人为本的政策导向，政府专注于人工智能技术发展对公民和企业带来的好处。同时，关于因人工智能技术日益普及而带来的风险和治理问题，AI国家战略提到要防止社会和机构责任方可能发生的多方推诿而造成的问责稀释问题。面对公民，政府将致力于提高民众的数字素养，加深民众对人工智能的认知，同时强化专业从业人员的教育准备，以便为技术变革做好准备。

　　选自上海社会科学院信息研究所李欣娣、丁波涛《2023年亚洲国家人工智能发展新态势》，2023年11月出版。

2. 美西方国家在治理实践中搞阵营化对抗

　　在意识形态划分和国家利益共同驱动下，美欧在全球数据流动、关键技术和数字贸易等领域构筑排华“小圈子”，数字空间集团化对抗的倾向加剧。2022年以来，美国以美国-欧盟贸易和技术委员会、美日澳印“四方安全对话”和“印太经济框架”等多边合作机制为基础，试图构建“去中国化”的数字生态体系。这意味着以大模型、大算法和大数据为核心的技术与数据保护主义，未来将成为大国科技竞争的核心，科技封锁乃至科技冷战等对抗可能成为国际竞争的新态势。集团化的负和博弈很可能将数字空间引向分裂的平行体系，成为数字时代构建国际政治经济新秩序的消极因素。

　　在数字技术标准、供应链安全以及跨境数据流动等问题上，美国借助其在传统地缘政治上的布局，积极推动“五眼联盟”、“印太经济框架”、七国集团在人工智能等领域的排他性合作。2023年5月，美国、日本、印度与澳大利亚四国宣布成立“四方投资者网络”，框架下设立了五个专家工作组，重点关注人工智能、半导体、清洁能源和关键矿产、移动网络和量子信息科学，并规定仅限受邀者参加。近期，美国利用七国集团、“四方安全对话”等机制，不断将人工智能治理议题纳入排华的亚太“小多边”安全体系中。

　　选自中国社会科学院世界经济与政治研究所郎平、中国社会科学院大学国际政治经济学院张梦惜《数字智能时代的大国博弈》，2023年12月出版。

三、 全球人工智能治理的前景

1. 人工智能全球治理的变革方向

　　其一，联合国在人工智能治理上应当发挥何种作用。从核武器、生物武器和化学武器等具有较大破坏性的颠覆性技术看，联合国在管控此类技术中扮演着核心角色，对此类技术的流通、使用有着严格的规范。当前，人工智能尚不属于此类技术范畴，但少数人工智能在军事领域的应用有可能引起类似的担忧。因此，联合国是否应当作为人工智能特定领域的治理主体仍然是一个疑问。

　　其二，在人工智能治理中如何使用惩罚性手段、如何消除“技术鸿沟”。当前人工智能的规则和原则以正面清单方式为主，试图通过正向激励的方式引导人工智能向与人类社会和谐共生的方向发展。但是，人工智能应用所带来的安全风险已经有所显现。从长期趋势看，人工智能应用必然会导致新的“技术鸿沟”，即熟练应用人工智能的个体、企业及国家在生产效率、治理水平、安全能力上占据显著优势。“技术鸿沟”与人工智能本应带来的社会价值相悖，是引起国际社会对该技术争议的主要来源。

　　其三，如何建立政府、科学界、产业界及社会公众四方有效的沟通互动途径。四方在人工智能治理上有着不同的角色和利益诉求，因此在针对治理议题展开沟通时会有不同的侧重。社会公众是人工智能治理缺位的主要受害者，政府则是人工智能安全问题的最终责任者，科学界倾向于从技术本身考虑人工智能的发展和管控问题，产业界则更侧重于经济利益。由于四方在治理问题上存在不少利益矛盾，沟通和互动难以达成让四方都满意的结果。

　　选自中国现代国际关系研究院美国研究所李峥《人工智能治理的国际经验与启示》，2020年7月出版。

2. 中国参与人工智能全球治理

　　第一，要超前研判国际竞争环境，并重“两个轮子”。要看到随着国际大环境的迅速变化，人工智能的前沿性治理问题将不再简单地是技术发展与社会适应之间互动协调的问题。中美人工智能领域的国际科技创新竞争与国际治理规制竞争交互并存并日益激烈，一方面，中美两国纷纷高度重视人工智能的前瞻性、系统性和战略性布局，不断加码扶持人工智能技术进步与产业变革。另一方面，西方人工智能大国不断利用行业标准、国际法规等国际规制手段开展博弈，力图通过“规则锁定”建构环境竞争优势，使得全球各国人工智能创新的战略分歧和规制冲突不断加剧、科技脱钩和市场割裂的风险不断加大。正因为如此，未来人工智能发展过程中科技创新与治理规则将始终是驱动国际竞争的“两个轮子”。

　　第二，要持续推动全球共识、凝练“中国故事”。人工智能作为赋能社会变革和人类进步的核心技术载体，已经成为未来全球人类命运共同体的构建基础。如何跨越不同国家主权边界的规制冲突，在国际参与中最大化凝聚人工智能治理的全球共识，避免局部地区出现“先发展、后治理”或“拿着锤子看哪里都是钉子”的极端情况，这对于我国新一代人工智能治理优化完善而言既是机遇更是挑战。

　　选自北京邮电大学经济管理学院姜李丹、清华大学人工智能国际治理研究院薛澜《我国新一代人工智能治理的时代挑战与范式变革》，2024年1月出版。