企业自愿性承诺成为重要手段，不断创新技术治理策略

来源：《人工智能治理蓝皮书（2024年）》 作者：中国信息通信研究院 发布时间：2024-12-27

　　一方面，头部科技企业积极寻求与监管者沟通合作，力求通过自愿承诺、自我约束的方式参与AI治理。2023年，先后两批共15家大模型开发、软硬件厂商等企业向美国政府作出自愿性承诺，承诺将履行红队测试、数字水印等义务。①随后，美国将这些企业所承诺采取的治理工具推向国际，逐渐转化为全球人工智能治理的通用手段，对全球人工智能治理的具体落地方案发挥了实质性影响。另一方面，企业探索开发新技术治理策略，并创新制度解决方案。例如，IBM 推出了AI FactSheets 360 网站，提供关于人工智能模型重要特征（包括目的、性能、数据集、特征等）的“情况说明书”组装方法。②OpenAI提供“版权盾”（Copyright Shield）侵权赔偿基金，解决用户因使用GPT而引发的版权纠纷;提出漏洞赏金计划等。Anthropic公司发起人工智能宪法(Constitutional AI)公众参与计划，探索公众价值观和不同偏好。③

　　值得注意的是,近期产业竞争加剧,危及企业自愿承诺落地实践。2023年以来，谷歌、Meta、亚马逊等厂商接连升级大模型产品，激烈竞争局势下OpenAI旗下产品用户访问量一度出现负增长。国内来看，大模型厂商打响价格战，各大企业通过降价策略抢占市场份额。例如字节豆包大模型在B端市场的定价为0.0008元/千Tokens，比行业便宜99.3%。激烈的市场竞争恐迟滞行业的安全治理落地实践。继2023年11月OpenAI“换将风波”之后，2024年5月，OpenAI超级对齐团队两位负责人接连离职，OpenAI进而解散了代表公司安全负责任形象的超级对齐团队。微软、谷歌也相继解散道德伦理团队，安全承诺的效力受到一定影响。

　　①  https://www.whitehouse.gov/briefing-room/statements-releases/2023/09/12/fact-sheet-biden-harris-administratonsecures-voluntary-commitments-from-eight-additional-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/

　　② IBM Research,"IBM Artificial Intelligence Pillars’(30 August 2023), accessed 17 September 2023.

　　③ https://www.anthropic.com/news/claudes-constitution

　　内容节选自中国信息通信研究院《人工智能治理蓝皮书（2024年）》，2024年12月发布。原文链接：https://www.caict.ac.cn/kxyj/qwfb/bps/202412/P020241227660032159191.pdf