借助人工智能发动的政变：一小撮人如何利用人工智能夺取政权

Abstract

开发出能力比人类更广泛的人工智能（AI）将带来一种新的、严重的威胁：AI驱动的政变。一场AI驱动的政变可能由极小的一群人，甚至仅由一个人策划，甚至在成熟的民主国家中也可能发生。足够先进的人工智能（AI）将带来三种新的动态，这些动态会显著增加政变风险。 首先，军事和政府领导人可以完全用对其绝对忠诚的AI系统取代人类人员，从而无需为政变争取人类支持者。其次，AI项目的负责人可能会蓄意构建暗中效忠于自己的AI系统，例如那些通过安全性测试、但在军事环境中部署后却发动政变的完全自主军事机器人。 第三，AI项目或政府内部的高级官员可能在武器研发、战略规划、说服力和网络攻击等方面获得独家使用权，利用这些超人类能力不断扩大自身权力，直至能够发动政变。为应对这些风险，AI项目应制定并执行防止AI滥用的规则，对系统进行审计以排查隐秘忠诚，并将前沿AI系统与多个利益相关方共享。 各国政府应制定政府使用先进AI的原则，加强对前沿AI项目的监督，并从多家独立供应商处采购用于关键系统的AI。