AI治理中的战略愿景

Abstract

我们希望先进AI带来怎样的未来？关于如何驾驭向超级智能的过渡，存在多种可能的“战略愿景”。这并非纯粹的学术问题：你偏好的愿景决定了你是否认为美国应当扩大对中国的领先优势、政府是否应当接管AI研发，以及国际合作究竟是必要的还是适得其反的。本文沿着两个维度——私营控制与政府控制、权力分散与权力集中——梳理出九种不同的战略愿景，从相互竞争的私营项目一直到由政府主导的全球性项目。文章概述了这些彼此分歧的愿景、各自的政策含义，以及决定哪些愿景最为可行、每种愿景在多大程度上应对了未对齐AI夺权、大国战争与极端权力集中等风险的技术与制度变量。