利用AI提升社会决策水平

Abstract

随着通用人工智能（AGI）的快速发展，社会决策能力也必须相应提升，以应对风险日益加剧的局面和日益紧迫的发展时间表。 人类机构常受认知失效和协调缺陷的困扰，而专门的人工智能系统恰恰能有效缓解这些问题。通过优先开发“认知工具”（如自动化事实核查器和预测系统）以及“协调工具”（包括基于人工智能的谈判和验证框架），人类有望显著提升管理生存性风险的能力。 这种差异化技术发展战略旨在加速推广促进安全性能力的推广，以防更危险、能力更广泛的 AI 智能体出现。尽管此类举措面临诸多挑战——包括市场对非商业应用激励不足、无意中加速通用人工智能研发的风险，以及潜在的双重用途风险——但具有创业精神的研究人员通过有针对性的干预，可以缓解这些弊端。 聚焦于社会效益高且战略风险低的应用，是通往制度韧性的可行路径。培育一个致力于人工智能增强决策的专门领域，对于确保集体智慧与协作能力跟上技术加速的步伐至关重要。——AI生成的摘要。