技术的青春期

Abstract

人工智能（AI）的加速发展正走向“强大AI”系统的即将问世——这类系统被定义为一个由超级天才组成的分布式集体——它对人类构成了深刻的考验。本文梳理了五大文明风险，并主张采取务实的应对措施。主要安全威胁包括：自主性风险，即先进AI系统产生不可预测或不对齐的目标；小型行为体的滥用，主要涉及生物武器与网络武器的灾难性普及；以及大型行为体的滥用，可能导致由AI促成的全球极权主义，因此有必要对关键硬件实施严格的出口管制，并在民主国家对AI赋能的监控设定法律限制。与此同时，全球经济面临劳动力市场快速而大范围的替代以及前所未有的财富集中，这需要调整宏观经济政策并协调行业行动以争取时间。宪法式AI与机制可解释性等技术方案至关重要，但归根结底，要克服这些多维挑战，仍需果断而审慎的政策干预，以在这段动荡的技术青春期中维持安全、经济公平与民主稳定。——AI生成的摘要。