宽泛的时间线

Abstract

预测变革性人工智能（AI）的出现充满深刻的不确定性，这使得单点估计或“短期与长期”的二元辩论不足以支撑战略规划/计划能力。一种在认识论上保持谦逊的方法，要求采用涵盖广泛潜在出现日期的概率分布，这些日期通常跨越数十年。 专家预测和社区预判始终呈现出重尾分布，即便是主张短期时间表的人士也承认，AI 出现时间大幅推迟的可能性依然很高。因此，战略规划必须考虑到各种不同的情景：短期时间表需要立即采取防御性对冲措施，而长期时间表则要求为地缘政治和社会经济格局的根本性改变做好准备。在长期情景中，在达到文明临界点之前，世界可能会经历监管环境的转变、市场领导者的更迭以及劳动力市场的重大动荡。 因此，对长期基础设施的投资——例如学科/领域建设、基础研究和组织发展——仍具有相当大的预期价值。在人工智能发展延迟的情景下，这些活动往往能提供更高的杠杆效应，从而抵消其在加速时间线中可能无法结出硕果的风险。在即时风险缓解与持续的复利式努力之间取得平衡，可确保在所有可信的人工智能时间线范围内构建一个稳健的干预措施组合。——AI生成的摘要。