通往先进人工智能的“漫长”时间线已变得异常短暂

Abstract

关于人类级别人工智能（AI）发展的短期与长期时间线之间的历史性区分，随着专家共识逐渐转向“近期未来”，已基本不复存在。虽然二十年内出现先进人工智能的预测曾被视为纯属猜测，但如今行业领军人物和传统怀疑论者的预测已趋于一致，认为这一时间窗口在三到二十年之间。 时间线的压缩使得将变革性人工智能视为科幻小说的说法越来越站不住脚，因为即便是保守估计也表明，人类级别的智能能力可能在未来二十年内出现。这样的发展轨迹要求立即对技术和策略层面的风险缓解措施进行投资。必须优先推进人工智能测量、可解释性和人工智能对齐等领域的科学研究，以确保能够安全地控制这些高性能系统。 此外，为应对变革性技术带来的深刻社会变革，还需建立独立的验证生态系统、达成国际安全共识，并增强政府的技术能力。鉴于这些发展的时间框架可能比此前预期的更短，构建必要安全性基础设施和监管框架的窗口期十分有限，这要求科学界和政界采取积极行动。——由生成式AI生成的摘要。