为什么人们对强大的人工智能（AI）何时出现存在分歧？

Abstract

关于通用人工智能（AGI）何时问世的预测差异显著，时间跨度从几年到几十年不等。主张短期时间表的人士强调：学术基准测试正迅速趋于饱和；自主任务完成的时间跨度呈指数级增长；以及自动化人工智能研究有可能在海量算力扩容的支持下，引发一场递归式智能爆炸。 相反，怀疑论者则认为，现有的评估未能反映现实世界中复杂且具有情境背景的工作流程，并指出莫拉维克悖论、限制自我改进的硬件瓶颈和数据瓶颈，以及科学发现对抽象推理之外因素的依赖。由于当前的算力扩展速度可能在2030年前达到财务和物理极限，未来几年将成为关键的考验期，这凸显了尽管时间表存在不确定性，但仍迫切需要开展鲁棒性和对齐研究。 – 由生成式AI生成的摘要。