AI 2027 与 AI 作为普通技术之间的共同点

Abstract

尽管在人工智能（AI）的长期发展路径上存在根本性分歧，但对于AI能力的短期预期及政策优先事项，各方观点已呈现出显著的共识。在强通用人工智能（AGI）可能出现之前，AI主要作为一种常规的、工具性的技术发挥作用。尽管现有的性能基准测试结果预计将在2028年达到饱和，但高基准分数并不等同于现实世界任务的自动化。 由于长尾误差问题依然存在，即使人工智能技术带来的整体经济影响已可与互联网相媲美，但至少在2029年之前，人工智能系统仍将在常规的现实世界任务中屡屡失利，且仍不适合用于高可靠性场景。鉴于人工智能对齐问题尚未解决，安全性不能仅依赖于模型训练。 审慎的治理要求：防止AI自主控制关键系统，强制要求开发者保持透明度，实施独立审计，建立状态追踪能力，并防止无人监管的递归式自我改进，同时促进AI能力的有益经济扩散。——AI生成的摘要。