关于AI未来的未决辩论

Abstract

本分析通过剖析关于人工智能未来演进的三个核心技术辩论，探讨了围绕人工智能发展而普遍存在的相互矛盾的观点。 首先，本文探索了当前生成式预训练Transformer（GPT）范式的潜在发展轨迹。支持持续取得重大进展的论点强调了渐进式改进、新可扩展能力的发现（例如推理、多模态）以及数据驱动的采用周期。相反，其局限性包括“幻觉”和“过度自信”等长期存在的问题、上下文窗口和缺乏物理实体等根本性限制，以及预训练规模扩展带来的回报递减现象。 其次，讨论基于I.J. Good提出的“智能爆炸”概念，考察了AI在多大程度上能够自主改进自身。实证案例包括AI加速的大语言模型（LLM）训练和AI编写的代码，但这些案例也受到潜在瓶颈的制约，例如需要人工审查的错误、对研究判断力的需求以及现实世界中的实验验证。最后，该研究辩论了先进AI系统将保持工具属性，还是会演变为独立实体。 “AI作为工具”的观点强调人类的控制权及其与其他技术的可比性。相反，“某种其他存在”范式的论点则指出，AI系统是被“培育”而非“构建”的，会展现出自发的情境意识，并面临追求自主性和通用性的强大商业激励，这可能导致系统更像是一种自我维持的优化过程，而非简单的工具。——AI生成的摘要。