渐进式失权

Abstract

AI风险情景通常描绘的是人类相对突然地把控制权丢给AI：由于AI能力骤增或某种协同的背叛，AI在博弈中胜过个体与人类制度。但作者认为，即便AI能力只是渐进提升，且不存在任何协同的夺权行为，人类最终失权的风险依然相当可观。这种人类影响力的流失，主要将由以下事实推动：在几乎所有社会功能上——经济劳动、决策、艺术创作，乃至陪伴——机器都能提供比人类更具竞争力的替代选项。