人类能动性的终结

Abstract

我们常把AI风险想象成未来某一刻的突然夺权，但如果我们其实已经在毫无察觉之中经历着渐进式失权呢？本片基于论文《渐进式失权：渐进式AI发展带来的系统性生存风险》，探讨对AI日益加深的依赖如何可能在任何戏剧性事件发生之前就侵蚀人类影响力：自动化悄然把人类移出赋予我们议价能力的经济反馈回路；AI使观念无需人类参与即可在文化中传播；随着AI取代劳动、税收与执法，国家的问责性不断下降。这些转变没有一项需要恶意动机、未对齐的AI，或一场轰轰烈烈的夺权。