Конец человеческой субъектности

Abstract

Риск ИИ мы обычно представляем себе как внезапный захват власти где-то в будущем — но что, если постепенная утрата влияния уже происходит, а мы этого даже не замечаем? Этот фильм, основанный на статье «Постепенная утрата влияния: системные экзистенциальные риски инкрементального развития ИИ», показывает, как растущая зависимость от ИИ может подтачивать человеческое влияние задолго до каких-либо драматических событий: автоматизация тихо вытесняет людей из экономических контуров обратной связи, дающих нам рычаги воздействия; ИИ позволяет идеям распространяться в культуре без участия человека; государства становятся всё менее подотчётными по мере того, как ИИ замещает труд, налогообложение и правоприменение. Ни один из этих сдвигов не требует злого умысла, несогласованного ИИ или эффектного захвата власти.