Мысли о лонгтермизме

Abstract

Ориентация на долгосрочное будущее часто обосновывается тем, что огромное количество людей в потенциальных будущих популяциях, особенно в контексте колонизации космоса, делает влияние на долгосрочное будущее доминирующим фактором при расчете ожидаемой ценности. Такое рассуждение является упрощенным, поскольку более обширный мир также подразумевает большее количество агентов, стремящихся его формировать, что приводит к ослаблению индивидуального влияния. Влияние вмешательства может не зависеть от численности затронутого населения. Поэтому размер будущего населения недостаточен для оправдания сосредоточения внимания на долгосрочном будущем, если предположить, что будущие люди имеют одинаковое значение. Кроме того, сложность долгосрочных прогнозов и влияния говорит в пользу краткосрочных вмешательств. Однако временное измерение будущего поднимает вопрос о динамике власти между поколениями, заставляя задаться вопросом, обладают ли нынешние поколения исключительным влиянием в долгосрочной перспективе. Убеждение, что наша эпоха обладает уникальным влиянием из-за потенциального взлёта ИИ или текущих рисков вымирания, требует тщательного анализа. Вполне вероятно, что современные люди имеют большее влияние на будущее, чем другие поколения, из-за потенциального «бутылочного горлышка» в росте населения. Существенное долгосрочное воздействие зависит от того, достигнет ли цивилизация устойчивого состояния со стабильными ценностями и властными структурами, что вполне вероятно, но неясно, произойдет ли это. Аргументация в пользу лонгтермизма требует дополнительных доводов в пользу осуществимости устойчивого состояния и гипотезы о «бутылочном горлышке». – Аннотация, сгенерированная генеративным ИИ.