Почему мы можем ожидать, что у наших потомков не будет сострадания

Abstract

Некоторые ценности могут быть менее подходящими для реализации крупномасштабных перспектив по сравнению с другими, особенно в сценариях, связанных с колонизацией космоса. Ценности, приоритетом которых является уменьшение страданий, могут вступать в противоречие с экспансией и приобретением ресурсов, ставя цивилизации, придерживающиеся таких ценностей, в невыгодное положение по сравнению с теми, кто сосредоточен исключительно на максимизации положительных результатов, независимо от причиняемых страданий. Это явление называется «проклятием колонистов, ориентированных на положительные результаты» (UCC). Понять это помогает концепция «штрафа за отрицательную ценность»: она представляет собой величину отрицательной ценности, которую агент готов терпеть для достижения максимальной ценности. Агенты, ориентированные на страдания, имеют высокий штраф за отрицательную ценность, что ограничивает их экспансионистский потенциал, в то время как те, кого не беспокоят страдания, имеют нулевой штраф. Эта динамика создает селекционное давление, благоприятствующее агентам, ориентированным на положительные стороны, в гонке по колонизации космоса, как внутри цивилизаций, так и между ними. Рассматриваются возражения относительно возможности сначала уделить приоритет экспансии, а уже потом решать проблему страданий, при этом подчеркиваются ограничения такого подхода, особенно в отношении непосредственных рисков, таких как конфликты между агентами и потенциальное инструментальное использование страданий. Выводы UCC предполагают, что ценности успешных колонизаторов, будь то люди или инопланетяне, могут сходиться в низкой заботе о страданиях. Это имеет потенциальные последствия для приоритезации экзистенциальных рисков, возможно, снижая важность предотвращения вымирания человечества, если инопланетные колонизаторы будут придерживаться схожих ценностей. Это также предполагает, что нынешние лонгтермисты имеют сравнительное преимущество в снижении рисков страданий. – Аннотация, сгенерированная ИИ.