Расширение морального круга может увеличить будущие страдания

Abstract

Расширение морального круга человечества с целью включения в него всех обладающих сознанием существ сопряжено с риском усиления страданий в будущем. Хотя поощрение сострадания имеет большую важность, оно может непреднамеренно привести к результатам, порождающим страдания, если не будет сопровождаться стремлением к их уменьшению. Например, при сохранении среды обитания диких животных, мотивированном состраданием, часто упускается из виду значительное страдание диких животных. Точно так же создание большого количества цифровых умов, хотя и может потенциально увеличить счастье, также повышает риск значительных цифровых страданий. Поэтому, хотя расширение морального круга в целом является положительным явлением, приоритезация ценностей, ориентированных на страдания, имеет решающее значение для обеспечения того, чтобы расширение сострадания не привело непреднамеренно к увеличению общего объема страданий. Сочетание расширения морального круга с сильным акцентом на уменьшение страданий предлагает наиболее многообещающий путь к минимизации вреда. – Аннотация, сгенерированная генеративным ИИ.