Типология s-рисков

Abstract

В данной статье представлена типология s-рисков — сценариев, которые в будущем могут привести к астрономическим масштабам страданий. В ней s-риски разделены на три категории: случайные s-риски, вызванные в иных отношениях желательными видами деятельности; агентурные s-риски, когда агенты намеренно причиняют страдания; и природные s-риски, вызванные естественными процессами. Далее в ней проводится разграничение между известными и неизвестными s-рисками, s-рисками, связанными с действиями и бездействием, а также s-рисками, направленными против различных типов обладающих сознанием существ. В заключение в статье предлагается ряд важных вопросов для дальнейших исследований в области s-рисков и мер по их устранению — аннотация, сгенерированная генеративным ИИ.