Искусственное страдание: аргумент в пользу глобального моратория на синтетическую феноменологию

Abstract

Данная статья состоит из критической и конструктивной частей. В первой части сформулировано политическое требование, основанное на этических соображениях: до 2050 года должен быть введен глобальный мораторий на синтетическую феноменологию, строго запрещающий все исследования, которые непосредственно направлены на появление искусственного сознания на постбиотических носителях или сознательно рискуют его появлением. Вторая часть закладывает первые концептуальные основы для открытого процесса, направленного на постепенное уточнение первоначального моратория, увязывая его со все более детализированным, рациональным, основанным на доказательствах и, как можно надеяться, этически убедительным набором ограничений. Систематическая исследовательская программа, определяемая этим процессом, может привести к постепенной переформулировке первоначального моратория. Это может привести к отмене моратория даже до 2050 года, в продолжение строгого запрета после 2050 года, либо к постепенно развивающемуся, более содержательному и этически усовершенствованному взгляду на то, какие — если вообще какие-либо — виды сознательного опыта мы хотим реализовать в ИИ-системах.