Мысли о паузе в разработках ИИ

Abstract

В этой статье рассматриваются аргументы «за» и «против» призывов к приостановке разработки искусственного интеллекта. Сторонники приостановки подчеркивают необходимость обеспечить, чтобы меры по безопасности ИИ и его регулированию успевали за стремительным развитием способностей ИИ. Однако решаемость и потенциальные преимущества такой приостановки остаются неопределенными, особенно по сравнению с альтернативными подходами, такими как сосредоточение внимания на обеспечении безопасности ИИ в самых неблагоприятных сценариях или снижение s-рисков (рисков, связанных с астрономическими масштабами страданий). Распространенным недостатком дискуссии о приостановке развития ИИ является ее упрощенная постановка в формате «гибель против отсутствия гибели», которая игнорирует возможность серьезных страданий в будущем, контролируемом людьми. С точки зрения, ориентированной на страдания, неясно, является ли будущее, контролируемое людьми с использованием передового ИИ, предпочтительным по сравнению с будущим, в котором контроль утрачен. Хотя обеспечение предотвращения катастрофических последствий, контролируемых ИИ, является моральным императивом, равное внимание следует уделять потенциалу катастрофических последствий, контролируемых людьми. Поэтому не очевидно, что пропаганда паузы в развитии ИИ является наиболее эффективным подходом к уменьшению будущих страданий. – Аннотация, сгенерированная ИИ.