Список источников против жесткого взлета ИИ

Abstract

Мне кажется, что существует значительная асимметрия в том внимании, которое уделяется аргументам в пользу правдоподобности сценариев FOOM/«жесткого взлета» искусственного интеллекта, по сравнению с вниманием, уделяемым контраргументам. Это неудивительно, учитывая, что широко известны целые книги, посвящённые аргументам «за», такие как «Суперинтеллект» Ника Бострома и «Наше последнее изобретение» Джеймса Баррата, в то время как, похоже, нет ни одной книги, в которой бы подчеркивалось обратное. А люди, скептически относящиеся к сценариям «жесткого взлета» и считающие, что есть другие вещи, более важные с их точки зрения, естественно, будут писать книги об этих других, с их точки зрения более важных вещах. В результате они посвящают изложению своих аргументов лишь эссе или несколько постов в блогах, а не полноформатные книги. Цель этого списка литературы — попытаться немного исправить эту асимметрию, указав людям на некоторые из этих постов в блогах и эссе, а также на другие ресурсы, в которых приводятся рассуждения о том, почему следует быть скептически настроенным по поводу сценария «жесткого взлета».