Что произойдёт, если ИИ будет становиться всё умнее?

Abstract

Экстраполяция будущего прогресса ИИ по временной шкале — от современных чат-ботов до будущего ИИ, значительно превосходящего всё человечество вместе взятое. Исходя из текущих тенденций, ожидается, что ИИ станет AGI (общим искусственным интеллектом), который, в свою очередь, будет способствовать развитию ИИ и самосовершенствоваться, что приведёт к ASI (искусственному сверхразуму) и, в конечном счёте, к «богоподобному» ИИ, представляющему серьёзную экзистенциальную угрозу для человечества. Создано в партнёрстве с ControlAI.