Краткий обзор на работу Эрика Дрекслера по рефреймингу безопасности ИИ

Abstract

В этом посте приводится краткое изложение статьи «Переосмысление суперинтеллекта: всеобъемлющие ИИ-сервисы как общий интеллект». (Я написал его в 2017 году, поэтому он не обязательно соответствует самой последней версии работы Дрекслера.)

Я считаю работу Дрекслера очень интересной, поскольку у него несколько необычный взгляд на ИИ. Я считаю, что его идеи имеют определенную ценность, и мне нравится, что он ставит под сомнение ключевые допущения. Но я не совсем уверен, что согласился бы со всеми деталями, и думаю, что мы должны относиться к ИИ с гораздо большей долей неопределенности, чем это часто (неявно) предполагается в его текстах.

Ключевые идеи таковы:

Он считает, что СИИ не обязательно будет похож на агента. Вместо этого мы могли бы создать «всеобъемлющие ИИ-сервисы» (CAIS), которые будут иметь суперинтеллектуальный ИИ, но не будут действовать как непрозрачный агент. Он считает, что обычное понятие интеллекта ошибочно и что ИИ радикально отличается от человеческого интеллекта. Он считает, что люди могут сохранить контроль над стратегическими решениями высокого уровня. Ниже я кратко изложу главы, которые мне показались наиболее интересными.