Переосмысление моделей угроз СИИ

Abstract

Ричард Нго утверждает, что традиционное разграничение между злоупотреблением ИИ и его несогласованностью не имеет полезности ни с технической точки зрения, ни с точки зрения управления: по мере того как системы приобретают все большее автономное поведение, злоупотребление ИИ по сути сводится к тому, чтобы дать ему указание действовать автономно, что стирает границу между этими двумя категориями. Он предлагает заменить эту бинарную оппозицию концепцией \emphнесогласованных коалиций — групп людей и ИИ-систем, совместно стремящихся к незаконному захвату власти — и отмечает, что такая переформулировка учитывает разнообразные точки зрения на угрозы, от рисков децентрализации до опасений по поводу концентрации власти, что потенциально может объединить разрозненные исследовательские сообщества, занимающиеся вопросами безопасности. – Аннотация, сгенерированная ИИ.