Призыв к международному договору по ИИ: открытое письмо

Abstract

Открытое письмо, подписанное сотнями экспертов по ИИ, учёных и общественных деятелей — в том числе Йошуа Бенджио, Максом Тегмарком, Гэри Маркусом и Викторией Краковной — призывающее мировых лидеров к переговорам о заключении международного договора по искусственному интеллекту для противодействия его катастрофическим рискам. В письме предлагаются такие базовые положения, как глобально согласованные пороговые значения объёма вычислений, используемых для обучения моделей ИИ (с постепенным их снижением по мере алгоритмических улучшений), совместная лаборатория по безопасности ИИ по образцу ЦЕРН и безопасные API, удерживающие возможности моделей в пределах оценочно безопасных границ. Инициатива возглавляется супер-прогнозистом Толгой Бильге.