Стратегические концепции в регуляции ИИ

Abstract

Какое будущее мы хотим для продвинутого ИИ? Существует множество возможных «стратегических концепций» того, как пройти переход к суперинтеллекту. Это не просто академический вопрос: от того, какую концепцию вы предпочитаете, зависит, считаете ли вы, что США следует наращивать отрыв от Китая, должны ли государства взять под контроль разработку ИИ и является ли международное сотрудничество необходимым или контрпродуктивным. В этой статье выделяются девять различных стратегических концепций, упорядоченных по двум осям — частный контроль против государственного и распределённая власть против централизованной, — от конкурирующих частных проектов до глобального проекта под руководством государств. Автор кратко излагает расходящиеся концепции, их последствия для политики и те технические и институциональные переменные, которые определяют, какие из них наиболее осуществимы и насколько каждая снижает риски захвата власти несогласованным ИИ, войны между великими державами и крайней концентрации власти.