СИИ, государства и свободные общества

Abstract

В статье рассматривается, как искусственный интеллект общего назначения (AGI) может коренным образом изменить хрупкое равновесие между силой государства и индивидуальной свободой, на котором держатся свободные общества. Опираясь на концепцию «узкого коридора» Аджемоглу и Робинсона, авторы утверждают, что AGI создаёт специфические риски сдвига обществ либо к «деспотическому Левиафану» — через усиление государственного надзора и контроля, — либо к «отсутствующему Левиафану» — через размывание легитимности государства по отношению к негосударственным акторам, усиленным AGI. Используя теорию государственного управления и последние достижения в возможностях ИИ, они анализируют, как эта динамика может разворачиваться по трём основным каналам: автоматизация дискреционных решений внутри ведомств, эволюция бюрократических структур в сторону системных архитектур и трансформация механизмов демократической обратной связи. Анализ выявляет конкретные режимы отказа, способные дестабилизировать либеральные институты. Усиление государственных возможностей за счёт AGI может обеспечить беспрецедентный надзор и контроль и закрепить авторитарные практики. Напротив, быстрое распространение возможностей AGI среди негосударственных акторов может подорвать легитимность государства и управляемость. Авторы показывают, как эти риски по-разному проявляются на микроуровне отдельных бюрократических решений, мезоуровне организационной структуры и макроуровне демократических процессов. Чтобы сохранить узкий коридор свободы, они предлагают рамку управления, в которой особое место занимают надёжные технические предохранители, гибридные институциональные решения, сохраняющие содержательный человеческий контроль, и адаптивные механизмы регулирования.