Стабильный тоталитаризм

Abstract

Исследование «стабильного тоталитаризма» — сценария, при котором глобальный режим использует новые технологии, чтобы навсегда лишить человечество его долгосрочного потенциала, — как примера того, что Тоби Орд называет невосстановимой антиутопией. В видео рассматриваются технологии, которые могут склонить чашу весов в сторону централизованного контроля (массовое видеонаблюдение на основе ИИ, автоматизированная цензура с помощью больших языковых моделей и появляющиеся исследования по чтению мозговой активности), а затем обсуждаются возможные контрмеры: узконаправленное регулирование, инженерия с сохранением конфиденциальности (проиллюстрированная системой уведомлений о контактах Apple и Google, разработанной во время пандемии Covid-19) и укрепление демократических институтов. В заключение рассматривается противоречие между глобальной координацией, необходимой для противодействия таким рискам, как несогласованный ИИ и искусственно созданные пандемии, и рисками тоталитаризма, которые может порождать сама широкая слежка.