Подростковый возраст технологий

Abstract

Ускоряющееся развитие искусственного интеллекта (ИИ) ведёт к скорому появлению «мощного ИИ» — систем, описываемых как распределённый коллектив сверхгениев, — и это станет серьёзнейшим испытанием для человечества. В эссе выделяются пять ключевых цивилизационных рисков и предлагаются прагматичные меры противодействия. К основным угрозам безопасности относятся риски автономии, когда передовые системы ИИ вырабатывают непредсказуемые или несогласованные цели; злоупотребления со стороны мелких акторов, связанные прежде всего с катастрофической демократизацией биологического и кибернетического оружия; и злоупотребления со стороны крупных акторов, способные привести к глобальному тоталитаризму на базе ИИ, что требует жёсткого экспортного контроля над критически важным оборудованием и законодательных ограничений на слежку с применением ИИ в демократических странах. Одновременно мировая экономика сталкивается с быстрым и повсеместным вытеснением работников и беспрецедентной концентрацией богатства, что требует корректировки макроэкономической политики и согласованных усилий отрасли, чтобы выиграть время. Технические решения, такие как конституционный ИИ и механистическая интерпретируемость, крайне важны, однако в конечном счёте преодоление этих разнонаправленных вызовов требует решительного и взвешенного политического вмешательства ради сохранения безопасности, экономической справедливости и демократической стабильности в период этого турбулентного технологического взросления. — Аннотация, сгенерированная генеративным ИИ.