Когда десятилетия превращаются в дни: разбор AI 2027

Abstract

Разбор сценария AI 2027, выделяющий «действующие вещества» его прогноза о появлении искусственного суперинтеллекта в течение нескольких лет. Ньюман формулирует четыре условия. ИИ должен радикально ускорить собственную разработку, достигнув заложенного в сценарии 2500-кратного ускорения исследований и разработок в области ИИ — за счёт более удачного отбора экспериментов, снижения издержек и более грамотного распределения ресурсов, что потребовало бы автоматизировать существенно больше 80 % исследовательской работы. Нынешний «зазубренный» профиль возможностей должен выровняться, чтобы модели справлялись со сложными, субъективными и долгосрочными задачами — крупными программными проектами, корпоративной стратегией, — а не только с тем, что легко измерить бенчмарком. Прогресс должен происходить преимущественно внутри лаборатории, за счёт моделирования, а не той медленной обратной связи от реального мира, которая сдерживала такие технологии, как беспилотные автомобили. Наконец, первого сверхчеловеческого программиста люди должны создать практически без посторонней помощи, поскольку сама петля обратной связи не может запуститься с нуля. Автор добавляет пятое, неявное условие — чтобы не возникло непредвиденных препятствий — и ссылается на закон Хофштадтера: прогноз, требующий одновременных прорывов сразу на нескольких направлениях, вряд ли уложится в срок. — Аннотация, сгенерированная генеративным ИИ.