Лаборатория против жизни: разбор «AI как обычной технологии»

Abstract

Продолжение авторского разбора AI 2027: здесь рассматривается работа Арвинда Нараянана и Саяша Капура «AI как обычная технология» и выявляются допущения, из которых следует её прогноз о преобразующем воздействии в масштабе десятилетий. Согласно этой работе, прогресс проходит через изобретение, инновацию, принятие и распространение, причём каждый этап зависит от обратной связи, которую можно получить лишь в реальном применении: отсюда разница между двумя десятилетиями полевых испытаний Waymo и тремя часами самообучения AlphaZero. Ньюман выделяет ключевые утверждения: результаты на бенчмарках систематически завышают реальные возможности, поскольку чем легче измерить задачу, тем меньше она похожа на сложную, зависящую от контекста профессиональную работу; внедрение тормозят коммерческая тайна, неявные организационные знания и ограничения приватности; принятию мешают регуляторные барьеры и соображения безопасности, из-за чего примерно 40-процентный уровень освоения генеративного ИИ покрывает лишь 0,5–3,5 % фактических рабочих часов; неустранимая стохастичность ограничивает возможности ИИ в таких областях, как геополитическое прогнозирование и убеждение; за человеком сохранится надзорная роль в постановке задач и обеспечении безопасности; наконец, больший интеллект не превращается автоматически в большую власть. В заключение приводятся контраргументы сторонников коротких сроков. — Аннотация, сгенерированная генеративным ИИ.