ИИ - не гонка вооружений

Abstract

Растущие способности ИИ-систем вызывают беспокойство у экспертов. Опрос исследователей в области ИИ показал, что почти половина из них считает, что машинный интеллект высокого уровня с высокой вероятностью может привести к крайне негативным последствиям, в том числе к вымиранию человечества. Это связано с тем, что ИИ может развить сверхчеловеческий интеллект и преследовать цели, противоречащие интересам человека. Хотя некоторые утверждают, что замедление развития ИИ может дать преимущество менее ответственным игрокам, динамика развития ИИ не аналогична традиционной гонке вооружений в области ИИ. В традиционной гонке вооружений одна из сторон теоретически может вырваться вперед и победить. Однако в случае с ИИ окончательным победителем может оказаться сам продвинутый ИИ, что делает стратегию быстрого развития потенциально пагубной. Несколько факторов отличают развитие ИИ от простой гонки вооружений в области ИИ: степень безопасности, достигаемая за счет более медленного прогресса; степень, в которой инвестиции одной стороны в безопасность приносят пользу всем; серьезность последствий для тех, кто отстает; возросшая опасность, создаваемая увеличением числа участников, ускоряющих развитие; а также реакции других. Чтобы избежать этой потенциальной дилеммы, необходимо отказаться от индивидуальных, нескоординированных стимулов и перейти к сотрудничеству, коммуникации и государственному регулированию. В отличие от гонки вооружений в области ИИ, оптимальным индивидуальным действием может быть медленное и осторожное продвижение, при котором глобальная безопасность ставится выше индивидуальной выгоды. – Аннотация, сгенерированная ИИ.