Постепенная утрата влияния

Abstract

Сценарии рисков ИИ обычно рисуют относительно внезапную потерю человеческого контроля в пользу ИИ, которые переигрывают отдельных людей и человеческие институты благодаря резкому скачку возможностей или согласованному предательству. Авторы же утверждают, что даже постепенный рост возможностей ИИ — без какого-либо скоординированного стремления к власти — создаёт существенный риск того, что люди в конце концов лишатся влияния. Эта утрата влияния будет вызвана прежде всего появлением машинных альтернатив, более конкурентоспособных, чем люди, почти во всех общественных функциях: в экономическом труде, принятии решений, художественном творчестве и даже в общении.