极端权力集中

Abstract

先进AI技术可能使其创造者或其他掌控者得以尝试并实现前所未有的社会权力垄断。在特定情况下，他们可能利用这些系统控制整个经济体系、军事力量乃至政府机构。此类由单个人或小团体实施的权力垄断，将对全人类构成重大威胁。