Pérdida gradual de poder

Abstract

La proliferación de sistemas avanzados de IA puede llevar a la humanidad a una pérdida gradual de poder, incluso si tienen éxito los esfuerzos por evitar que estos sistemas busquen acumular poder o conspiren contra nosotros. La humanidad puede tener incentivos para ceder más control a las IA, otorgándoles poder sobre la economía, la política, la cultura y otras áreas. Con el tiempo, es posible que los intereses de la humanidad queden relegados y que nuestro control sobre el futuro se debilite, lo que podría constituir una catástrofe existencial.