Pérdida gradual de poder

Abstract

Los escenarios de riesgo de la IA suelen describir una pérdida relativamente súbita del control humano en favor de las IA, que superarían en estrategia a las personas y a las instituciones humanas debido a un aumento repentino de las capacidades de la IA o a una traición coordinada. Sin embargo, los autores sostienen que incluso un aumento incremental de las capacidades de la IA, sin ninguna búsqueda coordinada de poder, plantea un riesgo sustancial de que los seres humanos acaben perdiendo su poder. Esta pérdida de influencia humana estará impulsada sobre todo por la disponibilidad de alternativas mecánicas más competitivas que las personas en casi todas las funciones sociales, como el trabajo económico, la toma de decisiones, la creación artística e incluso la compañía.