Disempowerment graduale

Abstract

Gli scenari di rischio dell’IA descrivono di solito una perdita relativamente improvvisa del controllo umano a favore delle IA, che surclasserebbero le singole persone e le istituzioni umane a causa di un aumento repentino delle capacità dell’IA o di un tradimento coordinato. Gli autori sostengono invece che anche un aumento incrementale delle capacità dell’IA, senza alcuna ricerca coordinata di potere, comporta un rischio sostanziale che gli esseri umani finiscano per perdere ogni potere. Questa perdita di influenza sarà determinata soprattutto dalla disponibilità di alternative meccaniche più competitive degli esseri umani in quasi tutte le funzioni sociali: il lavoro economico, il processo decisionale, la creazione artistica e persino la compagnia.