La fine dell’agentività umana

Abstract

Immaginiamo spesso il rischio dell’IA come una presa di potere improvvisa collocata nel futuro, ma se stessimo già vivendo un disempowerment graduale senza neppure accorgercene? Questo film, basato sull’articolo «Disempowerment graduale: rischi esistenziali sistemici dello sviluppo incrementale dell’IA», esplora come una dipendenza crescente dall’IA possa erodere l’influenza umana molto prima che accada qualcosa di drammatico: l’automazione che rimuove silenziosamente gli esseri umani dai circuiti di retroazione economica che ci danno potere contrattuale, l’IA che consente alle idee di diffondersi nella cultura senza bisogno di partecipazione umana e gli Stati che diventano meno responsabili man mano che l’IA sostituisce lavoro, tassazione e applicazione delle norme. Nessuno di questi mutamenti richiede intenti malevoli, un’IA disallineata o una presa di potere clamorosa.