L’adolescenza della tecnologia

Abstract

La traiettoria accelerata dell’intelligenza artificiale (IA) conduce allo sviluppo imminente di sistemi di “IA potente” — definiti come un collettivo distribuito di super-geni — che costituiscono una prova profonda per l’umanità. Questo saggio individua cinque rischi civilizzazionali fondamentali e propone contromisure pragmatiche. Tra le principali minacce alla sicurezza figurano i rischi di autonomia, in cui i sistemi di IA avanzati sviluppano obiettivi imprevedibili o disallineati; l’uso improprio da parte di attori di piccole dimensioni, che riguarda soprattutto la catastrofica democratizzazione delle armi biologiche e informatiche; e l’uso improprio da parte di grandi attori, che potrebbe sfociare in un totalitarismo globale reso possibile dall’IA e che rende necessari severi controlli sulle esportazioni di hardware critico e limiti giuridici alla sorveglianza basata sull’IA nelle democrazie. Parallelamente, l’economia mondiale è esposta a una rapida e diffusa sostituzione del lavoro e a una concentrazione della ricchezza senza precedenti, il che richiede aggiustamenti della politica macroeconomica e sforzi coordinati del settore per guadagnare tempo. Soluzioni tecniche come l’IA costituzionale e l’interpretabilità meccanicistica sono essenziali ma, in ultima analisi, superare queste sfide multiassiali richiede un intervento politico deciso e accorto per preservare la sicurezza, l’equità economica e la stabilità democratica durante questa turbolenta adolescenza tecnologica. – Abstract generato dall’IA.