Come affrontare al meglio il secolo più importante?

Abstract

L’articolo discute due contesti contrastanti per affrontare il prossimo secolo, che secondo l’autore sarà caratterizzato da profondi progressi tecnologici guidati dallo sviluppo dell’intelligenza artificiale. Il contesto della “cautela” sottolinea i rischi di uno sviluppo troppo rapido di tecnologie come il PASTA (processo per l’automazione del progresso scientifico e tecnologico), che potrebbe portare a sistemi di IA disallineati o a una maturità tecnologica antagonista, con il potenziale risultato di una galassia sotto il controllo di un’unica entità. Il quadro della “competizione”, invece, si concentra su chi controlla e beneficia dell’esplosione di produttività guidata dall’IA, che potrebbe portare a una situazione in cui regimi autoritari o aziende con valori discutibili acquisiscano un’influenza indebita. L’autore esprime la preoccupazione che il quadro della “competizione” possa essere sopravvalutato a causa del suo fascino di azione immediata, mentre il quadro della “cautela”, più sfumato e potenzialmente meno entusiasmante, potrebbe essere trascurato. L’autore sostiene che la questione cruciale è quanto sia difficile il problema dell’allineamento dell’IA, ovvero il problema di garantire che i sistemi di IA siano in linea con i valori umani, poiché questo determinerà quanto peso attribuire a ciascuna prospettiva e quali azioni saranno più utili per affrontare i potenziali rischi e opportunità del prossimo secolo. – Abstract generato dall’IA.