Superintelligenza: tendenze, pericoli, strategie

Abstract

Il cervello umano possiede alcune capacità che mancano ai cervelli degli altri animali. È proprio a queste capacità distintive che la nostra specie deve la sua posizione dominante. Gli altri animali hanno muscoli più forti o artigli più affilati, ma noi abbiamo cervelli più intelligenti. Se un giorno le intelligenze artificiali superano quelle umane in termini di intelligenza generale, questa nuova superintelligenza potrebbe diventare molto potente. Così come il destino dei gorilla dipende ora più da noi umani che dai gorilla stessi, il destino della nostra specie dipenderebbe dalle azioni della superintelligenza artificiale. Ma abbiamo un vantaggio: possiamo fare la prima mossa. Sarà possibile costruire un’intelligenza artificiale embrionale o comunque progettare le condizioni iniziali in modo da rendere sopravvivibile un’esplosione di intelligenza? Come si potrebbe ottenere una detonazione controllata? Per avvicinarci a una risposta a questa domanda, dobbiamo attraversare un affascinante panorama di argomenti e considerazioni. Leggete il libro e scoprite gli oracoli, i geni, i singleton; i metodi di boxing, i tripwire e i crimini mentali; il dono cosmico dell’umanità e lo sviluppo tecnologico differenziale; la normativit\303\240 indiretta, la convergenza strumentale, l’emulazione completa del cervello e gli accoppiamenti tecnologici; l’economia maltusiana e l’evoluzione distopica; l’intelligenza artificiale, il potenziamento cognitivo biologico e l’intelligenza collettiva. Questo libro profondamente ambizioso e originale si fa strada con cautela attraverso un vasto terreno intellettuale di difficile accesso. Eppure la scrittura è così lucida che in qualche modo rende tutto facile. Dopo un viaggio assolutamente avvincente che ci porta alle frontiere del pensiero sulla condizione umana e sul futuro della vita intelligente, troviamo nell’opera di Nick Bostrom nientemeno che una riconcettualizzazione del compito essenziale del nostro tempo.