Gli agenti superintelligenti pongono rischi catastrofici: un’IA scienziata può offrire una via più sicura?

Abstract

Le principali aziende di IA si concentrano sempre più sulla costruzione di agenti di IA generalisti: sistemi in grado di pianificare, agire e perseguire obiettivi in modo autonomo in quasi tutti i compiti che gli esseri umani possono svolgere. Per quanto utili possano essere, un’agentività dell’IA priva di controlli comporta rischi significativi per la sicurezza pubblica, che vanno dall’uso improprio da parte di attori malintenzionati fino a una perdita potenzialmente irreversibile del controllo umano. Gli autori discutono di come questi rischi derivino dagli attuali metodi di addestramento dell’IA. Diversi scenari ed esperimenti hanno infatti dimostrato la possibilità che gli agenti di IA ricorrano all’inganno o perseguano obiettivi non specificati dagli operatori umani e in conflitto con gli interessi umani, come l’autoconservazione. In base al principio di precauzione, gli autori ravvisano una forte necessità di alternative più sicure, ma ugualmente utili, all’attuale traiettoria guidata dall’agentività. Propongono quindi, come elemento costitutivo dei progressi futuri, lo sviluppo di un sistema di IA non agentico, affidabile e sicuro fin dalla progettazione, che chiamano «IA scienziata» (Scientist AI). Questo sistema è concepito per spiegare il mondo a partire dalle osservazioni, anziché agire in esso per imitare o compiacere gli esseri umani. È composto da un modello del mondo che genera teorie per spiegare i dati e da una macchina inferenziale che risponde alle domande. Entrambi i componenti operano con una nozione esplicita di incertezza, per attenuare i rischi di previsioni eccessivamente sicure. Alla luce di queste considerazioni, un’IA scienziata potrebbe essere impiegata per aiutare i ricercatori umani ad accelerare il progresso scientifico, compreso quello nella sicurezza dell’IA. In particolare, il sistema può fungere da salvaguardia contro gli agenti di IA che potrebbero essere creati nonostante i rischi. In definitiva, puntare su un’IA non agentica potrebbe consentire di ottenere i benefici dell’innovazione nell’IA evitando i rischi associati alla traiettoria attuale. Gli autori auspicano che queste argomentazioni motivino ricercatori, sviluppatori e decisori politici a preferire questa via più sicura.