La governance della superintelligenza

Abstract

I fondatori di OpenAI sostengono che la superintelligenza — sistemi di IA enormemente più capaci persino di una IAG — sia concepibile entro dieci anni e richieda una governance diversa da quella applicata ai modelli odierni. Indicano tre punti di partenza. Primo, un certo grado di coordinamento tra i principali progetti di sviluppo, sia attraverso un progetto congiunto sostenuto dai grandi governi, sia attraverso un accordo collettivo che limiti il tasso annuo di crescita delle capacità alla frontiera. Secondo, un’autorità internazionale sul modello dell’AIEA, dotata del potere di ispezionare i sistemi, imporre audit, verificare la conformità agli standard di sicurezza e limitare i livelli di dispiegamento e di sicurezza di qualsiasi progetto che superi una determinata soglia di capacità o di potenza di calcolo, con il monitoraggio del calcolo e dei consumi energetici come leva pratica e l’adesione volontaria delle aziende come primo passo. Terzo, la capacità tecnica di rendere sicura una superintelligenza, che gli autori considerano un problema di ricerca aperto. I modelli al di sotto di una soglia di capacità significativa sono esplicitamente esclusi da questo regime, poiché i loro rischi appaiono paragonabili a quelli di altre tecnologie di internet. La governance dei sistemi più potenti e le decisioni sul loro dispiegamento devono comunque essere sottoposte a una forte supervisione pubblica, e i loro limiti e valori predefiniti dovrebbero essere decisi democraticamente. Gli autori concludono difendendo la prosecuzione dello sviluppo per due ragioni: i benefici attesi e la loro convinzione che fermare la creazione della superintelligenza richiederebbe qualcosa di simile a un regime di sorveglianza globale e non funzionerebbe comunque con certezza. – Abstract generato dall’IA.