Colpi di Stato abilitati all'IA: come un piccolo gruppo potrebbe utilizzare l’IA per prendere il potere

Abstract

Lo sviluppo di un’IA dalle capacità superiori a quelle umane creerà una nuova e grave minaccia: i colpi di Stato abilitati all’IA. Un colpo di Stato abilitato all’IA potrebbe essere orchestrato da un gruppo molto ristretto, o anche da una sola persona, e potrebbe verificarsi persino in democrazie consolidate. Un’IA sufficientemente avanzata introdurrà tre dinamiche inedite che aumenteranno significativamente il rischio di colpo di Stato. In primo luogo, i vertici militari e governativi potrebbero sostituire completamente il personale umano con sistemi di IA che siano assolutamente fedeli a loro, eliminando la necessità di ottenere sostenitori umani per un colpo di Stato. In secondo luogo, i responsabili dei progetti di IA potrebbero costruire deliberatamente sistemi di IA che siano segretamente fedeli a loro, ad esempio robot militari completamente autonomi che superino i test di sicurezza ma che in seguito eseguano un colpo di Stato una volta dispiegati in contesti militari. In terzo luogo, gli alti funzionari all’interno dei progetti di IA o del governo potrebbero ottenere accesso esclusivo a capacità sovrumane nello sviluppo di armi, nella pianificazione strategica, nella persuasione e negli attacchi informatici, e utilizzarle per accrescere il proprio potere fino a quando non saranno in grado di organizzare un colpo di stato. Per affrontare questi rischi, i progetti di IA dovrebbero elaborare e applicare regole contro l’uso improprio dell’IA, sottoporre i sistemi a verifiche per individuare lealtà segrete e condividere i sistemi di IA di frontiera con più parti interessate. I governi dovrebbero stabilire principi per l’uso governativo dell’IA avanzata, aumentare la supervisione dei progetti di IA di frontiera e procurarsi l’IA per i sistemi critici da più fornitori indipendenti.