Il panorama della governance lungoterminista delle intelligenze artificiali

Abstract

Ad alto livello, trovo utile considerare l’esistenza di uno spettro tra il lavoro di base e quello applicato. All’estremità di base c’è la ricerca strategica, che mira a identificare buoni obiettivi di alto livello per la governance lungoterminista dell’IA; poi c’è la ricerca tattica, che mira a identificare piani che aiutino a raggiungere tali obiettivi di alto livello. Passando alla parte applicata, c’è il lavoro di sviluppo delle politiche che prende questa ricerca e la traduce in politiche concrete; il lavoro che sostiene l’attuazione di tali politiche e, infine, l’effettiva attuazione di tali politiche (ad esempio da parte dei funzionari pubblici). C’è anche il lavoro di sviluppo del settore (che non si inserisce chiaramente nello spettro). Piuttosto che contribuire direttamente al problema, questo lavoro mira a creare un campo di persone che stanno svolgendo un lavoro prezioso al riguardo.

Naturalmente, questa classificazione è una semplificazione e non tutti i lavori rientrano perfettamente in una singola categoria. Si potrebbe pensare che le intuizioni derivino principalmente dall’estremità più fondamentale dello spettro a quella più applicata, ma è anche di importanza che la ricerca sia sensibile alle questioni politiche, ad esempio considerando quanto sia probabile che la vostra ricerca influenzi una proposta politica che sia politicamente fattibile. Ora esamineremo ciascuno di questi tipi di lavoro in modo più dettagliato.