Introduzione al controllo dell'IA

Abstract

Il controllo dell’IA è un’agenda di ricerca distinta dall’allineamento dell’IA: un’IA allineata è quella che non vuole nuocere agli umani, mentre un’IA controllata è quella che fisicamente non può causare danni indipendentemente dalla sua intenzione. L’articolo spiega perché le misure di controllo possano essere sostanzialmente più facili da implementare rispetto all’allineamento, descrive approcci tecnici concreti — come monitorare un modello di frontiera non affidabile con un modello più piccolo e affidabile — e riconosce i limiti dell’agenda, in particolare che il controllo è una misura temporanea e che la sua efficacia dipende da un’adozione diffusa da parte dell’intera industria.