Lista lunga di interventi

Abstract

Una pagina Notion pubblica gestita da BlueDot Impact che presenta un elenco non esaustivo di interventi a titolo di esempio, pensato per orientare chi studia come far sì che lo sviluppo dell’IA vada bene. Gli interventi sono raggruppati in quattro sezioni: prevenire l’addestramento di sistemi di IA pericolosi (un trattato internazionale sull’IA e metodi di verifica, governance del calcolo e licenze per addestramenti di grandi dimensioni, ispezioni internazionali in stile AIEA nei laboratori di frontiera, segretezza algoritmica e una «IA scienziata» non agentica); limitare le capacità pericolose dell’IA (filtraggio dei dati di ingresso, tecniche di allineamento come la constitutional AI e l’RLHF, interpretabilità, controllo dell’IA, red teaming avversariale e sicurezza dei pesi dei modelli); resistere ad azioni pericolose dell’IA in biosicurezza (prevenzione delle pandemie, sorveglianza e contenimento, vaccini e scorte di DPI) e in cybersicurezza (refactoring verso linguaggi con memoria sicura, red teaming governativo delle infrastrutture nazionali critiche); e lavoro a livello meta (educazione pubblica, mobilitazione dei cittadini e formazione dei decisori).