Il progetto

Abstract

Il quarto saggio della serie «Situational Awareness» sostiene che, con l’intensificarsi della corsa verso l’AGI, l’apparato di sicurezza nazionale interverrà e che, entro il 2027 o il 2028, il governo degli Stati Uniti avvierà una qualche forma di progetto nazionale in stile Manhattan sulla superintelligenza. Aschenbrenner sostiene che nessuna startup può gestire in sicurezza una tecnologia destinata ad avere conseguenze militari decisive, che i laboratori privati non riescono a proteggere i pesi dei modelli da avversari statali determinati come il PCC e che consolidare lo sforzo di frontiera sotto un programma governativo è l’unica strada realistica per sviluppare la superintelligenza in modo responsabile.