Consigli di carriera per la sicurezza dell'IAG

Abstract

Consigli di carriera per chi sta pensando di lavorare sulla sicurezza dell’AGI, organizzati intorno a tre ambiti: ricerca sull’allineamento, governance dell’IA e governance dei laboratori. Ngo sottolinea l’importanza di trovare la propria compatibilità personale attraverso il lavoro pratico con cicli di feedback rapidi, sostiene che la ricerca sull’allineamento è attualmente limitata dalla disponibilità di mentorship e delinea le direzioni di ricerca che ritiene più promettenti — tra cui la supervisione scalabile, l’interpretabilità meccanicistica e la teoria dell’allineamento. Segnala inoltre alcune direzioni che ritiene sopravvalutate e indica risorse concrete per lo sviluppo delle competenze.