AGI安全的职业建议

Abstract

面向考虑投身AGI安全工作者的职业建议，围绕三大领域展开：对齐研究、AI治理，以及实验室治理。Ngo强调通过参与具有快速反馈循环的实际工作来找到个人的契合度，指出对齐研究当前受制于导师资源的稀缺，并勾勒了他认为最有前景的研究方向——包括可扩展监督、机制可解释性和对齐理论。他还指出一些他认为被高估的方向，并提供了用于培养技能的具体资源。