干预措施长列表

Abstract

BlueDot Impact维护的一份公开Notion页面，以非穷尽的示例干预措施清单帮助学习者了解如何让人工智能的发展走向良好结果。这些干预措施被分为四个部分：防止危险AI系统被训练出来（一项国际AI条约及其核查方法、算力治理与大规模训练许可、按国际原子能机构模式对前沿实验室进行国际监督、算法保密，以及非能动的「科学家AI」）；限制AI的危险能力（输入数据过滤、宪法式AI与RLHF等对齐技术、可解释性、AI控制、对抗性红队演练，以及模型权重安全）；抵御AI造成的危险行动，涵盖生物安全（预防大流行、监测与遏制、疫苗与个人防护设备储备）和网络安全（将代码重构为内存安全语言、由政府对关键国家基础设施进行红队测试）；以及元层面的工作（公众教育、动员公民和培训决策者）。