Длинный список интервенций

Abstract

Публичная страница Notion, поддерживаемая BlueDot Impact, представляющая неисчерпывающий список примеров мер, призванный сориентировать учащихся в том, как сделать развитие ИИ благополучным. Меры сгруппированы в четыре раздела: предотвращение обучения опасных систем ИИ (международный договор по ИИ и методы верификации, управление вычислениями и лицензирование крупных обучающих запусков, международный мониторинг фронтирных лабораторий по образцу МАГАТЭ, алгоритмическая секретность и неагентный «ИИ-учёный»); ограничение опасных возможностей ИИ (фильтрация входных данных, методы согласования, такие как конституциональный ИИ и RLHF, интерпретируемость, контроль над ИИ, состязательное red teaming и защита весов моделей); противостояние опасным действиям ИИ в биобезопасности (предотвращение пандемий, надзор и сдерживание, вакцины и запасы СИЗ) и в кибербезопасности (перевод на языки с безопасной работой с памятью, государственное red teaming критической национальной инфраструктуры); а также мета-работа (просвещение общественности, мобилизация граждан и обучение лиц, принимающих решения).