ИИ вновь вызывает опасения по поводу биотерроризма. Насколько реальный этот риск?

Abstract

По мере того как передовые языковые модели становятся всё более эффективными в обработке запросов, касающихся химии и биологии, опасения по поводу биотерроризма с поддержкой ИИ вновь стали доминирующей темой в дискуссиях по вопросам безопасности. Опираясь на «Международный доклад о безопасности ИИ» и недавние демонстрации чат-ботов, дающих пользователям советы по планированию атак с использованием новых видов бактерий, вирусов и токсинов, в статье оценивается реальная вероятность того, что экстремисты или другие злоумышленники могут использовать такие способности в качестве оружия для продвижения своих идеологических целей. В ней утверждается, что соперничество великих держав за передовой ИИ отвлекает политиков от более непосредственной угрозы, исходящей от террористических групп, и призывается вновь уделить внимание защитным ограничениям по отношению к ИИ-системам общего назначения. – Аннотация, сгенерированная ИИ.