呼吁一份国际人工智能条约：一封公开信

Abstract

一封由数百位人工智能专家、学者和公众人物签署的公开信——包括Yoshua Bengio、Max Tegmark、Gary Marcus和Victoria Krakovna——呼吁世界各国领导人谈判一份国际人工智能条约以应对其灾难性风险。该信提出了一些核心条款，例如对训练人工智能模型所用算力的全球性上限（随着算法改进而逐步收紧）、类似CERN的人工智能安全合作实验室，以及使模型能力保持在估计安全范围内的安全API。该倡议由超级预测者Tolga Bilge领导。