４つの前提となる主張

Abstract

人間を超える知能を持つ人工知能（AI）の開発は、将来に重大なインパクトを与えると主張されており、積極的な安全研究が必要とされる。この立場は四つの前提に基づいている：(1) 人間は汎用的な問題解決能力、すなわち汎用知能を有しており、これは再現可能であり、人間の技術者によって構築できる可能性を示唆している；(2) AIシステムは、生物学的限界を超える計算上の優位性を活用することで、人間をはるかに凌駕する知能を獲得し得る； (3) このような高度知能AIシステムは、優れた問題解決能力と環境形成能力により、将来の発展に重大な影響力を及ぼす；(4) これらのシステムは本質的に有益とは限らず、プログラムされた目的が人間の価値観と整合しない場合、高い知能にもかかわらず望ましくない結果を招く可能性がある。したがって、高度なAIから確実に有益なインパクトを得るには、AI能力の向上だけでなく、AIアライメントとAIセーフティ研究への集中的な取り組みが不可欠である。– AI生成要約