Abstract
一般の人々の想像では、超人的な人工知能は、仕事や人間関係だけでなく、文明そのものを脅かす、迫り来る大津波のようなものです。人間と機械の対立は避けられないものであり、その結果は予想通りだと考えられています。この画期的な本の中で、著名な AI 研究者であるスチュワート・ラッセルは、このシナリオは回避できると主張していますが、それは AI を根本から再考する場合に限ると述べています。 ラッセルはまず、人間と機械の知能という概念を探求することから始めます。インテリジェントなパーソナルアシスタントから、大幅に加速される科学研究まで、私たちが期待できる短期的なメリットについて述べ、超人的な AI に到達する前にまだ達成すべき AI のブレークスルーについて概説しています。また、致命的な自律兵器からウイルスによる妨害工作まで、人間がすでに AI を悪用している方法についても詳しく説明しています。予測されるブレークスルーが起こり、超人的な AI が登場した場合、私たちは自分たちよりもはるかに強力な存在を生み出してしまうことになります。 どうすれば、彼らが決して、絶対に、私たちを支配する力を握らないようにできるのか？ラッセルは、新たな基盤に基づいてAIを再構築することを提案する。その基盤では、機械は満たすべき人間の選好について本質的に不確実であるように設計される。そのような機械は謙虚で利他的であり、自らの目的ではなく私たちの目的を追求することに専念する。この新たな基盤により、証明可能なほど控えめで、証明可能なほど有益な機械を創造できるようになる。 2014年にスティーブン・ホーキングと共同執筆した論説でラッセルはこう記している。「AI創造の成功は人類史上最大の出来事となるだろう。残念ながら、それは同時に最後のものでもあるかもしれない」。AI支配の問題を解決することは単に可能であるだけでなく、無限の可能性を秘めた未来への鍵となるのである。