Abstract
대중의 상상 속에서 초인적인 인공 지능은 일자리와 인간관계뿐만 아니라 문명 자체를 위협하는 다가오는 거대한 파도다. 인간과 기계 사이의 갈등은 피할 수 없는 것으로 여겨지며 그 결과는 너무나도 예측 가능하다. 이 획기적인 책에서 저명한 AI 연구자 스튜어트 러셀은 이러한 시나리오를 피할 수 있다고 주장하지만, 오직 우리가 AI를 근본부터 재고할 때만 가능하다고 말한다. 러셀은 먼저 인간과 기계의 지능 개념을 탐구한다. 지능형 개인 비서부터 급속히 가속화된 과학 연구에 이르기까지 우리가 기대할 수 있는 단기적 이점을 설명하고, 초인적 인공지능에 도달하기 전에 반드시 이뤄져야 할 AI 기술의 돌파구를 제시한다. 또한 치명적 자율 무기부터 바이러스식 사보타주에 이르기까지 인간이 이미 발견한 AI 오용 방식들을 상세히 기술한다. 예측된 기술적 돌파구가 실현되고 초인적 인공지능이 등장한다면, 우리는 우리 자신보다 훨씬 강력한 존재를 창조해낸 셈이 될 것이다. 어떻게 하면 그들이 절대 우리를 지배하지 못하게 할 수 있을까? 러셀은 새로운 기반 위에서 AI를 재구축할 것을 제안한다. 이 기반에 따르면 기계는 충족해야 할 인간 선호에 대해 본질적으로 불확실하도록 설계된다. 이러한 기계는 겸손하고 이타적이며, 자신들의 목표가 아닌 우리의 목표를 추구하도록 헌신할 것이다. 이 새로운 기반은 증명 가능한 겸손함과 증명 가능한 유익성을 지닌 기계의 창조를 가능하게 할 것이다. 러셀은 스티븐 호킹과 공동 집필한 2014년 사설에서 이렇게 썼다. “인공지능 개발 성공은 인류 역사상 가장 큰 사건이 될 것이다. 불행히도, 그것은 또한 마지막 사건이 될 수도 있다.” 인공지능 통제 문제 해결은 가능할 뿐만 아니라, 무한한 가능성의 미래를 여는 열쇠이다.