슈퍼인텔리전스 : 경로, 위험, 전략 / Syupeointellijeonseu

Abstract

인간의 뇌는 다른 동물들의 뇌가 갖추지 못한 몇 가지 능력을 지니고 있다. 우리 종이 지배적 위치를 차지하게 된 것은 바로 이러한 독특한 능력 덕분이다. 다른 동물들은 더 강한 근육이나 날카로운 발톱을 가졌지만, 우리는 더 영리한 뇌를 지녔다. 만약 기계 뇌가 언젠가 일반 지능에서 인간 뇌를 능가하게 된다면, 이 새로운 초지능은 매우 강력해질 수 있다. 지금 고릴라의 운명이 고릴라 자신보다 우리 인간에게 더 좌우되는 것처럼, 그때 우리 종의 운명도 기계 초지능의 행동에 달려 있게 될 것이다. 그러나 우리에게는 한 가지 이점이 있다: 우리가 먼저 움직일 수 있다는 점이다. 씨앗 AI를 구축하거나 다른 방법으로 초기 조건을 설계하여 지능 폭발을 생존 가능한 상태로 만들 수 있을까? 어떻게 통제된 폭발을 달성할 수 있을까? 이 질문에 대한 답에 가까워지려면, 우리는 흥미로운 주제와 고려 사항들의 풍경을 헤쳐 나가야 한다. 이 책을 읽고 오라클, 지니, 싱글턴에 대해, 박싱 방법, 트립와이어, 마인드 크라임에 대해, 인류의 우주적 부여와 차등적 기술 발전에 대해, 간접적 규범성, 도구적 수렴, 전체 뇌 에뮬레이션과 기술 결합에 대해, 맬서스 경제학과 디스토피아적 진화에 대해, 인공 지능과 생물학적 인지 강화, 집단 지성에 대해 배워보십시오. 이 깊이 있는 야심작이자 독창적인 저서는 험준하고 어려운 지적 영역의 광활한 지형을 신중히 헤쳐 나간다. 그럼에도 글은 매우 명료하여 모든 것이 쉽게 느껴지게 만든다. 인간 조건과 지능적 생명체의 미래에 대한 사고의 최전선으로 우리를 이끄는 완전히 매혹적인 여정을 마친 후, 닉 보스트롬의 작업에서 우리는 우리 시대의 핵심 과제에 대한 재개념화를 발견하게 된다.