Superinteligencia: caminos, peligros, estrategias

Abstract

El cerebro humano tiene algunas capacidades de las que carecen los cerebros de otros animales. Es a estas capacidades distintivas a las que nuestra especie debe su posición dominante. Otros animales tienen músculos más fuertes o garras más afiladas, pero nosotros tenemos cerebros más inteligentes. Si algún día los cerebros de las máquinas llegan a superar a los cerebros humanos en inteligencia general, entonces esta nueva superinteligencia podría volverse muy poderosa. Así como el destino de los gorilas ahora depende más de nosotros, los humanos, que de los propios gorilas, el destino de nuestra especie dependería entonces de las acciones de la superinteligencia de las máquinas. Pero tenemos una ventaja: podemos dar el primer paso. ¿Será posible construir una IA inicial o diseñar de otro modo las condiciones iniciales para que la explosión de inteligencia sea sobrevivible? ¿Cómo se podría lograr una detonación controlada? Para acercarnos a la respuesta a esta pregunta, debemos adentrarnos en un fascinante panorama de temas y consideraciones. Lea el libro y aprenda sobre oráculos, genios y singleton; sobre métodos de boxeo, cables trampa y crimen mental; sobre la dotación cósmica de la humanidad y el desarrollo tecnológico diferencial; la normatividad indirecta, la convergencia instrumental, la emulación de cerebro completo y los acoplamientos tecnológicos; la economía maltusiana y la evolución distópica; la inteligencia artificial, la mejora de la cognición biológica y la inteligencia colectiva. Este libro profundamente ambicioso y original se abre camino con cuidado a través de un vasto terreno intelectual de dificultad intimidante. Sin embargo, la escritura es tan lúcida que de alguna manera hace que todo parezca fácil. Después de un viaje absolutamente fascinante que nos lleva a las fronteras del pensamiento sobre la condición humana y el futuro de la vida inteligente, encontramos en la obra de Nick Bostrom nada menos que una reconceptualización de la tarea esencial de nuestro tiempo.