Superintelligence

Abstract

Le cerveau humain possède certaines capacités dont les cerveaux des autres animaux sont dépourvus. C’est à ces capacités distinctives que notre espèce doit sa position dominante. Les autres animaux ont des muscles plus puissants ou des griffes plus acérées, mais nous avons un cerveau plus intelligent. Si un jour les cerveaux d’intelligence artificielle surpassent les cerveaux humains en matière d’intelligence générale, cette nouvelle superintelligence pourrait devenir très puissante. Tout comme le sort des gorilles dépend désormais davantage de nous, les humains, que des gorilles eux-mêmes, le sort de notre espèce dépendrait alors des actions de la superintelligence artificielle. Mais nous avons un avantage : nous pouvons faire le premier pas. Sera-t-il possible de construire une IA embryonnaire ou de créer les conditions initiales permettant de survivre à une explosion d’intelligence ? Comment pourrait-on parvenir à une détonation contrôlée ? Pour nous rapprocher d’une réponse à cette question, nous devons explorer un paysage fascinant de sujets et de considérations. Lisez ce livre et découvrez les oracles, les génies, les Singleton ; les méthodes de mise en boîte, les pièges et le crime contre l’esprit ; les dons cosmiques de l’humanité et le développement technologique différentiel ; la normativité indirecte, la convergence instrumentale, l’émulation du cerveau entier et les couplages technologiques ; l’économie malthusienne et l’évolution dystopique ; l’intelligence artificielle, l’amélioration de la cognition biologique et l’intelligence collective. Cet ouvrage profondément ambitieux et original se fraye prudemment un chemin à travers un vaste terrain intellectuel d’une difficulté redoutable. Pourtant, l’écriture est si lucide qu’elle rend tout cela facile. Après un voyage passionnant qui nous emmène aux frontières de la réflexion sur la condition humaine et l’avenir de la vie intelligente, nous trouvons dans l’œuvre de Nick Bostrom rien de moins qu’une reconceptualisation de la tâche essentielle de notre époque.