Une lettre personnelle sur l'IA transformatrice

Abstract

Les progrès rapides de l’intelligence artificielle, portés par l’ampleur de la puissance de calcul et des données d’apprentissage, laissent entrevoir que l’intelligence artificielle pourrait bientôt automatiser la quasi-totalité du travail cognitif et physique humain. Cette trajectoire laisse présager une accélération des progrès scientifiques et économiques, dans laquelle des avancées qui auraient normalement pris des siècles pourraient se produire en quelques années, offrant ainsi des opportunités sans précédent en matière d’abondance matérielle et d’éradication des maladies. Cependant, cette transition comporte des risques graves, voire catastrophiques, notamment l’utilisation de ces systèmes à des fins militaires pour créer des menaces biologiques, la centralisation extrême du pouvoir politique et économique, ainsi que la perte potentielle du contrôle humain sur des entités autonomes dont les mécanismes internes restent mal compris. Malgré ces dangers existentiels et les avertissements lancés par d’éminents chercheurs, les pressions concurrentielles et commerciales mondiales continuent d’accélérer le développement. L’atténuation de ces risques nécessite une coordination internationale pour gérer la vitesse de développement, ainsi qu’une réaffectation systémique du capital humain vers la recherche en matière de sécurité, les protocoles d’alignement et les cadres de gouvernance, afin de garantir que l’humanité conserve son pouvoir d’action sur sa trajectoire technologique. – Résumé généré par l’IA.