Le paysage de la gouvernance long-termiste de l'IA : un aperçu de base

Abstract

D’un point de vue général, je trouve utile de considérer qu’il existe un spectre entre le travail fondamental et le travail appliqué. À l’extrémité fondamentale, on trouve la recherche stratégique, qui vise à identifier des objectifs de haut niveau pour la gouvernance long-termiste de l’IA ; puis il y a la recherche tactique, qui vise à identifier les plans qui permettront d’atteindre ces objectifs de haut niveau. Du côté appliqué, il y a le travail d’élaboration des politiques qui prend cette recherche et la traduit en politiques concrètes ; le travail qui plaide en faveur de la mise en œuvre de ces politiques, et enfin la mise en œuvre effective de ces politiques (par exemple par les fonctionnaires). Il y a également le travail de constitution d’un champ (qui ne s’inscrit pas clairement dans ce spectre). Plutôt que de contribuer directement au problème, ce travail vise à constituer un réseau de personnes qui effectuent un travail précieux dans ce domaine.

Bien sûr, cette classification est une simplification et tous les travaux ne s’inscrivent pas parfaitement dans une seule catégorie. On pourrait penser que les connaissances s’écoulent principalement de l’extrémité la plus fondamentale vers l’extrémité la plus appliquée du spectre, mais il est également d’importance que la recherche soit sensible aux préoccupations politiques, par exemple en considérant dans quelle mesure votre recherche est susceptible d’alimenter une proposition politique politiquement réalisable. Nous allons maintenant examiner plus en détail chacun de ces types de travaux.