Golpes de Estado con IA: cómo un pequeño grupo podría utilizar la IA para hacerse con el poder

Abstract

El desarrollo de una IA con capacidades más amplias que las de los seres humanos creará una nueva y grave amenaza: los golpes de Estado impulsados por la IA. Un golpe de Estado impulsado por la IA podría ser orquestado por un grupo muy reducido, o incluso por una sola persona, y podría producirse incluso en democracias consolidadas. Una IA suficientemente avanzada introducirá tres dinámicas novedosas que aumentarán significativamente el riesgo de golpe de Estado. En primer lugar, los líderes militares y gubernamentales podrían sustituir por completo al personal humano por sistemas de IA que les sean singularmente leales, eliminando así la necesidad de conseguir partidarios humanos para un golpe de Estado. En segundo lugar, los responsables de proyectos de IA podrían crear deliberadamente sistemas de IA que les sean secretamente leales, por ejemplo, robots militares totalmente autónomos que superen las pruebas de seguridad pero que posteriormente ejecuten un golpe de Estado cuando se desplieguen en entornos militares. En tercer lugar, los altos cargos de los proyectos de IA o del Gobierno podrían obtener acceso exclusivo a capacidades sobrehumanas en el desarrollo de armas, la planificación estratégica, la persuasión y la ofensiva cibernética, y utilizarlas para aumentar su poder hasta poder dar un golpe de Estado. Para hacer frente a estos riesgos, los proyectos de IA deberían diseñar y hacer cumplir normas contra el uso impropio de la IA, auditar los sistemas en busca de lealtades secretas y compartir los sistemas de IA de vanguardia con múltiples partes interesadas. Los gobiernos deberían establecer principios para el uso gubernamental de la IA avanzada, aumentar la supervisión de los proyectos de IA de vanguardia y adquirir IA para sistemas críticos de múltiples proveedores independientes.