El proyecto

Abstract

El cuarto ensayo de la serie «Situational Awareness» sostiene que, a medida que se intensifique la carrera hacia la IAG, el aparato de seguridad nacional se involucrará y, hacia 2027 o 2028, el gobierno de Estados Unidos lanzará algún tipo de proyecto nacional al estilo Manhattan sobre superinteligencia. Aschenbrenner argumenta que ninguna empresa emergente puede gestionar de forma segura una tecnología que resultará militarmente decisiva, que los laboratorios privados no pueden proteger los pesos de sus modelos frente a adversarios estatales determinados como el PCCh, y que consolidar el esfuerzo de frontera bajo un programa dirigido por el gobierno es la única vía realista para desarrollar la superinteligencia con responsabilidad.