Introducción al control de la IA

Abstract

El control de la IA es una agenda de investigación distinta de la alineación de la IA: una IA alineada es aquella que no quiere dañar a los humanos, mientras que una IA controlada es aquella que físicamente no puede causar daño con independencia de su intención. El artículo explica por qué las medidas de control pueden ser sustancialmente más fáciles de implementar que la alineación, describe enfoques técnicos concretos —como monitorear un modelo de frontera no confiable con un modelo más pequeño y confiable— y reconoce los límites de esta agenda, en particular que el control es una medida temporal y que su eficacia depende de una adopción generalizada por parte de la industria.