¿Qué es la alineación de la inteligencia artificial?

Abstract

Este artículo explica los conceptos clave que surgen en el contexto de la alineación de la IA. Estos términos no son más que intentos de esbozar las ideas subyacentes, y la importancia radica precisamente en esas ideas. No existe un consenso estricto sobre qué nombre debe corresponder a cada idea, y cada persona utiliza los términos de forma diferente.1 Este artículo explica cómo utilizamos estos términos en nuestro curso sobre alineación de la IA y cómo la investigación sobre la alineación contribuye a la seguridad de la IA.