La complejidad oculta de los deseos

Abstract

Una adaptación animada del ensayo de Eliezer Yudkowsky titulado «La complejidad oculta de los deseos». A través del experimento mental de una «bomba de resultados» capaz de alterar las probabilidades para cumplir deseos, el vídeo ilustra por qué especificar nuestros valores a un optimizador potente es mucho más difícil de lo que parece, y por qué la humanidad no tiene actualmente ni idea de cómo conseguir que las IA sigan objetivos complejos que reflejen los valores humanos.