Perché l'allineamento dell'IA potrebbe essere difficile con il moderno deep learning

Abstract

Il problema dell’allineamento del deep learning è il problema di garantire che i modelli avanzati di deep learning non perseguano obiettivi pericolosi. Questo articolo elabora l’analogia delle “assunzioni” per illustrare come l’allineamento potrebbe essere difficile se i modelli di deep learning sono più capaci degli esseri umani. Spiega poi, con maggiori dettagli tecnici, in cosa consiste il problema dell’allineamento del deep learning. Infine, discute quanto possa essere difficile il problema dell’allineamento e quanto sia rischioso non riuscire a risolverlo.