Un appello per un trattato internazionale sull'IA: una lettera aperta

Abstract

Una lettera aperta firmata da centinaia di esperti di IA, accademici e figure pubbliche — tra cui Yoshua Bengio, Max Tegmark, Gary Marcus e Victoria Krakovna — che esorta i leader mondiali a negoziare un trattato internazionale sull’intelligenza artificiale per affrontarne i rischi catastrofici. La lettera propone disposizioni fondamentali quali soglie globali sulla potenza di calcolo utilizzata per addestrare i modelli di IA (da abbassare progressivamente per tenere conto dei miglioramenti algoritmici), un laboratorio collaborativo per la sicurezza dell’IA sul modello del CERN e API sicure che mantengano le capacità dei modelli entro limiti stimati come sicuri. L’iniziativa è guidata dal superprevisore Tolga Bilge.