Punti in comune tra AI 2027 e AI intesa come tecnologia tradizionale

Abstract

Nonostante le divergenze fondamentali riguardo alle traiettorie a lungo termine dell’intelligenza artificiale (IA), le aspettative a breve termine sulle capacità dell’IA e sulle priorità politiche mostrano una sostanziale convergenza. Prima della potenziale comparsa di una forte intelligenza artificiale generale (IAG), l’IA funziona prevalentemente come una normale tecnologia di tipo strumentale. Sebbene i benchmark di prestazione esistenti raggiungeranno probabilmente la saturazione entro il 2028, punteggi elevati nei benchmark non equivalgono all’automazione delle attività nel mondo reale. A causa delle persistenti difficoltà legate agli errori di coda lunga, i sistemi di IA continueranno a fallire nell’esecuzione di compiti di routine nel mondo reale e rimarranno inadatti a contesti che richiedono un elevato livello di affidabilità almeno fino al 2029, anche se la tecnologia raggiungerà un impatto economico complessivo paragonabile a quello di Internet. Poiché il problema dell’allineamento dell’IA rimane irrisolto, la sicurezza non può basarsi esclusivamente sull’addestramento dei modelli. Una governance prudente richiede di impedire all’IA di controllare autonomamente i sistemi critici, di garantire la trasparenza degli sviluppatori, di attuare verifiche indipendenti, di sviluppare capacità di monitoraggio dello stato e di impedire un auto-miglioramento ricorsivo non monitorato, consentendo al contempo la diffusione economica vantaggiosa delle capacità dell’IA. – Abstract generato dall’IA.