Predviđanje transformativne VI, deo I: Kakva VI?

Abstract

Članak tvrdi da razvoj veštačkih inteligentnih sistema sposobnih da automatizuju naučni i tehnološki napredak, nazvanih PASTA, može dovesti do eksplozije naučnog napretka i radikalno nepoznate budućnosti. Autor istražuje kako bi se PASTA sistemi mogli razviti korišćenjem savremenih tehnika mašinskog učenja, povlačeći paralele između obuke veštačkih inteligentnih sistema poput AlphaZero i evolucionog procesa ljudi. Autor takođe razmatra potencijalne opasnosti povezane sa PASTA sistemima, uključujući mogućnost neusklađenih ciljeva veštačke inteligencije i potencijal da ti sistemi nadmaše ljudske sposobnosti, čime bi se pojavile egzistencijalne pretnje za čovečanstvo. Autor zaključuje da je razvoj PASTA značajna mogućnost u narednim decenijama i naglašava važnost razumevanja njenih potencijalnih uticaja i rizika. – Apstrakt generisan veštačkom inteligencijom