works
Holden Karnofsky Dodatak 2: Slabe tačke u "Najvažnijem veku": Učvršćivanje online Članak istražuje pojam “zaključavanja”, tvrdeći da napredna veštačka inteligencija, posebno digitalni ljudi, može dovesti do društvene stabilnosti koja će trajati milijardama godina. To bi značilo da odluke donete u ovom veku mogu imati dubok i trajan uticaj na budućnost civilizacije. Članak razmatra faktore koji mogu doprineti zaključavanju, kao što su starenje i smrt, promene u populaciji i prirodni događaji, napominjući da tehnološki napredak može značajno umanjiti njihov uticaj. Međutim, članak takođe priznaje da bi konkurencija između društava mogla ostati izvor dinamike, potencijalno sprečavajući zaključavanje. Članak zaključuje navođenjem tri kategorije dugoročnih budućnosti: potpuno diskreciono zaključavanje, predvidiva konkurentska dinamika i istinska dinamika. Tvrdi se da ovo stoleće ima ogromnu važnost jer bi moglo odrediti koju ćemo od ovih budućnosti na kraju ostvariti. – Apstrakt generisan veštačkom inteligencijom.

Dodatak 2: Slabe tačke u "Najvažnijem veku": Učvršćivanje

Holden Karnofsky

Effective Altruism Serbia, September 8, 2023

Abstract

Članak istražuje pojam “zaključavanja”, tvrdeći da napredna veštačka inteligencija, posebno digitalni ljudi, može dovesti do društvene stabilnosti koja će trajati milijardama godina. To bi značilo da odluke donete u ovom veku mogu imati dubok i trajan uticaj na budućnost civilizacije. Članak razmatra faktore koji mogu doprineti zaključavanju, kao što su starenje i smrt, promene u populaciji i prirodni događaji, napominjući da tehnološki napredak može značajno umanjiti njihov uticaj. Međutim, članak takođe priznaje da bi konkurencija između društava mogla ostati izvor dinamike, potencijalno sprečavajući zaključavanje. Članak zaključuje navođenjem tri kategorije dugoročnih budućnosti: potpuno diskreciono zaključavanje, predvidiva konkurentska dinamika i istinska dinamika. Tvrdi se da ovo stoleće ima ogromnu važnost jer bi moglo odrediti koju ćemo od ovih budućnosti na kraju ostvariti. – Apstrakt generisan veštačkom inteligencijom.