Süni intellektin etikası
Nick Bostrom's Website, 2025
Abstract
Bu bölüm, çeşitli tür ve derecelerde yapay zeka (AI) yaratılabilmesi nedeniyle ortaya çıkabilecek bazı etik zorlukları incelemektedir. Makine etiğinin bazı zorlukları, makine tasarımıyla ilgili diğer birçok zorluğa çok benzemektedir. Modern AI uzmanları arasında, AI algoritmaları satranç gibi birçok özel alanda insanları geride bırakmış olsa da, yapay zekanın bazı kritik açılardan insan yeteneklerinin gerisinde kaldığı konusunda neredeyse evrensel bir fikir birliği vardır. Süper insan satranç oyuncusu yaratırken, insan programcılar Deep Blue’nun yerel, spesifik oyun davranışını tahmin etme yeteneklerinden vazgeçmek zorunda kaldılar. Bazı gelecekteki AI sistemlerinin ahlaki statüye sahip olabileceği olasılığını düşündüğümüzde, farklı bir dizi etik sorun ortaya çıkar. Onları belirli şekillerde ele almak ve belirli diğer şekillerde ele almaktan kaçınmak için ahlaki nedenler de vardır. İşlem hızını artırarak süper zeka elde edilebilir.