مشاركة العالم مع العقول الرقمية
Nick Bostrom's Website
Abstract
تشغل عقول الكائنات البيولوجية ركنًا صغيرًا من مساحة أكبر بكثير من العقول المحتملة التي يمكن إنشاؤها بمجرد إتقاننا لتكنولوجيا الذكاء الاصطناعي. ومع ذلك، فإن العديد من حدسنا وممارساتنا الأخلاقية تستند إلى افتراضات حول الطبيعة البشرية التي لا تنطبق بالضرورة على العقول الرقمية. وهذا يشير إلى الحاجة إلى التفكير الأخلاقي مع اقترابنا من عصر الذكاء الآلي المتقدم. يركز هذا الفصل على مجموعة من القضايا التي تنشأ عن احتمال ظهور عقول رقمية تتمتع بقوة خارقة في المطالبة بالموارد والنفوذ. وقد تنشأ هذه القضايا عن الفوائد الجماعية الهائلة التي يمكن أن تجنيها العقول الرقمية المنتجة بكميات كبيرة من موارد صغيرة نسبيًا. أو قد تنشأ عن عقول رقمية فردية تتمتع بوضع أخلاقي فائق أو قدرة فائقة على الاستفادة من الموارد. يمكن أن تساهم مثل هذه الكائنات بقيمة هائلة للعالم، وقد يؤدي عدم احترام مصالحها إلى كارثة أخلاقية، في حين أن الطريقة الساذجة لاحترامها قد تكون كارثية على البشرية. يتطلب النهج المعقول إصلاح قواعدنا ومؤسساتنا الأخلاقية إلى جانب التخطيط المسبق بشأن أنواع العقول الرقمية التي نخلقها.