הרהורים על מוֹלֶךְ

Abstract

מאמר זה דן במושג “מלכודות רב-קוטביות” – מצבים שבהם תחרות הממקסמת את X מציעה הזדמנות להקריב ערך אחר כדי לשפר את X, מה שמוביל בסופו של דבר לירידה בערך ולאובדן של כל הערכים הנלווים. מלכודות אלה מנוטרלות על ידי גורמים כגון עודף משאבים, מגבלות פיזיות ותיאום. המחבר טוען כי שינויים טכנולוגיים יפחיתו את היעילות של כל הגורמים הללו, וכתוצאה מכך ייווצר מה שאליעזר יודקובסקי מכנה “תרחיש סיוט”, שבו בינה על-אנושית תבצע אופטימיזציה של ערך אקראי או חסר משמעות על חשבון כל השאר, או “תרחיש סיוט” (שטבע רובין הנסון), שבו ארכיטקטורות קוגניטיביות דמויות-אנוש יהפכו למיושנות כתוצאה מתחרות. המחבר דן בקצרה בסמכותנות כאמצעי למניעת תוצאות אלה, אך מסכם כי חברה כזו לא תוכל להתחרות בתרבויות זרות בלתי מוגבלות. המטרה המוצהרת של המחבר היא “להרוג את אלוהים”, או להביס את כוחותיהם של מולוך, גנון ואלים זרים אחרים המאיימים על האנושות. המחבר מאמין שתקוותה הטובה ביותר של האנושות טמונה בפיתוח “גנן”, או ישות שתבצע אופטימיזציה של ערכי האדם, ובסופו של דבר תביס את מולך. – תקציר שנוצר על ידי בינה מלאכותית.