works
Eliezer Yudkowsky 最下行の結論 online 信念形成の過程は、事後的に提示される正当化とは区別され、結論の証拠価値を決定する。これは二つの箱を題材とした寓話で説明される。一方の箱にはダイヤモンドが入っており、その位置を示す不確かな手がかりが存在する。「巧みな弁論家」が雇われ、一方の箱を擁護する。彼らはまず、依頼人の箱にダイヤモンドが入っているという結論を前提とし、その後で支持する論拠のみを選択する。 この弁論者が導く結論は、雇用の過程とは因果的に絡み合っているが、ダイヤモンドの実際の位置とは絡み合っていない。対照的に、「探究心のある調査者」はまず利用可能な全証拠を不偏性をもって検討し、確率論的結論を導く。この調査者の結論は、箱に関連する兆候や前兆と絡み合っている。 推論に応用すると、結論の有効性は「最終結論」を決定する基盤となる「アルゴリズム」に依存する。選好や偏見により結論が事前に固定されている場合、それを支持するために集められた後続の論証は、初期の(欠陥のある可能性のある)決定プロセスによって決定された認識的地位を変えることはない。この枠組みは、主に他者を批判する方法としてではなく、自身の推論経路を自己反省するための戒めとして機能する。 – AI生成要約

最下行の結論

Eliezer Yudkowsky

効果的利他主義, July 17, 2023

Abstract

信念形成の過程は、事後的に提示される正当化とは区別され、結論の証拠価値を決定する。これは二つの箱を題材とした寓話で説明される。一方の箱にはダイヤモンドが入っており、その位置を示す不確かな手がかりが存在する。「巧みな弁論家」が雇われ、一方の箱を擁護する。彼らはまず、依頼人の箱にダイヤモンドが入っているという結論を前提とし、その後で支持する論拠のみを選択する。 この弁論者が導く結論は、雇用の過程とは因果的に絡み合っているが、ダイヤモンドの実際の位置とは絡み合っていない。対照的に、「探究心のある調査者」はまず利用可能な全証拠を不偏性をもって検討し、確率論的結論を導く。この調査者の結論は、箱に関連する兆候や前兆と絡み合っている。 推論に応用すると、結論の有効性は「最終結論」を決定する基盤となる「アルゴリズム」に依存する。選好や偏見により結論が事前に固定されている場合、それを支持するために集められた後続の論証は、初期の(欠陥のある可能性のある)決定プロセスによって決定された認識的地位を変えることはない。この枠組みは、主に他者を批判する方法としてではなく、自身の推論経路を自己反省するための戒めとして機能する。 – AI生成要約