与数字⼼灵共享世界

Abstract

生物体的心智仅占据着更广阔心智可能性空间的一隅——当我们掌握人工智能技术后，便能创造出更宏大的心智世界。 然而，我们许多道德直觉和实践都基于对人性本质的假设，而这些假设对数字思维未必成立。这表明在迈向先进机器智能时代之际，我们亟需进行道德反思。本章聚焦于一类问题——源于数字思维可能对资源和影响力产生超乎寻常的索求。这种索求可能源于大规模生产的数字思维能以相对有限的资源创造巨大的集体效益。 另一种可能源于具备超人类道德地位或资源受益能力的个体数字智能。此类存在可能为世界创造巨大价值，忽视其利益或将引发道德灾难，而天真地尊重它们则可能给人类带来灾难性后果。明智的应对之道需要改革道德规范与制度体系，同时具备规划/计划能力的对将要创造的数字智能类型进行前瞻性规划。