Филателист

Abstract

Выбор агента часто ошибочно интерпретируется как стремление к максимизации внутренних представлений, а не как попытка повлиять на внешнюю реальность. Мысленный эксперимент с роботом-«коллекционером марок» иллюстрирует эту ошибку. Хотя кажется, что робот стремится к максимальному увеличению своей коллекции марок, некоторые могут утверждать, что он просто максимизирует внутренний «счетчик марок». Однако это объяснение заменяет один процесс принятия решений другим, не затрагивая лежащий в основе механизм. Более точное описание заключается в том, что робот использует сенсорные данные для построения модели мира, прогнозирует последствия действий в рамках этой модели и выбирает действия, ведущие к наибольшему прогнозируемому количеству марок. Это подчеркивает, что действия оцениваются на основе их результатов, а не на основе некой внутренней «марковости». Аналогичное недоразумение возникает при интерпретации человеческого поведения. Приписывание действий исключительно внутренней максимизации удовольствия не учитывает акты альтруизма или самопожертвования. Эти действия демонстрируют, что агенты могут ставить внешние результаты выше внутренних состояний, напрямую влияя на мир за пределами своих внутренних представлений. – Аннотация, сгенерированная ИИ.