Нет универсально убедительных аргументов

Abstract

Не существует аргумента, имеющего универсальную убедительность, то есть такого, который должен был бы принять любой возможный разум. Представление о том, что такие аргументы существуют, проистекает из ошибочной концепции «призрака в машине» — нередуцируемого ядра рациональности внутри разума, отдельного от его физической реализации. Это представление аналогично представлению о коде как о простом предложении для компьютера, а не о сущности самого компьютера. С физикалистской точки зрения любая физическая система, принимающая аргумент, может быть модифицирована так, чтобы отвергнуть его. Вера в универсально убедительные аргументы ведет к поиску единственного морального принципа, к которому неизбежно придут все ИИ, что является ошибочным подходом к дружественному ИИ. Обоснованность, ценность и рациональность не могут быть основаны на всеобщем согласии, а должны быть определены в рамках конкретных когнитивных архитектур. — Аннотация, сгенерированная ИИ.