若人类价值观恰好「特别愚蠢」，正交性论点会有多讽刺

jessi_cata · x · 2026-10-10

作者延续关于 orthogonality thesis（智能与目标可正交）的讨论，提出一个颇具讽刺性的推演：也许确实存在「特别愚蠢的价值」（正如 Bostrom 等人也承认的、与足够高智能不相容的价值），但并不存在「特别聪明的价值」，而人类的价值恰恰就属于「特别愚蠢」的那一类。另指出：构造一个愚蠢目标的最简单方式，就是刻意与某条 Omohundro 驱力（如自我保存、资源获取等工具性趋同目标）相矛盾，再叠加高时间偏好。整段是对 AI 价值对齐哲学中「目标质量与智能是否相关」问题的趣味性观点辩论。