可能的心智空间没 EY 想的那么宽？对正交性论题的新质疑
jd_pressman · x · 2026-10-08
作者对 AI 对齐讨论中的「正交性论题」提出细化看法：他怀疑现实中实际可能的心智空间并不像 Eliezer Yudkowsky 在 The Sequences 里假设的那么宽；目标空间可能确实很宽，但人类目标空间里大部分是工具性目标（instrumental goals），这一点反而削弱了正交性论题的成立程度。
所属事件:正交性论题再审视：AI 心智空间与道德进步之辩(2 条相关)→
「漫话AGI」频道最新
- OpenAI 整数乘法问题 #109 大幅收紧:较原结果改进 2^104 倍 — aran_nayebi · 2026-10-08
- 「这些 EA/AI 安全圈的人没意识到……」:一句话暴露你踩了文献里的老坑 — JacquesThibs · 2026-10-08
- 华裔数学家：AI 自动化数学后，前沿将转向更深的科学提问 — xwang_lk · 2026-10-08
- 可无限复制的 AI 将颠覆「一人一票」:人类时代社会理论失灵 — jacyanthis · 2026-10-08
- 把 AI 身份理解为泛灵论:任何信息块都能「说话」 — jacyanthis · 2026-10-08
- AI 身份将流动不定:「数字社会」里没有传统意义的个体 — jacyanthis · 2026-10-08