正交性论题再审视：AI 不会天然更道德，除非我们专门这样设计
jd_pressman · x · 2026-10-08
AI 研究者 Jd Pressman 在讨论 EY 的正交性论题（orthogonality thesis）时提出：其核心洞解依然成立——AI 不会以我们认可的方式变得「更道德」，也不会天然想要我们想要的东西，除非被专门设计成这样。
但他对原论证有保留：他认为实际可能的心智空间没有《The Sequences》设想的那么宽；目标空间可能很宽，但人类目标大多属于工具性目标，这反而削弱了正交性的论证强度。
所属事件:AI 圈再辩正交性论题：AI 不会天然更道德(3 条相关)→
「漫话AGI」频道最新
- 从单任务到全流程：Physical AI 解锁大一个量级的机器人市场 — Rewkang · 2026-10-08
- Scott Alexander 舌战 Pinker 后，圈内在吵「辩论到底给谁看」 — JacquesThibs · 2026-10-08
- 重审 2021 年起飞速度之辩：AI 分析称 Yudkowsky 数学对、Christiano 经济对 — jessi_cata · 2026-10-08
- 「痛苦轴」是否真是痛苦?研究者质疑模型痛苦体验证据 — RosieCampbell · 2026-10-08
- AI 编码何时迎来「纳维-斯托克斯时刻」?研究者赌一年内 — repligate · 2026-10-08
- AI 研究者激辩:面对 AGI 浪潮,个体最优策略究竟是什么 — DavidDuvenaud · 2026-10-08