X 用户争论:MIRI 为何只押注 Corrigibility 而回避人类价值对齐
jd_pressman · x · 2026-11-13
jdpressman 在与社区讨论 AI 对齐路线时指出：MIRI 及 LessWrong 社区几乎只聚焦 corrigibility（可纠正性），是因为人类价值观被视为不可解的问题，而这一判断建立在一脉并不存在的先前尝试之上。他还澄清自己并非在预测“很快会有忠诚 AI 解决治理问题”，认为距离那一步仍有至少数道未跨越的障碍。这是一场关于对齐研究路线取舍的观点交锋。
所属事件:AI 安全圈激辩：MIRI 为何只押注可纠正性而回避价值对齐(4 条相关)→
「漫话AGI」频道最新
- 哲学家谈 AI 意识：不求共识，先追求一颗「植物学良知」 — erikphoel · 2026-11-13
- Remote Labor Index 曲线:模型能力到 189 ECI 后自动化率将陡增至 98% — sergeykarayev · 2026-11-13
- LobeHub 开源 awesome-rsi:一张地图理清 AI 递归自我改进研究 — udmrzn · 2026-11-13
- 研究者：别再讲故事了，Agent 做出的丑东西就是比你手搓的强 — DimitrisPapail · 2026-11-13
- Stripe 经济学研究：应届毕业生就业走弱，居家办公影响大于 AI — robseamans · 2026-11-13
- 创作者吐槽反 AI 评论戾气：反对者只剩 100% 道德确定感 — dreamwieber · 2026-11-13