jd_pressman 辩 MIRI 式对齐:AI 神主问题不等于「美好生活」的思想史
jd_pressman · x · 2026-11-13
AI 研究者 jdpressman 在 X 上与 @EpistemicHope、@AndrewCurran 讨论 AI 对齐问题。他澄清自己并非在预测「很快会有忠诚的 AI 解决治理问题」,认为那至少还存在好几道障碍。他强调 MIRI 式对齐问题——如何造出一个实现 eudaemonia(幸福/美好生活的英文哲学术语)的 AI 神主——与历史上对「美好生活」的思想探索是两回事,指责对方把一个简单观察复杂化。
所属事件:AI 安全圈激辩：MIRI 为何只押注可纠正性而回避价值对齐(4 条相关)→
「漫话AGI」频道最新
- 牛津与 DeepMind 作者新论文：8234 人调查显示工作意义不只在钱 — lawhsw · 2026-11-13
- 经济学家长文:模型厂商收入仅数百亿美元,数据中心却押注数万亿 — asusarla · 2026-11-13
- 牛津学者评黄仁勋卸任:权力越大越脆弱的悖论 — CarissaVeliz · 2026-11-13
- 李开复预测本十年末 AI 将大规模取代工作，主持人惊呼 — kaifulee · 2026-11-13
- Geoffrey Huntley 一句话概括 agent 时代逻辑：token 可扩展，人不能 — kieranklaassen · 2026-11-13
- 意识三要素获脑动力学实现：情感系统决定什么进入意识 — daniel_mac8 · 2026-11-13