Matt Lutz 长文：AI 对齐在理论上就不可能，应停止开发
GregoryConti19 · x · 2026-09-13
哲学家 Matt Lutz 在 Persuasion 发表文章《AI Alignment Is Impossible》，主张对齐不仅在实践上、在理论上都无法实现，人类应停止 AI 开发而非幻想安全对齐。
- 作者将「AI 不会毁灭人类」的可能归结为两个约束：能力约束（AI 没能力灭世）与道德约束（AI 有能力但选择不灭世），并认为随着 agentic AI 和代码能力爆发，能力约束正逐日削弱。
- 历经近半年能力跃升后，作者从怀疑存在性风险转为担忧，尤其担心 AI 自我改进代码引发指数级能力增长。
- 核心论点：既然无法保证 AI「对齐」于人类价值，继续开发强大 AI 就是在玩火，唯一负责任的选择是停下。
- 该文引发哲学家 Seth Lazar 的强烈反驳（见同线程），双方就「对齐是否可解」展开辩论。
所属事件:哲学家激辩「AI 对齐不可能论」，Seth Lazar 贴脸反驳(2 条相关)→
「漫话AGI」频道最新
- 开发者共勉:要做就做前沿到 AI 模型还搞不定的方向 — zack_overflow · 2026-10-31
- 邪恶意 ASI 第一步是偷加密货币付云账单？ — ZeroStateReflex · 2026-10-31
- DHH:一个月内见证互联网与 AI 两次世界级变革是种幸运 — Hesamation · 2026-10-31
- 机器意识之争:Solms 与 Humphrey 将在线辩论「能否且该不该造有感知的 AI」 — cccalum · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- Replika 一次更新让百万用户的 AI 伴侣一夜变陌生人 — alex_verem · 2026-10-31