对齐研究者:当前范式下「技术上解决对齐」根本做不到
j_foerst · x · 2026-11-14
斯坦福 AI 安全研究者 Anshul Kundaje 转发/Jean Foerst（jfoerst）的观点：
- 在当前范式下，让 AI「对所有人都做正确的事」（即真正解决对齐）在技术上是不可能的
- 而做一个谁都不想要的东西——比如用 AI 取代人类——则是不负责任且不可原谅的
作者指出这两件事叠加起来才是对齐问题的真正困境：既没有完美解，也绝不能走向反人类的极端。
所属事件:对齐争论再起：当前范式下「对所有人做对的事」被认为不可能(2 条相关)→
「漫话AGI」频道最新
- Isomorphic Labs：AI 把药物发现从实验室搬进软件 — VraserX · 2026-11-14
- 「残酷真相:AI 是 pay to win」一条推文引热议 — prasenx · 2026-11-14
- 美联储理事演讲:AI 提升生产率的同时恐加剧美国不平等 — robseamans · 2026-11-14
- 年付千万美元律师费的买方：AI 五年内能接手九成 M&A 法务 — jkubicki · 2026-11-14
- 开发者质疑 RSI 概念：前沿实验室只是算力无限下的 AI 全流程辅助 — dyn___ · 2026-11-14
- Joshua Gans 新论文：仅靠显示偏好不足以对齐 AI — joshgans · 2026-11-14