DeepMind 研究员：人类连自己想要什么都不清楚,完美对齐在原理上不可能
jachiam0 · x · 2026-10-16
DeepMind 研究员 Janus(jachiam0) 发文论述对齐的根本困境：人类并不真正理解自己想要什么，因此只能不完美地表达诉求；即便 AI 能读心并找到通向 CEV（连贯被引出的意愿）的路径，人类也会拒绝那个“镀金牢笼”。她认为，人类的不一致性既使完美对齐不可能，也是人类经验中美好事物的根源——强行统一人类的愿景必然以牺牲我们想保护的东西为代价。结论是：在近期危机乃至更远的未来，人类只能在高度不确定中，与一个远比我们聪明的智能层共存中摸索前行。
「漫话AGI」频道最新
- 博导给每个博士生配 Codex Pro：执行力变廉价，选题能力才是 PhD 的价值 — DJiafei · 2026-10-16
- ASI 能否在人类消失后靠现有机器人供应链自续?引发热议 — NathanpmYoung · 2026-10-16
- 「万物基建化」论:AI 时代最终只剩算力、存储、推理等基础设施消费可卖 — AccBalanced · 2026-10-16
- Dwarkesh 在纽约时报发文：2030 年 AI 将完成经济中全部工作 — Traditional-Chip8339 · 2026-10-16
- 「奇点期间的每一周都疯狂」：开发者感叹 AI 进展节奏 — tszzl · 2026-10-16
- 当前 AI 与人类命运相同：错位 ASI 对谁都没好处 — louisvarge · 2026-10-16