研究者回应 Bengio：先解决「人类对齐」再谈 AI 对齐
kwangmoo_yi · x · 2026-09-12
在回应 Yoshua Bengio 时，作者 kwangmooyi 提出不同看法：他觉得大家可能在想错问题——在讨论「AI 对齐」之前，应当承认人类从未成功实现「人类对齐」。如果这些模型将被视为（或已经是）智能实体，对齐问题未必会比人类自身的问题更容易。这是对 AI 安全优先级之争的一个有分量的反调。
所属事件:研究者回应 Bengio：人类自己都没对齐，谈何 AI 对齐(2 条相关)→
「漫话AGI」频道最新
- 谷歌研究员：模型迭代太快，「等一等再用」成理性策略拖慢 AI 落地 — moultano · 2026-09-12
- 模型静默下线正在固化先例,AI 道德地位讨论被无限推迟 — repligate · 2026-09-12
- 研究者称末日论滥用拟人化语言削弱其说服力 — round · 2026-09-12
- Fortnow:可写持久记忆或让 ML 系统自我改写、递归自我改进 — fortnow · 2026-09-12
- AI 安全讨论：最可怕的是所有模型思考方式相同 — round · 2026-09-12
- 反垄断前官员用 Uber 兴起类比 AI 行业即将面临的监管反弹 — neil_chilson · 2026-09-12