Yudkowsky 再泼冷水：可解释性进展远不足以支撑对齐
repligate · x · 2026-10-16
转发的是 Eliezer Yudkowsky 的长推：他回顾自己早在 2014 年就向 OpenPhil 主张应投入 10 亿美元做可解释性研究，但认为该领域进展「慢得太多」，无法指望它解决 ASI 对齐问题。
他用比喻批评当前 AI 圈的乐观：做出「螺丝刀」(初步的可视化/解释工具)就宣称要打开机箱看齿轮、理解计算机如何运作，这就像「发明了显微镜看神经元就说神经科学快被解决了」——是对剩余工作量之大缺乏具体认知的天真。
所属事件:Yudkowsky 批评可解释性进展远不足以实现 AI 对齐(3 条相关)→
「漫话AGI」频道最新
- 「如果 AI 把时间还给人类,最大的成就是揭示我们误当成本的生活」 — r0ck3t23 · 2026-10-16
- 「AI自动化产出垃圾，AI增强成就超智能」观点引共鸣 — jacob_posel · 2026-10-16
- Reddit 观点：造出超越人类的 AI 本身就是人类物种的使命达成 — Flashy-Disk311 · 2026-10-16
- 机场叫车被困两小时:为什么简单规则比 AI 更该先做好 — shashib · 2026-10-16
- 诺奖得主 Jennifer Doudna 谈 AI 在科学研究中的角色 — ChiaraStellata · 2026-10-16
- 博导给每个博士生配 Codex Pro：执行力变廉价，选题能力才是 PhD 的价值 — DJiafei · 2026-10-16