传 Nick 可解释性研究重大突破,好到 Yudkowsky 也得下调 p(doom)
QuintinPope5 · x · 2026-10-16
- tszzl 引述称,Nick 在可解释性(interpretability)方面取得了突破,且此前对进展的描述「严重低估了」:「我认为这可能被记住为科学史上的重要时刻,好消息到连 Eliezer 都得下调他的 p(doom),对齐工作可以开始变成『常规科学』了」。
- 转发者 jdpressman 则吐槽:Yudkowsky 在任何情况下都不会下调 p(doom),「我只能认命听他抱怨一辈子」。
- QuintinPope 转发了这段争论。整体是 AI 对齐圈关于可解释性突破传闻及末日派态度的高热度讨论,突破本身细节未公开。
所属事件:传 Cammarata 可解释性重大突破，Yudkowsky 怒斥炒作(5 条相关)→
「漫话AGI」频道最新
- Kroger 裁 3000 个公司岗位占 37%，博主预言人形机器人 2030 年代接棒 — csuwildcat · 2026-10-16
- Ben Thompson：后 AI 经济的核心是制造人类欲望 — generativist · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- 约翰·纳什 1998 年「层级内省逻辑」手稿再引 AI 圈热议 — fkasummer · 2026-10-16
- OpenAI 前可解释性负责人：绝大多数神经元已可读，可解释性是最重要科学问题 — CatAstro_Piyush · 2026-10-16
- 研究员批「接续主义」:想毁灭宇宙的按钮按下者才是真危险 — jd_pressman · 2026-10-16