eric_ho 回应超position争议:可解释性比想象更可行,应有更多人投入
adityaag · x · 2026-10-17
Anthropic 相关研究员 ericho 转发评论 nick(iram)关于超position的帖子,认为这一度被视为可解释性主要障碍的「superposition」并非真正的限制因素,可解释性比许多人 assumed 的更可做,学界应有相反的反应——更多人投入而非收拾行李离场。
他补充:
- 可解释性无法一步到位,除了 nick 的技术路线,他看好 Anthropic 的 encyclopedia 项目:完整逆向工程一个 35B 语言模型;
- 团队在奖励作弊(reward hacking)的检测与缓解、训练中的可解释性研究、参数分解扩展上都有实质进展;
- 结论:interp 真的开始起作用了,这意味着该领域需要更多人,而不是更少。
所属事件:Anthropic 研究员：超位置并非可解释性的真正障碍(2 条相关)→
「漫话AGI」频道最新
- 嵌入式审计器被高估：仅覆盖风险组合的小部分 — jankulveit · 2026-10-17
- 研究者吐槽：以「ASI 让机械可解释性无意义」为锚点是伪科学 — sebkrier · 2026-10-17
- Apple AI 一手好牌打烂？修好 Siri、AirPods 变个人 agent 入口或可翻盘 — broodsugar · 2026-10-17
- 「造 AI 的已是上一个 AI」：递归自我改进将让人类监督退化为旁观 — r0ck3t23 · 2026-10-17
- James Evans「AI 如何改变科学家产出」研究获经济学人专题报道 — profjamesevans · 2026-10-17
- Anthropic 估值 2 万亿超 35 家 SaaS 总和，营收仅为其 1/4.6 引泡沫之争 — ChrisGPT · 2026-10-17