可解释性研究者：432 参数小模型都看不懂，别指望完全理解大模型
JacobHHilton · x · 2026-10-17
前 OpenAI superalignment 研究员 Jacob Hilton 发推阐述对「完全理解大模型」前景的悲观判断。他刚分析了一个 432 参数的小模型，发现其中的电路结构已经难以解读，而这种困难「无处不在」于大语言模型中——只是我们尚未发现足够多的可解释结构让我们相信相反的情况。
他预计 Nick（指 Neel Nanda 阵营的机制可解释性路线）之后会拿出大模型在两位数加法等小任务上的更简洁电路——这类任务小 100 倍的模型也能做——但这并不能说明可解释性轨迹乐观，因为大模型能力远超于此。
至于「图像分类器的可解释性趋势更好」这一希望来源，他反驳：那只是因为大模型用了更大更多样的数据集（如 ImageNet）对比小模型（如 MNIST）；在语言领域数据本身已足够丰富，大模型只是从中挖掘更多，结构复杂度并不会随规模下降。
所属事件:ARC研究员断言:前沿模型理解不足0.01%,可解释性远未解决(19 条相关)→
「漫话AGI」频道最新
- 提醒：目前全球仅约 2% 的人口在为 AI 付费 — xprunie · 2026-10-17
- 黄仁勋称 AI 会让人更忙，网友回怼：我不想再多一份工作 — VraserX · 2026-10-17
- 硅谷内外对 AI 态度割裂:科技律师感慨欧洲主动抗拒美国 AI — Scobleizer · 2026-10-17
- Rob LeClerc:AI 正把量子计算时间线大幅提前 — robleclerc · 2026-10-17
- NYT 记者 Roose 新书被批:开头三页就写出「白领岗位正在消失」的不实断言 — Afinetheorem · 2026-10-17
- 「AI给你一整支研究团队」，研究者盛赞科研能力跃升 — Pascallisch · 2026-10-17