作者补充:模型越强,几何方法找失败模式的效果越好
nsaphra · x · 2026-11-07
Naomi Saphra 补充其 Adversarial Concept Search 论文新版本最有趣的发现:在所有检查过的规模上,模型越好(在任务上表现越强),用表征几何预测其失败模式的方法效果就越好——意味着该方法不会随模型进步而失效,反而更有用。
所属事件:新研究用表征几何预测 LLM 概念组合失败(4 条相关)→
「研究」频道最新
- 本科生一作论文 Q-OIL 入选 CoRL2026:把人类干预当软引导而非监督 — aidenybai · 2026-11-07
- 是 token 选专家还是专家选 token？Andrew Carr 重提 MoE 路由之争 — andrew_n_carr · 2026-11-07
- AdderBoard 挑战赛：用最小 Transformer 实现 10 位数加法，纪录持续刷新 — DimitrisPapail · 2026-11-07
- Zellige AI 开源 Tessera-27B RL 版：CJK 压缩思考省 1/3 token，数学反超基线 — ghgi_ · 2026-11-07
- 网友爆料：frontier lab 恶意刷 ICLR 审稿，审稿乱象或成丑闻 — examachine · 2026-11-07
- Persona Atlas：把 Qwen 的非神经元人格地图可视化，输出相当诡异 — Sauers_ · 2026-11-07