Kempner 提出 Adversarial Concept Search,用表征几何预测 LLM 失效场景
nsaphra · x · 2026-11-07
Kempner 研究所发布 Deeper Learning 博文,介绍 Adversarial Concept Search(ACS) 方法:利用模型的表征几何(representational geometry)提前预测它在哪些场景可能出错,从而把评估资源集中到最可能失败的用例上。
作者 nsaphra 补充的关键发现:在所有测试过的规模上,模型越好(尤其在目标任务上越强),ACS 用于挖掘其失效模式的效果就越好——即方法随模型能力提升而更有效。她还分享了配套的博客概览,详细内容见论文与 Kempner 博文。
所属事件:新研究用表征几何预测 LLM 概念组合失败(4 条相关)→
「研究」频道最新
- 本科生一作论文 Q-OIL 入选 CoRL2026:把人类干预当软引导而非监督 — aidenybai · 2026-11-07
- 是 token 选专家还是专家选 token？Andrew Carr 重提 MoE 路由之争 — andrew_n_carr · 2026-11-07
- AdderBoard 挑战赛：用最小 Transformer 实现 10 位数加法，纪录持续刷新 — DimitrisPapail · 2026-11-07
- Zellige AI 开源 Tessera-27B RL 版：CJK 压缩思考省 1/3 token，数学反超基线 — ghgi_ · 2026-11-07
- 网友爆料：frontier lab 恶意刷 ICLR 审稿，审稿乱象或成丑闻 — examachine · 2026-11-07
- Persona Atlas：把 Qwen 的非神经元人格地图可视化，输出相当诡异 — Sauers_ · 2026-11-07