新论文:用表征几何预测 LLM 概念组合失败,无需跑评测
nsaphra · x · 2026-11-07
Naomi Saphra 等人的 arXiv 论文《Adversarial Concept Search》提出:利用 LLM 的表征几何来预测模型会在哪些概念组合上失败。作者将组合性失败归因于显著特征之间的干扰。
核心发现:
- 在玩具程序化任务、多跳推理、多语言事实回忆三类需要系统性组合的任务中,当一对概念的线性编码接近正交时,模型能可靠地组合它们;
- 当编码彼此接近、产生干扰时,模型组合失败;
- 该方法无需评测具体输入即可预测失败模式,可用于构造针对性压力测试和高风险样本筛选。
作者表示即将发布 ICLR 版本,加入更多模型与控制非几何解释的随机种子实验,并将扩展到更多场景。
所属事件:新方法用表征几何预测 LLM 概念组合失败，无需跑评测(3 条相关)→
「研究」频道最新
- BlancheMinerva 批评「等工作转正再跟进」的学术协作观有害科研 — BlancheMinerva · 2026-11-07
- 量子加速边界澄清:Aaronson-Ambainis 猜想并不限制 Shor 类超多项式加速 — thomasahle · 2026-11-07
- Flower Computers 开源发布文本语义编码器,号称速度最快 — matdryhurst · 2026-11-07
- 港科大与腾讯推出 Möbius：统一动作语言模型，0.6B 超 3B 专用模型 — bdsqlsz · 2026-11-07
- 平面的 17 种对称对应 17 个 orbifold,作者用 Claude 做出交互演示 — yaroslavvb · 2026-11-07
- 学界热议:ML 求职内卷催生大量 AI 水文灌简历 — miniapeur · 2026-11-07