暴力构造基准式查询训练不出泛化检索,需更好的训练与打分
bclavie · x · 2026-10-17
bclavie 回复自己关于「话到嘴边查询」的讨论:通过暴力构造形似基准的查询来训练模型应对 tip-of-the-tongue 和间接表述,不是解决方案——这样训出的模型无法泛化到训练场景之外。他认为需要更好的训练方法与评分机制。
所属事件:「话到嘴边」查询成检索器意图理解新试金石(2 条相关)→
「研究」频道最新
- StepSafe 论文提出步级安全护栏：让 agent 监测器学会及时干预 — armancohan · 2026-10-17
- 新算法将 (min,+) 矩阵乘法指数降至 2.9964，超越 Anthropic 突破 — thegautamkamath · 2026-10-17
- 「可解释性解决了吗」大讨论:模型越大规模越难完全理解 — NeelNanda5 · 2026-10-17
- 新思路：用 LLM 把训练好的模型分解成普通代码？ — tszzl · 2026-10-17
- 字节Seed提出Data-Space迭代，少步生成质量超标准蒸馏基线 — _akhaliq · 2026-10-17
- OmniCompass 基准发布：820 视频、1800 小时标注、评测 50 个 MLLM — _akhaliq · 2026-10-17