Jev 决策型语言模型优化 ICL 示例检索并可蒸馏提速
新论文提出用决策导向语言模型 Jev 改进大模型上下文学习(ICL)中的示例选择:Jev 直接评估每个候选示例对给定查询的效用,从而有效提升示例检索质量。为降低推理开销,研究者还将 Jev 蒸馏为轻量级 MLP,在保持检索效果的同时显著加快检索速度。
2026-11-04 ~ 2026-11-04 · 2 条相关
- 用决策型 LM 优选 ICL 示例,蒸馏成轻量 MLP 提速检索 — _reachsumit · 2026-11-04
- Jev 模型提升 LLM 上下文学习示例检索,蒸馏 MLP 降开销 — kalyan_kpl · 2026-11-04