Jev 决策型语言模型优化 ICL 示例检索并可蒸馏提速

新论文提出用决策导向语言模型 Jev 改进大模型上下文学习(ICL)中的示例选择:Jev 直接评估每个候选示例对给定查询的效用,从而有效提升示例检索质量。为降低推理开销,研究者还将 Jev 蒸馏为轻量级 MLP,在保持检索效果的同时显著加快检索速度。

2026-11-04 ~ 2026-11-04 · 2 条相关