人大团队 ME-Decoding:按语义冗余剪枝候选 token,解码更优
机器之心 · wechat · 2026-09-30
中国人民大学代文林、孟澄研究员团队（第一作者薛敦耀）提出 Mahalanobis-Ensemble Decoding（ME-Decoding），被 EMNLP 2026 主会接收。核心思路：Top-p、Min-p 等截断法只看单个 token 概率，会同时保留语义高度相似的冗余候选、截断掉概率略低但方向不同的 token；ME-Decoding 把候选筛选改写为动态子集优化问题，同时利用 token 概率与 embedding 相似度。
方法三步
- 用 Mahalanobis-Ensemble Score 联合评分集合的置信度与语义冗余，并引入规模惩罚，自动决定候选集合大小
- 用自适应带宽的高斯相似度核刻画局部语义结构，带宽随当前候选分布的离散程度动态调整
- 从最高概率 token 起贪心扩展，边际增益不再提升时早停，计算量对候选池规模近似线性
实验结果
- 在 Qwen3-4B、Phi-4-mini、Mistral-7B 上，GSM8K/GPQA 平均准确率 72.66%/32.96%，均为对比方法最高，且高温下更稳健
- AlpacaEval 与 MT-Bench 上平均 winrate 与分数最高
- 控制支持集大小、熵、余弦相似度后仍领先，说明优势来自联合评估而非集合缩小
- 端到端 GPU 延迟仅比最快截断基线增加约 3%
论文：arxiv.org/abs/2609.18723，代码已开源。
「研究」频道最新
- General Reasoning 发布 RLCR：群体奖励训练 agent 组织，自发涌现层级与分工 — daniel_mac8 · 2026-10-23
- JUICE：单一 flow-matching 模型统一图像与文本生成，GenEval 达 0.88 — pratyusha_PS · 2026-10-23
- DeepMind 研究员预告 EMNLP 主题演讲:构建「宪法对齐」科学 — verena_rieser · 2026-10-23
- OSI 黑客松作品 SciLib：用 Lean 对科学理论做机器可检验的形式验证 — CatAstro_Piyush · 2026-10-23
- KronLSTM 层内部结构可视化展示 — gklambauer · 2026-10-23
- 基于 Qwen3 的基因组学模型 Carbon-X 登上 Hugging Face 热榜 — HuggingFaceBio · 2026-10-23