苹果提出 Token 级长度价值模型，优化自回归推理成本
Apple ML Research · rss · 2026-07-20
Apple 机器学习团队提出了一种名为 Length Value Model (LenVM) 的新框架，旨在解决自回归模型中生成长度影响推理成本与推理效果的问题。
现有的长度建模方法大多停留在粗粒度的序列级别，而 LenVM 将其细化到了 Token 级别。该框架将长度建模转化为一个价值估计问题，通过在每个解码步骤预测剩余生成长度，并引入恒定负奖励机制，从而实现更精细、可扩展的预训练与推理控制。
「研究」频道最新
- hash n-gram 值嵌入助力 12×1024 GPT 刷新 30M 纪录至 3.2115 — RobertTLange · 2026-10-27
- TMLR 论文：更强推理不等于更充分披露，Agent 思考越多未必告知越全 — SharonYixuanLi · 2026-10-27
- Diamandis 详解 AI 癌症导航与 $100 基因测序如何缩小抗癌鸿沟 — PeterDiamandis · 2026-10-27
- EMNLP Oral 论文：免训练 KV 缓存驱逐实现 10 倍内存压缩 — yuz9yuz · 2026-10-27
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
- forking 收官：probe gap 随上下文频率呈幂律，掩蔽低频 n-gram 可缩小差距 — ZimingLiu11 · 2026-10-27