LEV 循环决策模型:复用层而非生成 token,2.6B 模型 JevBench 准确率 63.2%→76.2%

Dingjie Song · hf · 2026-10-19

Lehigh 与 UBC 团队提出 LEV,一种通过循环复用层来「想得更深」的决策模型:不生成文本、单次前向给出每个选项的概率,但可以在同一权重上迭代运行层以增加推理深度,每步循环后读取选项并联合训练,一个 checkpoint 可在任意深度作答。在三个循环骨干上,同权重下准确率随深度提升,主要集中在难题:2.6B LEV 在 JevBench 上从深度 1 的 63.2% 升到深度 4 的 76.2%。按需深度方面,用无标注请求拟合阈值的小停止器可省 15%–24% 计算量,准确率损失不到 1 个点。在锁定测试集上,1.4B 与 3B 模型比同延迟(<50ms)的稠密模型和级联高 5.4–8.8 个点。