1.5B 小模型 31ms 出决策,胜过 4B 对手拿下同尺寸第一

Cod3Conjurer · reddit · 2026-11-19

开发者在 RTX 5060 笔记本 GPU 上,用 65.5 万条样本对 Qwen2.5-1.5B 做微调,得到决策模型 QJev-1.5B:把 Qwen 最后一层隐藏态接入 MLP 决策头,单次前向(31ms)直接输出最多 10 个选项的校准概率,替代 LLM 逐 token 生成 "Option A" 的 400ms 自回归解码。

三阶段渐进训练:

卖点:

成绩: 官方严格基准(tol=0.05)62.53%,在 2B 以下档排第 1,超过 jiwo-4b、decision-4b 等 4B 模型;一致性 71.50%,接近 9B 模型(72%)和 27B(76.5%),而体积小 18 倍、速度快 6 倍。模型与代码已在 Hugging Face 和 GitHub 开源。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →