DoubtLess 免训练对比解码,Qwen3-32B 思维链缩短 31% 精度不变
Minghao Luo · hf · 2026-10-14
港中文与 EPFL 提出 DoubtLess,一种免训练的解码方法压缩推理模型思维链:
- 机制:用一个小的推理模型把大模型的 CoT 读两遍——一次提示求简、一次提示求繁——取两者 logit 差并按强度缩放,每步加到大模型 logits 上引导简洁
- 效果:Qwen3-32B 在七项竞赛数学、研究生科学与编程基准上 CoT 缩短 31% 且精度不变,胜过五个推理时基线;自调试 coding agent 中每轮思考 token 减少 20%;可与其他模型家族及训练式压缩方法叠加
- 分析:节省主要来自正确答案首次出现后的重复检查;代码开源
「编程与Agent」频道最新
- Anthropic skills 编写指南 6 要点:渐进式披露是核心 — eherrerosj · 2026-10-14
- 开源项目 xtool：在 Linux/WSL 上替代 Xcode 构建 iOS 应用 — lxfater · 2026-10-14
- 90% AI Agent 把密钥拼进 Prompt,一次注入攻击就足以泄露凭证 — sujingshen · 2026-10-14
- Matt Pocock 拟为 /grill-me 增加 GRILL.md 自定义配置文件 — mattpocockuk · 2026-10-14
- 开发者用 Claude 搭游戏引擎 With,做出 Steam Deck 可玩的《WIPE: Survival》 — QuixiAI · 2026-10-14
- 开发者放话:2026 年已无理由用 Python,agent 写码时代易用性不再稀缺 — zack_overflow · 2026-10-14