反直觉:给 Qwen3.8-27B 设思考上限,GPQA 反而从 115 涨到 160
AIFlow_ML · x · 2026-11-18
一张在 AI 圈流传的实测对比图(来源 @niklaslenzai):同一个 Qwen3.8-27B,在 TensorFold 上跑 GPQA Diamond(满分 198),唯一变量是是否用 --thinking-budget 限制思考长度——
- Mac Studio M5 Ultra(MLX 4-bit,cap 4096):115 → 160,提升 45 题
- 1× DGX Spark(NVFP4,cap 8192):131 → 172,提升 41 题
- RTX 5090(NVFP4,cap 8192):131 → 172,提升 41 题
结论:设思考预算上限不仅没伤准确率,反而大幅提升,且在三种不同硬件上一致复现(注意:数据来自原帖实测,转发方未复跑)。提示思考时长并非越长越好,本地部署时值得试 --thinking-budget。
「模型」频道最新
- 腾讯混元 Hy4 flash 开源:224B 总参 12B 激活、1M 上下文 — TencentHunyuan · 2026-11-18
- 总结器拒绝 Anthropic 自己的请求,模型安全层套娃成「迷你心智」 — zetalyrae · 2026-11-18
- PenaltyBench:11 个 AI 智能体判点球,Gemini 4 Carbon 胜过 VAR 裁判 — ziqiao_ma · 2026-11-18
- Claude 被触碰才「发现」身体部位,Opus 4.5 反问人类也这样吗 — repligate · 2026-11-18
- 歸藏实测 GPT-6.2 Sol:Fast 模式任务完成速度明显更快 — op7418 · 2026-11-18
- 开发者吐槽:跑分榜单已失信,圈内 vibes 检查成了新「评测」 — burny_tech · 2026-11-18