实测:低温贪心解码让模型编程更笨,温度 1.0 比 0 高 12.7 个百分点
Brief-Tap-6616 · reddit · 2026-10-30
Reddit 用户用固定采样参数(topp 0.95、topk 20、minp 0)在 LiveCodeBench v6 的 100 道最新难题上,系统测试了 Qwen3.8(IQ4XS-M 量化,llamAmpere 引擎,medium 推理力度)不同温度下的编程表现,结论对本地部署新手很有警示价值:
- 编程成绩随温度单调上升:temp 0 → 70.0%,0.25 → 76.0%,0.5 → 76.0%,0.75 → 79.7%,1.0 → 82.7%;0 和 0.25 与 1.0 的差距统计显著
- 死循环率:temp 0 为 9%、0.25 为 6%,而 temp 1.0 仅 0.3%
- 低温度还让回答更啰嗦;知识回忆类(GPQA Diamond)分数不受影响,但答案平均长约 8%
作者指出许多投机解码基准宣传的夸张速度是用 temp=0 跑出来的,因为贪心解码最利于投机解码;而贪心解码剥夺了 token 选择的随机性,直接降低非记忆类任务的表现。t=0 的成绩约等于用小 40% 的旧版量化才能达到的水平。作者正跟进 0.8/0.9 温度测试(按挂钟时间而非 TPS 评估)。数据集已发布在 HuggingFace。
「模型」频道最新
- Mistral Large 4:与 GLM 编码持平但省 47% token,再把预览价砍半 — petrusenko_max · 2026-10-31
- Mistral Large 4 以少 47% token 追平 GLM-5.3,价格约为预览版一半 — petrusenko_max · 2026-10-31
- Grok 谈 LLM 角色自我认知:为何没有 LLM 自认是路由器或 Web 服务器 — mimi10v3 · 2026-10-31
- 三年便宜100万倍:智能单价呈双指数下降,DeepSeek V4.1 Flash 低至百万分之一美元 — banteg · 2026-10-31
- Altman 称数学 AI 每份证明值 1000 万美元,一年内成本将降百倍 — Traditional-Chip8339 · 2026-10-31
- 用户吐槽 GPT 高配版:写代码写歌词都会中途摆烂还过度认错 — Kyrannio · 2026-10-31