120 万次调用实测:温度 0 下 LLM 跑分仍有最高 24% 波动
lulzxdxdxd · reddit · 2026-10-13
arXiv 论文(2610.13823)通过 120 万次模型调用、覆盖 3 个 benchmark 发现:即使在 temperature=0 下,相同运行的评测结果中 0.07%–10% 的行会发生变化,某任务上波动高达 24%。这意味着常规 benchmark 分数的微小差异可能只是随机噪声,对模型评测与榜单可信度有直接警示意义。
「模型」频道最新
- Ethan Mollick:19 款手机端模型已超越昔日霸主 GPT-4 — emollick · 2026-10-13
- 最低 8 美元订阅不含 Grok Bot,付费用户需注意 — op7418 · 2026-10-13
- 开源 OCR 模型 olmocr 新 SOTA 达 85.9%,4B 参数却遭质疑不够用 — srchvrs · 2026-10-13
- 面壁 MiniCPM-V-4.7-1B 上架 HF:轻量端侧多模态模型 — openbmb · 2026-10-13
- Meta 新模型冲进前沿:Reasoning 更省 token,Vals 榜仅次于 Claude — EdwardSun0909 · 2026-10-13
- Meta 论文:循环 MoE 用一半参数追平 2 倍大模型,推理提升 3 倍效率 — ChengleiSi · 2026-10-13