模型 checkpoint 比较必须与测试 harness 绑定
jmpenni87 · reddit · 2026-08-25
文章指出,单纯比较 checkpoint 意义不大,因为 prompt、数据集或验证器的变化都会导致结果偏差。正确的做法是将 checkpoint 名称、数据集、提示词模板、工具描述等所有变量打包成一个版本化的实验 bundle。在比较不同阶段的 checkpoint 时,应保持其他所有变量冻结,仅改变阶段,以确保结果的可解释性。
「模型」频道最新
- Jalapeno 优化 DeepSeek 实现,程序执行速度超 VR200 — itsclivetime · 2026-08-26
- MazeBench 新榜:多家顶尖模型得分为 0% — maziarmazi23572 · 2026-08-26
- IBM Granite 4.2 登陆 Ollama:3B/8B/30B 三规格开源企业智能体模型 — krvarshney · 2026-08-26
- 黄仁勋赠 DGX Station,Perplexity 演示本地跑前沿模型 — AravSrinivas · 2026-08-25
- Polymarket盘口:Anthropic两周内发布新模型概率74% — Polymarket · 2026-08-25
- 实测发现:Qwen 小模型低成本匹敌 Claude — Ok-Challenge-7810 · 2026-08-25