斯坦福提出 Hinted Scaling Laws:低算力预测大模型基准成绩
斯坦福团队(Percy Liang、Tatsunori Hashimoto、John Duchi 等)发布论文《Hinted Scaling Laws》,解决 scaling law 外推难题:把 benchmark 改造成一系列更容易的「带提示」降级版本,即使小模型在原基准上得零分也能据此外推大模型成绩。实验显示该方法可用约 1/5600 的算力预测 GSM8K 成绩,误差控制在 3 分以内,大幅降低 benchmark 评测成本。
2026-11-03 ~ 2026-11-04 · 4 条相关
- 斯坦福提出Hinted Scaling Laws:小模型零分也能外推大模型成绩 — heghbalz · 2026-11-03
- 斯坦福 Hinted Scaling Laws:省 5600 倍算力预测 GSM8K 成绩 — StanfordAILab · 2026-11-04
- 博士压轴论文:用带提示的降级版 benchmark,以 1/5600 算力预测 GSM8K 成绩(误差 3 分内) — kenziyuliu · 2026-11-04
- 新方法从零分模型预测基准成绩:算力省 5600 倍,误差 3 分内 — kenziyuliu · 2026-11-04