斯坦福 Hinted Scaling Laws：省 5600 倍算力预测 GSM8K 成绩
StanfordAILab · x · 2026-11-04
斯坦福团队（含 Percy Liang、Tatsunori Hashimoto、John Duchi 等）提出「Hinted Scaling Laws」方法，用于在低算力下预测 benchmark 最终准确率。
核心思路：
- 把一个 benchmark 改造成一系列带提示（hints）的更简单版本，形成 hint level H 与计算规模 C 两个维度
- 对 C 和 H 做联合建模，可以从大量得分为零的小模型外推出完整训练后的准确率
- 实测在 GSM8K 上：用少 5600 倍的计算量，即可把最终准确率（H=0）预测到 3 个百分点以内
图中显示标准 scaling law 在小算力区严重发散（虚线上冲），而 hinted law 能从零分区域平滑外推到高算力真实成绩，为低成本评测和训练决策提供了新工具。
所属事件:斯坦福提出 Hinted Scaling Laws，小算力预测大模型成绩(2 条相关)→
「研究」频道最新
- 伯克利等开源 DR Pixel：27B 模型直接读论文图像，匹敌 GPT-5.4 — CShorten30 · 2026-11-04
- 开发者发布尼日利亚法律语料库,覆盖宪法与多部法案供 RAG 使用 — saheedniyi_02 · 2026-11-04
- 把漏洞研究看成拓扑问题：跨审计复用局部证明 — dyn___ · 2026-11-04
- 未来 agent 将自治操作自身权重与记忆，但缺协调策略研究 — sarahcat21 · 2026-11-04
- 手写 10 万参数模型权重识别假法律引用，效果超训练 — AaronBergman18 · 2026-11-04
- 斯坦福复检 50 项知名 LLM 结论:44% 已失效,中位寿命 14.7 个月 — heyshrutimishra · 2026-11-04