斯坦福提出 Hinted Scaling Laws:低算力预测大模型基准成绩

斯坦福团队(Percy Liang、Tatsunori Hashimoto、John Duchi 等)发布论文《Hinted Scaling Laws》,解决 scaling law 外推难题:把 benchmark 改造成一系列更容易的「带提示」降级版本,即使小模型在原基准上得零分也能据此外推大模型成绩。实验显示该方法可用约 1/5600 的算力预测 GSM8K 成绩,误差控制在 3 分以内,大幅降低 benchmark 评测成本。

2026-11-03 ~ 2026-11-04 · 4 条相关