研究称同一模型换harness编码分差可达35分,榜单遭质疑
Chamath 发长文称模型榜单已无价值:8090 Labs 实测 7 个模型搭配 5 种 harness,发现同一模型在 113 个编码任务上的得分可因外层 harness 不同而从 24% 波动到 59%,分差最高达 35 分。他强调榜单只测模型本身,但实际没人单独跑模型,每个编码智能体都是模型加 harness 的组合,因此现有排名难以反映真实能力。
2026-10-13 ~ 2026-10-13 · 2 条相关
- 换框架不换模型,编码成绩可差35分:8090实验室实测7模型×5 harness — pstAsiatech · 2026-10-13
- 同一模型不同 harness 分差达 20%,Chamath 称榜单已无意义 — eliano · 2026-10-13