为什么人类 IQ 测验能考词汇,AI 训练却会被 Goodhart 化
JoshPurtell · x · 2026-11-02
作者用一个类比讨论评测设计与训练数据的本质差异:人类 IQ 测试可以用冷僻词汇测试,因为没人会为刷分专门背单词;但在模型训练中这类做法会被 Goodhart 化——一旦目标可被针对性优化,评测就失效了。
作者进一步区分两个概念:训练数据必须在所有可被搜索的策略下都保持有效,而评测数据只需对特定训练流程产出的特定模型集有效(理想情况下这些模型训练时并不知道评测内容)。这解释了为什么评测可以比训练数据更宽松。
所属事件:前评测开发者系统阐述训练数据与评测数据不能混用(17 条相关)→
「研究」频道最新
- HalachaBench 引发争论：用塔木德律法考模型是知识还是推理？ — teortaxesTex · 2026-11-02
- Sebastian Raschka 免费放出 11 小时推理模型从零构建视频课 — AxSaucedo · 2026-11-02
- 微软与伯克利开源 TokenEconomizer，让编码 Agent 省 18-31% Token 成本 — victor_explore · 2026-11-02
- TLA-Verus:用 LLM 智能体自动证明 TLA+ 规约的时序性质 — tianyin_xu · 2026-11-02
- 有人指出 J-Lens 本质只是一阶泰勒展开,质疑官方博客为何不提 — burny_tech · 2026-11-02
- Mollick:ARC-AGI 等大基准已饱和,SemiAnalysis 专家级评测路子对了 — emollick · 2026-11-02