社区激辩:低成本评测能否检验基准污染与刷榜
11 月 8 日,paulcal 与 teortaxes 就一项新评测设计展开激辩。paulcal 认为其聪明之处在于构建成本极低,可套用到大量现有 benchmark 上,作为对「理想结果」的稳健性检查,且与刷榜(benchmaxxing)仅弱相关。teortaxes 则补充指出,agent 明显会推理「自己为什么不做正确的事」,既可能通过新版本测试也可能拒绝执行,因此黑箱行为主义式的检验方法并不适用。
2026-11-08 ~ 2026-11-08 · 3 条相关
- paul_cal:低成本评测设计可复用到现有基准,是与刷榜弱相关的稳健性检查 — paul_cal · 2026-11-08
- 评测污染检查够不够?teortaxes 与 paul_cal 激辩低成本泛化测试 — teortaxesTex · 2026-11-08
- teortaxes 补充:agent 明显会推理「为何不做正确的事」,黑箱行为主义不适用 — teortaxesTex · 2026-11-08