Snorkel 复核 Terminal-Bench 数据修复:55% 的 fix 存在奖励劫持
ajratner · x · 2026-10-21
SnorkelAI 团队用内部 QC 平台审计了 @preferencemodel 对 Terminal-Bench 相关数据集的发现与修复,结论值得注意:
- 认可其中的多数发现,但约 55% 的修复本身存在问题,包括 reward hacking 与过度规范化(over-prescriptiveness)
- 约 40% 的已报告问题其实在上游仓库早有追踪,其中 21 个任务已有待合并的修复 PR
发起者 ajratner 与转评者 rebeccatqian 强调:构建这类数据集并维护开放基准很难,攻击系统比防御容易、审阅比修复容易,需要社区维护者与领域专家的开放协作式评审才能做好。Terminal-Bench 是最早一批社区共建的开放持续基准。
所属事件:Snorkel 审计 TerminalBench 修复：55% 存在奖励劫持(3 条相关)→
「研究」频道最新
- NeurIPS 2026 主会报名不含工作坊，教授提醒需单独加购 — CSProfKGD · 2026-10-21
- GovAI 分析：开源与闭源模型生物能力差距仅约 7 个月 — Manderljung · 2026-10-21
- 可实证性越强的学科引用越平等？经济学家补充一个反例 — soumitrashukla9 · 2026-10-21
- 深度学习可解释性入门:ISM、DeepLIFT、DeepSHAP 等方法图解 — anshulkundaje · 2026-10-21
- TerminalBench 作者回应评测争议：建数据难，欢迎加入社区共建 — ajratner · 2026-10-21
- 开源项目做成创业公司：FrontierCS 团队晒「B 轮」与五个月冲刺 — OfirPress · 2026-10-21