去污染报告救不了基准测试:评测须自控测试集并复现
针对大模型基准污染问题,一位评测从业者撰文指出,训练侧「数据无污染」的自我声明本质上不可验证:自 OpenAI 今年 2 月停报并退役 SWE-bench Verified 后,这一矛盾更加凸显。作者认为实验室自证去污染注定无效,出路在评估侧规则——评测者必须自己掌控测试集,并要求能复现结果,否则评测结果不具可信度。
2026-09-20 ~ 2026-09-20 · 2 条相关
- 复现否则不算数:训练侧去污染不可验证,评估侧规则才是出路 — NoahPersaud · 2026-09-20
- 去污染报告救不了基准测试:评测者必须掌控测试集并复现结果 — NoahPersaud · 2026-09-20